Seminario Deepfakes: ficción, política y algoritmos

11 de octubre a partir de las 16h.
DeepFakes. EDCD10_03
Seminario Deepfakes: ficción, política y algoritmos

En este seminario trataremos de generar discusión y trabajo práctico en torno a la ética, estética y políticas de los algoritmos de machine learning utilizados para realizar Deepfakes.

Streaming

Atención: Para las charlas del seminario la entrada es libre hasta completar aforo. Si quieres participar en el taller debes inscribirte en este enlace.

En los últimos años los algoritmos de machine learning se han utilizado entre otras cosas para insertar digitalmente la identidad de diferentes personas y personajes públicos en escenas de video en las que no aparecían inicialmente, en ámbitos tan dispares como el porno, el arte o la política. 

Este tipo de algoritmos entrenados con grandes conjuntos de datos de imágenes reales, usan redes neuronales (redes generativas de confrontación, del inglés Generative Adversarial Networks, GAN) para fabricar nuevas imágenes.

La tecnología ha alcanzado un nivel de fotorrealismo sin precedentes de tal modo que distinguir un video real de uno sintético es ya en muchas ocasiones imposible para el ojo humano. 

En la era de la postverdad, donde se diseñan y crean informaciones falsas como herramienta para obtener réditos económicos, políticos, etc., la capacidad de rastrear y verificar el origen del contenido es un desafío importante. Sin embargo el hecho de que la mayoría de los videos de Deepfake sean obviamente falsos los hace inquietantes e interesantes a partes iguales.

Por otro lado es importante tener en cuenta que la técnica detrás de los Deepfake es, en sí misma, neutral. Al igual que otros muchos recursos, este área del machine learning es un contexto que puede dar pie tanto a usos como a desusos. En este seminario trataremos de generar discusión y trabajo práctico en torno a la ética, estética y políticas de este tipo de algoritmos.

Programación

  • 16:00-16:45.  “NO HUMAN REQUIRED. Testimonio vs. la indiscernibilidad del hecho” Conferencia a cargo de Albano Cruz, aka Naikodemus La relación entre un hecho y su validación siempre es conflictiva. Ante las diferentes posibilidades de establecer lo que es verdad, los deepfakes acercan el problema de la fiabilidad de las percepciones a la cotidianidad mundana. Alejándose de la ciencia ficción, la manipulación tecnológica trae al día a día la vivencia de la incertidumbre, y la imposibilidad de negar nuestra representación a los demás. Un millón de monos escriben la narración de nuestra vida y no podemos desmentirla.

Albano Cruz, aka Naikodemus (Madrid, 1975). Filósofo, autor de «Fenomenología de la Imago» (2017, Enclave). Coeditor de la colección Stalkers en esa misma editorial. Miembro fundador del proyecto WeAreTamagotchi. Miembro estable del Grupo de Estudios Críticos del Reina Sofía. Colaborador del Estado Mental (radio y revista) y del Foro del Futuro Próximo. Integrante de Postfuturear, proyecto de prospección de futuros. De orígenes artísticos y escénicos, hoy post-situacionista, desolacionista y brutalista lógico. Futuro piloto Ono-Sendai.

Twitter: @naikodemus
Web:
albanocruz.com
Canal de Telegram: CiPhilosophy
Otros: postfuturear.com

 

  • 17:00-17:45. “Panorama y retos de la generación de imágenes con IA”. Conferencia a cargo de Anna Giralt Gris. Las máquinas han aprendido a ver y a generar imágenes. ¿Qué implicaciones y retos conlleva este nuevo escenario? ¿Cómo podemos apropiarnos de estas herramientas? Esta charla pretende hacer un breve recorrido por el panorama actual de generación de imágenes sintéticas en el mundo del arte. A través de autores y herramientas plantearemos los retos que genera esta tecnología y cómo podemos apropiarnos de ella.

Anna Giralt Gris es creadora new media y documentalista, interesada en la intersección de la tecnología y la narrativa. Su último cortometraje, “44 messages from Catalonia” ha sido producido por Laura Poitras (directora del oscarizado “Citizenfour”) y publicado en el prestigioso medio independiente The Intercept. Actualmente está produciendo su primer largometraje documental: ROBIN BANK. Es docente de nuevas narrativas en diversas universidades (UB, URL, UPF). Desarrolla proyectos new media e interactivos, que se han estrenado en festivales como SXSW, y forma parte del colectivo ARTIFICIO, que investiga el impacto de la inteligencia artificial en el mundo de las artes. En 2018 ha sido una de las participantes de la IDFA DocLab Academy y en 2019, de Berlinale Talents.

Twitter: @anoulajan
docupraxi.net
gusanofilms.com

 

  • 18:00-20:30. Taller de deepfakes. A cargo de Alejandro Pérez Blanco. Taller introductorio de usos prácticos de inteligencia artificial en el ámbito de la imagen en el que se experimentará directamente con materiales y herramientas. Entre los diferentes acercamientos se mostrará cómo cambiar una cara por otra en un vídeo. Además en el taller se probarán herramientas de inteligencia artificial alternativas con las que se podran generar caras nuevas, crear imágenes fotorrealistas a partir de dibujos o colorear fotografías en blanco y negro. Todo ello a la par que se visibiliza cómo están diseñadas a grandes rasgos las inteligencias artificiales que utilizan empresas como Apple, Tesla, Google o Facebook.     [INSCRIPCIONES AQUÍ]

Alejandro Pérez Blanco lleva casi dos décadas dedicado a los efectos visuales por ordenador. Ha trabajado en cine, series, publicidad y videojuegos. Entre sus trabajos se encuentran The ABCs of Death, Extraterrestre, Open Windows y El fin de la comedia. En verano de 2018 creó su primer deepfake en un proyecto de Manuel Bartual y Modesto García engañando a millones de tuiteros. Desde entonces ha seguido investigando la tecnología y puliendo técnicas. Actualmente colabora con El intermedio para buscarle el ángulo más cómico a la inteligencia artificial.

Twitter: https://twitter.com/thehardmenpath

 

Requisitos previos del taller:

No hace falta saber programación ni manejar otros programas. Los softwares que se utilizan para hacer deepfakes no son programas al uso y cabe la posibilidad de que algunos no funcionen correctamente en todos los ordenadores. En previsión de este hecho se trabajará con distintas herramientas e instalaciones adaptadas al mejor rendimiento para cada participante. 

[INSCRIPCIONES AQUÍ]

Este #edcd_03 se ha organizado en colaboración con I+D: Interacciones del arte en la tecnosfera. La irrupción de la experiencia. (Creación de soportes e instrumentos para una reflexión crítica, pública y transversal) HAR2017-86608-P. Facultad de Bellas Artes. Universidad Complutense de Madrid. http://www.arteytecnosfera.com/

 

COORDINACIÓN

  • Gabriel Lucas Ingeniero Superior en Informática por la Universidad Carlos III de Madrid y la Universidad Técnica de Munich. Comprometido con la cultura y el software libres y las prácticas artísticas y culturales críticas, participa en comunidades como Guifi.net o MakeSpace Madrid. Es coordinador IT de Medialab Prado.

  • Ana G. Angulo   Doctora en Bellas Artes. Profesora de tecnología aplicada al diseño y jefa de departamento de promoción y desarrollo en artediez.es. Miembro del equipo de coordinación de los Encuentros de Diseño y Cultura Digital. Seminarios permanentes en torno a las prácticas creativas digitales en Medialab Prado Madrid. 

  • Lara Sánchez Coterón Doctora en Bellas Artes especializada en arte de los nuevos medios y diseño de interacción, miembro del I+D Interacciones del arte en la tecnosfera. La irrupción de la experiencia. (Creación de soportes e instrumentos para una reflexión crítica, pública y transversal) y miembro del equipo de coordinación de los Encuentros de Diseño y Cultura Digital. Seminarios permanentes en torno a las prácticas creativas digitales en Medialab Prado Madrid.

ORGANIZADORES

  • I+D: Interacciones del arte en la tecnosfera. La irrupción de la experiencia. (Creación de soportes e instrumentos para una reflexión crítica, pública y transversal) HAR2017-86608-P, Ministerio de Ciencia, Innovación y Universidades. Facultad de Bellas Artes. Universidad Complutense de Madrid. http://www.arteytecnosfera.com/

 

  • #EDCD Encuentros de Diseño y Cultura Digital. Ciclo de Actividades permanentes en torno a las prácticas creativas digitales en Medialab Prado Madrid. https://edcd.es/

 

Sesiones de la actividad

16:00 - 21:00
La actividad está finalizada
Tipo de actividad:
Debate/mesa redonda Taller de formación