El expresidente Donald Trump es atacado en grupo por agentes de policía de la ciudad de Nueva York vestidos con equipo antidisturbios. El presidente ruso, Vladimir Putin, en prisión gris detrás de los barrotes de una celda de hormigón con poca luz.
Las imágenes sensacionales y altamente detalladas han inundado Twitter y otras plataformas en los últimos días, en medio de noticias de que Trump enfrenta posibles cargos penales y la Corte Penal Internacional ha emitido una orden de arresto contra Putin.
Pero ninguno de los visuales es remotamente real. Las imágenes, y las decenas de variaciones que ensucian las redes sociales, se produjeron utilizando generadores de imágenes cada vez más sofisticados y ampliamente accesibles alimentados por inteligencia artificial.
Los expertos en desinformación advierten que las imágenes son presagios de una nueva realidad: oleadas de fotos y videos falsos que inundan las redes sociales después de los principales eventos noticiosos y que enturbian aún más la realidad y la ficción en momentos cruciales para la sociedad.
“Agrega ruido durante los eventos de crisis. También aumenta el nivel de cinismo”, dijo Jevin West, profesor de la Universidad de Washington en Seattle que se enfoca en la difusión de información errónea. «Empiezas a perder la confianza en el sistema y en la información que obtienes».
Si bien la capacidad de manipular fotos y crear imágenes falsas no es nueva, las herramientas de generación de imágenes de IA de Midjourney, DALL-E y otras son más fáciles de usar. Pueden generar rápidamente imágenes realistas, completas con fondos detallados, a gran escala con poco más que un simple mensaje de texto de los usuarios.
Algunas de las imágenes recientes han sido impulsadas por el lanzamiento de este mes de una nueva versión del modelo de síntesis de texto a imagen de Midjourney, que puede, entre otras cosas, producir imágenes convincentes que imitan el estilo de las fotos de las agencias de noticias.
En un hilo de Twitter de amplia circulación, Eliot Higgins, fundador de Bellingcat, un colectivo de periodismo de investigación con sede en los Países Bajos, usó la última versión de la herramienta para evocar decenas de imágenes dramáticas del arresto ficticio de Trump.
Las imágenes, que se han compartido y han gustado decenas de miles de veces, mostraban a una multitud de oficiales uniformados agarrando al multimillonario republicano y tirándolo violentamente al pavimento.
Higgins, quien también estuvo detrás de un conjunto de imágenes de Putin siendo arrestado, juzgado y luego encarcelado, dice que publicó las imágenes sin malas intenciones. Incluso declaró claramente en su hilo de Twitter que las imágenes fueron generadas por IA.
Aún así, las imágenes fueron suficientes para bloquearlo del servidor Midjourney, según Higgins. El laboratorio de investigación independiente con sede en San Francisco no respondió a los correos electrónicos en busca de comentarios.
«La imagen del arresto de Trump realmente mostraba casualmente lo bueno y lo malo que era Midjourney para representar escenas reales», escribió Higgins en un correo electrónico. «Las imágenes comenzaron a formar una especie de narrativa cuando añadí indicaciones a Midjourney, así que las encadené en una narrativa y decidí terminar la historia».
Señaló que las imágenes están lejos de ser perfectas: en algunas, se ve a Trump, curiosamente, con un cinturón de policía. En otros, los rostros y las manos están claramente distorsionados.
Pero no es suficiente que usuarios como Higgins indiquen claramente en sus publicaciones que las imágenes son generadas por IA y solo para entretenimiento, dice Shirin Anlen, tecnóloga de medios de Witness, una organización de derechos humanos con sede en Nueva York que se enfoca en evidencia visual.
Con demasiada frecuencia, las imágenes se vuelven a compartir rápidamente con otros sin ese contexto crucial, dijo. De hecho, una publicación de Instagram que compartió algunas de las imágenes de Trump de Higgins como si fueran genuinas obtuvo más de 79,000 me gusta.
«Solo estás viendo una imagen, y una vez que ves algo, no puedes dejar de verlo», dijo Anlen.
En otro ejemplo reciente, los usuarios de las redes sociales compartieron una imagen sintética que supuestamente capturaba a Putin arrodillado y besando la mano del líder chino Xi Jinping. La imagen, que circuló cuando el presidente ruso le dio la bienvenida a Xi al Kremlin esta semana, se convirtió rápidamente en un crudo meme.
No está claro quién creó la imagen o qué herramienta usaron, pero algunas pistas revelaron la falsificación. Las cabezas y los zapatos de los dos líderes estaban ligeramente distorsionados, por ejemplo, y el interior de la habitación no coincidía con la habitación donde tuvo lugar la reunión real.
Dado que las imágenes sintéticas son cada vez más difíciles de distinguir de las reales, la mejor manera de combatir la desinformación visual es una mejor concienciación y educación del público, dicen los expertos.
«Se está volviendo tan fácil y tan barato hacer estas imágenes que deberíamos hacer todo lo posible para que el público sea consciente de lo buena que se ha vuelto esta tecnología», dijo West.
Higgins sugiere que las empresas de redes sociales podrían centrarse en desarrollar tecnología para detectar imágenes generadas por IA e integrarlas en sus plataformas.
Twitter tiene una política que prohíbe los «medios sintéticos, manipulados o fuera de contexto» con el potencial de engañar o dañar. Se adjuntaron anotaciones de Community Notes, el proyecto de verificación de datos de fuentes colectivas de Twitter, a algunos tuits para incluir el contexto de que las imágenes de Trump fueron generadas por IA.
Cuando se contactó para hacer comentarios el jueves, la compañía envió un correo electrónico solo con una respuesta automática.
Meta, la empresa matriz de Facebook e Instagram, se negó a comentar. Algunas de las imágenes inventadas de Trump fueron etiquetadas como «falsas» o «faltas de contexto» a través de su programa de verificación de hechos de terceros, del cual AP es participante.
Arthur Holland Michel, miembro del Consejo Carnegie para la Ética en Asuntos Internacionales en Nueva York que se centra en las tecnologías emergentes, dijo que le preocupa que el mundo no esté preparado para el diluvio inminente.
Se pregunta cómo se regularán las falsificaciones profundas que involucran a personas comunes, por ejemplo, imágenes falsas dañinas de una expareja o un colega.
“Desde una perspectiva política, no estoy seguro de que estemos preparados para lidiar con esta escala de desinformación en todos los niveles de la sociedad”, escribió Michel en un correo electrónico. «Tengo la sensación de que se necesitará un avance técnico aún no imaginado para poner fin definitivamente a esto».
►La entrada ¿Trump arrestado? ¿Putin encarcelado? Imágenes falsas de IA difundidas en línea se publicó primero en MxPolítico.◄
