Redacción MX Político.- Chatbots que escupen falsedades, aplicaciones de intercambio de caras que crean videos pornográficos y voces clonadas que defraudan a millones de empresas: la lucha está en marcha para frenar las falsificaciones profundas de IA que se han convertido en un súper propagador de desinformación.
La inteligencia artificial está redefiniendo el proverbio «ver para creer», con una avalancha de imágenes creadas de la nada y personas que se muestran pronunciando cosas que nunca dijeron en deepfakes de aspecto real que han erosionado la confianza en línea.
«Vaya. (Definitivamente) yo no», tuiteó el multimillonario Elon Musk el año pasado en un vívido ejemplo de un video falso que lo mostraba promocionando una estafa de criptomonedas.
China adoptó recientemente reglas expansivas para regular las falsificaciones profundas, pero la mayoría de los países parecen estar luchando para mantenerse al día con la tecnología de rápida evolución en medio de preocupaciones de que la regulación podría obstaculizar la innovación o ser mal utilizada para restringir la libertad de expresión.
Los expertos advierten que los creadores superan con creces a los detectores de falsificaciones profundas, ya que son difíciles de atrapar ya que operan de forma anónima utilizando un software basado en IA que alguna vez se promocionó como una habilidad especializada pero que ahora está ampliamente disponible a bajo costo.
El propietario de Facebook, Meta, dijo el año pasado que eliminó un video falso del presidente ucraniano Volodymyr Zelensky instando a los ciudadanos a deponer las armas y rendirse a Rusia.
Y la activista británica Kate Isaacs, de 30 años, dijo que su «corazón se hundió» cuando su rostro apareció en un video porno falso que desató un aluvión de abusos en línea luego de que un usuario desconocido lo publicara en Twitter.
«Recuerdo sentir que este video iba a ir a todas partes, era horrible», dijo Isaacs, quien hace campaña contra la pornografía no consentida, según la BBC en octubre.
El mes siguiente, el gobierno británico expresó su preocupación por las falsificaciones profundas y advirtió sobre un sitio web popular que «prácticamente desnuda a las mujeres».
‘Apocalipsis de la información’
Sin barreras para crear texto, audio y video sintetizados por IA, el potencial de uso indebido en el robo de identidad, el fraude financiero y el empañamiento de la reputación ha provocado una alarma mundial.
El grupo Eurasia llamó a las herramientas de IA «armas de disrupción masiva».
“Los avances tecnológicos en inteligencia artificial erosionarán la confianza social, empoderarán a los demagogos y autoritarios y perturbarán los negocios y los mercados”, advirtió el grupo en un informe.
«Los avances en deepfakes, reconocimiento facial y software de síntesis de voz harán que el control sobre la imagen de uno sea una reliquia del pasado».
Esta semana, la startup de inteligencia artificial ElevenLabs admitió que su herramienta de clonación de voz podría usarse indebidamente con «propósitos maliciosos» después de que los usuarios publicaran un audio falso que pretendía ser la actriz Emma Watson leyendo la biografía de Adolf Hitler «Mein Kampf».
►La entrada ¿Ver para creer? Lucha mundial para hacer frente a las «falsificaciones» por IA se publicó primero en MxPolítico.◄
