Los titanes tecnológicos prometen marcas de agua para exponer las creaciones de IA

La Casa Blanca dijo el viernes que OpenAI y otros en la carrera de la inteligencia artificial se han comprometido a hacer que su tecnología sea más segura con características como marcas de agua en imágenes fabricadas.

«Estos compromisos, que las empresas han optado por asumir de inmediato, subrayan tres principios que deben ser fundamentales para el futuro de la IA: seguridad, protección y confianza, y marcan un paso fundamental hacia el desarrollo de una IA responsable», dijo la Casa Blanca en un comunicado.

Representantes de Amazon, Anthropic, Google, Inflection, Meta, Microsoft y OpenAI se unirían al presidente de EE. UU. Joe Biden más tarde el viernes para anunciar los compromisos, que incluyen el desarrollo de «mecanismos técnicos robustos», como sistemas de marcas de agua para garantizar que los usuarios sepan cuándo el contenido es generado por IA, según un funcionario de la Casa Blanca.

La preocupación de que las imágenes o el audio creados por inteligencia artificial se utilicen para cometer fraude y desinformación ha aumentado a medida que la tecnología mejora y se acercan las elecciones presidenciales de EE. UU. de 2024.

Se buscan formas de saber cuándo el audio o las imágenes se han generado artificialmente para evitar que las personas sean engañadas por falsificaciones que parecen o suenan reales.

“Se están comprometiendo a establecer un régimen más amplio para que sea más fácil para los consumidores saber si el contenido es generado por IA o no”, dijo el funcionario de la Casa Blanca.

«Hay trabajo técnico por hacer, pero el punto aquí es que se aplica al contenido de audio y visual, y será parte de un sistema más amplio».

El objetivo es que sea fácil para las personas saber cuándo la IA crea contenido en línea, agregó el funcionario.

Los compromisos de las empresas incluyen pruebas independientes de los sistemas de inteligencia artificial para detectar riesgos en lo que respecta a la bioseguridad, la ciberseguridad o los «efectos sociales», según la Casa Blanca.

Common Sense Media elogió a la Casa Blanca por su «compromiso de establecer políticas críticas para regular la tecnología de inteligencia artificial», según el director ejecutivo de la organización de revisión y calificación, James Steyer.

«Dicho esto, la historia indicaría que muchas empresas de tecnología en realidad no siguen el camino de un compromiso voluntario de actuar de manera responsable y apoyar regulaciones estrictas».

Biden también está trabajando en una orden ejecutiva destinada a garantizar que la IA sea segura y confiable, según el funcionario de la Casa Blanca.

Las marcas de agua para el contenido generado por IA fueron uno de los temas que el comisionado de la UE, Thierry Breton, discutió con el director ejecutivo de OpenAI, Sam Altman, durante una visita a San Francisco en junio.

«Espero continuar con nuestras discusiones, especialmente sobre las marcas de agua», escribió Breton en un tuit que incluía un fragmento de video de él y Altman.

En el videoclip, Altman dijo que «le encantaría mostrar» lo que OpenAI está haciendo con las marcas de agua «muy pronto».

La Casa Blanca dijo que también trabajará con aliados para establecer un marco internacional que rija el desarrollo y uso de la IA.

►La entrada Los titanes tecnológicos prometen marcas de agua para exponer las creaciones de IA se publicó primero en MxPolítico.◄