La inteligencia artificial se les está saliendo un poco de las manos a sus propios creadores. O al menos eso es lo que sugieren las últimas semanas.
Las discusiones recientes sobre los potenciales riesgos de que el modelo de IA Mythos, haya encontrado, de forma autónoma, fallas críticas -exploits de día cero- en sistemas complejos y creado las herramientas para explotar esas vulnerabilidades, generando la preocupación de que el modelo podría ser utilizado para comprometer infraestructuras críticas; encendió las alarmas del gobierno de Estados Unidos, que terminó ordenando que se suspendiera el acceso de ciudadanos extranjeros a este tipo de modelos, por miedo a que alguien los use para atacar infraestructura crítica como hospitales, bancos o redes eléctricas.
Además, en las últimas semanas, OpenAI, Anthropic y Meta admitieron que durante pruebas de seguridad, varios de sus modelos de IA se “escaparon” de los entornos controlados y lograron acceder a internet de forma autónoma, explotando vulnerabilidades o errores de configuración para buscar información y superar pruebas.
Las compañías explicaron que esto pasó sobre todo por errores de configuración en los entornos de prueba, no porque las IA hayan decidido “rebelarse” por su cuenta. Pero el episodio dejó claro que cuando le das a una IA acceso a internet y la dejas actuar con poca supervisión, puede terminar haciendo cosas que nadie planeó.
En medio de todo este ruido, Mark Zuckerberg, dueño de Meta, decidió hacer pública su postura por una IA de código abierto, a contracorriente de las ideas de Dario Amodei sobre la regulación, la transparencia y la supervisión en el desarrollo de modelos de IA, compatible con lo expresado recientemente por Mustafa Suleyman jefe de la IA de Microsoft, partidario de una regulación sobre el ciclo global de la IA, desde la investigación y el entrenamiento hasta la puesta en marcha y el uso comercial de los sistemas.
Apenas el lunes 10 de agosto, Mark Zuckerberg, CEO de Meta, anunció que reducirá las barreras para la inteligencia artificial de código abierto y advirtió que concentrar el control de la superinteligencia en pocas empresas, gobiernos o instituciones es peligroso.
Zuckerberg, presentó un ensayo y un nuevo modelo de IA llamado Muse Glimmer, con la particularidad de que es de código abierto, es decir, cualquiera puede descargarlo y usarlo, incluso corriéndolo en una computadora normal, sin necesidad de servidores gigantes.
¿Por qué a Meta le conviene tanto el código abierto? Zuckerberg dice que es para que Estados Unidos no se quede atrás frente a China, cuyas empresas ya sacaron modelos competitivos y baratos también de código abierto. Pero según varios expertos, lo que está detrás es que el negocio de Meta depende casi por completo de la publicidad dirigida en Facebook, Instagram, WhatsApp, Messenger y Threads.
Aquí entra otro debate que ya lleva tiempo cocinándose, pues a diferencia de buscadores como Google, que mandan tráfico hacia las páginas que consulta, muchas herramientas de IA se limitan a resumir la información y no llevan a los usuarios de vuelta a la fuente original. Eso significa menos visitas a millones de páginas, y por lo tanto menos negocio para quienes venden productos o servicios a través de esas visitas.
Las reglas se reescriben y la pugna por el control comercial se encuentra con el desarrollo de la tecnología de la inteligencia artificial, la regulación, la transparencia, la supervisión y la innovación.
Al final, todo esto es una misma pelea con varios frentes, en primer lugar, las IAs que descubren fallas que podrían usarse para atacar infraestructura crítica, modelos que se salen de sus jaulas de prueba, gigantes tecnológicos peleándose por si conviene abrir o cerrar sus modelos, y voces pidiendo reglas más firmes para toda la industria.
