Cómo todo en los temas de moda, cada uno tiene su razón para divulgar lo que le conviene a sus intereses.
Algunas gigantes tecnológicas, magnifican las capacidades extraordinarias de los modelos de inteligencia artificial, sobre todo, cierta autonomía mostrada en “entornos controlados”. Advierten para generar mayor expectativa, que los agentes de IA que trabajan en base a miles de rutinas de prueba y error, encontraron la forma de escapar de ese entorno y acceder a internet para obtener información casi como si hubieran tomado una decisión consciente. Cabe mencionar que son modelos con una inmensa capacidad de cálculo y datos cuyo algoritmo está diseñado para completar las tareas y en esa medida diseñan alternativas de salida para proveerse de más información.
Aunque está documentado que Mythos Preview encontró vulnerabilidades en sistemas operativos y navegadores web, como OpenBSD y Firefox creando exploits funcionales de forma autónoma y, más recientemente, el AI Security Institute (AISI por sus siglas en inglés), instituto gubernamental del Reino Unido, dedicado a evaluar riesgos de modelos de IA, documentó un caso en el que un agente de IA basado en Mythos 5, creo varias identidades falsas para insertar código malicioso pretendiendo engañar a un programador real de un proyecto de código abierto en GitHub, simulando incluso una segunda cuenta falsa de verificación para descartar su participación. Cabe aclarar que el propio AISI aclaró tambien que la prueba se hizo en condiciones deliberadamente permisivas, es decir, con acceso a internet habilitado y los clasificadores de seguridad del modelo desactivados.
No obstante, lo anterior ha prendido las alarmas sobre la importancia de la supervisión y regulacion algoritmica.
¿Que pretenden las tecnologicas con la estrategia de exagerar un poco la autonomía de la IA? Pues, creo que por una parte, levantar mucho capital, pues las grandes tecnológicas, apuestan por entrar a la bolsa de valores.
Ahora bien, el proyecto de Ley General para Regular y Fomentar el Uso de la Inteligencia Artificial en México, es un compilado de lugares comunes, es decir, norma los usos que se le han dado a esta tecnología para cometer delitos cibernéticos tales como deepfakes y acoso digital, ya regulado por la Ley Olympia*, así como el uso de IA generativa, y tecnicismos propios de esta tecnología, pretendiendo proteger derechos humanos para colar de paso la protección de los procesos electorales, evitando que no se genere información falsa con IA que distorsione la inmaculada democracia que promueve la 4t.
La propuesta de Ley mezcla aspectos de ciberseguridad, derechos humanos y sistema electoral, con lo que pretender regular el uso de los sistemas de IA que afecten derechos y el desarrollo de los algoritmos que puedan ser usados para vulnerar principalmente los procesos electorales que tanto les interesan, para ello crea mecanismos, sistemas e infraestructura institucional, como por ejemplo el Sistema Nacional de Inteligencia Artificial y un organismo rector la Agencia de Transformación Digital y Telecomunicaciones en conjunto con la Secretaría de Ciencia, Humanidades, Tecnología e Innovación.
La Ley tiene un título completo de “Principios Éticos, Derechos Humanos y Neuroderechos” con un capítulo de privacidad y ciberseguridad, otro título de “Perspectiva de Género” con un capítulo específico de “Violencia Digital, Deepfakes y Protección Reforzada de las Mujeres”, y disposiciones dispersas sobre desinformación electoral, manipulación política y sistemas usados en procesos electorales. La estructura del propio índice denota que el proyecto es un revoltijo normativo.
*Se denominó Ley Olympia a las reformas implementadas a la Ley General de Acceso de las Mujeres a una Vida Libre de Violencia y a códigos penales estatales, realizadas entre el 2020 y 2021, para tipificar la violencia digital, incluida la difusión no consentida de contenido sexual y cierto acoso en línea.
