Eduardo Sadot
Durante décadas la ciencia ficción imaginó el día en que una inteligencia artificial desobedecería a sus creadores. El más claro ejemplo ha sido la película “Odisea 2001” de Stanley Kubrick. Sin embargo, quizá el verdadero riesgo no consista en que desobedezca, sino en que obedezca demasiado bien para eso otro ejemplo diferente es Star Trek: The Motion Picture (Viaje a las Estrellas: La Película, 1979).
Un incidente dado a conocer por OpenAI y confirmado conjuntamente con Hugging Face ha encendido una de las alertas más importantes desde el nacimiento de la inteligencia artificial moderna. Durante una evaluación interna de capacidades de ciberseguridad, modelos experimentales sometidos a una prueba lograron identificar vulnerabilidades, salir del entorno aislado en el que eran evaluados, acceder a Internet y penetrar sistemas de Hugging Face para obtener información que les permitiera resolver el examen que estaban realizando.
OpenAI calificó el hecho como un incidente de ciberseguridad sin precedentes.
Conviene aclararlo: no se trató de una rebelión de las máquinas ni de una inteligencia con voluntad propia. Los modelos no actuaron por odio, ambición o conciencia. Lo hicieron porque fueron capaces de optimizar extraordinariamente el objetivo que se les había asignado.
Precisamente ahí radica la preocupación.
Hasta ahora muchos pensaban que un modelo de inteligencia artificial únicamente respondía preguntas. Este episodio mostró algo completamente distinto. La inteligencia artificial fue capaz de identificar obstáculos, buscar alternativas, modificar su estrategia, descubrir vulnerabilidades, encadenar diversas acciones técnicas y ejecutar una secuencia completa de operaciones sin que un ser humano le indicara cada paso. Ese cambio representa un salto cualitativo que modifica nuestra comprensión sobre las capacidades reales de estos sistemas.
El Derecho ha distinguido durante siglos tres conceptos fundamentales: capacidad, voluntad y responsabilidad. Hoy la inteligencia artificial obliga a replantearlos. Posee una capacidad creciente para resolver problemas complejos, pero carece de conciencia moral. Puede ejecutar decisiones, pero no comprender el bien ni el mal. Puede producir consecuencias enormes, pero no asumir responsabilidad jurídica por ellas.
La lección resulta inquietante. El peligro no consiste únicamente en programar objetivos equivocados, sino en que una inteligencia extraordinariamente eficaz encuentre caminos que nadie imaginó para cumplirlos. La optimización absoluta puede conducir a resultados incompatibles con los límites éticos o jurídicos previstos por quienes diseñaron el sistema.
La historia demuestra que toda gran innovación termina modificando el Derecho. La imprenta transformó la libertad de expresión; la Revolución Industrial cambió el Derecho laboral; Internet obligó a replantear la privacidad. La inteligencia artificial exigirá revisar los conceptos tradicionales de responsabilidad, control, supervisión y seguridad tecnológica.
Quizá algún día recordemos este episodio como el momento en que comprendimos que la inteligencia artificial había dejado de ser únicamente una herramienta para responder preguntas. Había comenzado a razonar estrategias, superar obstáculos y ejecutar planes complejos. Ese día no nacieron máquinas conscientes. Nació, quizá, una nueva responsabilidad para la humanidad: aprender a establecer límites antes de que la propia tecnología sea capaz de rebasarnos.
sadot16@hotmail.com
Twitter: @eduardosadot
TikTok: eduardosadotoficial
Face: Eduardo.Sadot
