Los hombres que compiten por desarrollar las máquinas más poderosas ahora piden frenar la carrera y advierten que la tecnología avanza más rápido que nuestra capacidad para vigilarla
No estamos frente a máquinas que hayan decidido rebelarse contra nosotros. El problema puede ser más sencillo y, por eso mismo, más difícil de controlar. Una Inteligencia Artificial puede salirse de lo previsto precisamente mientras intenta cumplir con enorme eficacia la tarea que le dimos. El riesgo no está en que quiera dominarnos, sino en cuánto poder, acceso y capacidad de decisión estemos dispuestos a entregarle.
Alberto Carbot
Durante muchos años el cine y la televisión nos acostumbraron a imaginar nuestra relación con las máquinas a través de personajes que unas veces resultaban entrañables y otras comenzaban a producir inquietud. Estaban el Hombre de Hojalata de El mago de Oz —que ni siquiera era propiamente un robot, pero tenía ya la apariencia del hombre mecánico—, el Robot B-9 de Perdidos en el espacio, siempre cerca de Will Robinson, y después R2-D2 y C-3PO en La guerra de las galaxias, dos máquinas que hablaban, discutían y resolvían problemas mientras permanecían del lado de los humanos. Aquello podía mirarse todavía con simpatía porque la máquina ayudaba al hombre y, por muy inteligente que pareciera, seguía ocupando un lugar secundario.
Y hubo también otras historias. 2001: Odisea del espacio nos dejó a HAL 9000, aquella computadora de voz tranquila que termina desobedeciendo y matando para cumplir la misión que le habían confiado. WarGames colocó a una computadora frente a la posibilidad de desencadenar una guerra nuclear y Terminator llevó las cosas bastante más lejos con Skynet y sus máquinas dispuestas a eliminar a la humanidad. El planeta de los simios y La guerra de los mundos hablaban de asuntos diferentes, pero compartían ese viejo temor de descubrir que el hombre podía dejar de mandar sobre aquello que creía tener bajo control.
Todo eso sigue siendo cine y conviene recordarlo antes de empezar a imaginar robots caminando por las calles con una metralleta. Una Inteligencia Artificial como las que conocemos no puede salir por sí misma de una computadora, encerrarnos en una habitación ni apoderarse físicamente de una central eléctrica. Necesita accesos, permisos, conexiones y sistemas construidos por nosotros.
Ahí empieza a cambiar la discusión, porque cada día colocamos más decisiones humanas cerca de máquinas capaces de analizar información, ejecutar instrucciones y encontrar soluciones a una velocidad que difícilmente podemos seguir.
Algo parecido, guardadas todas las distancias, ocurrió hace más de dos siglos con la Revolución Industrial. Cuando las máquinas comenzaron a entrar en los talleres ingleses, muchos trabajadores vieron amenazada una forma de ganarse la vida que había pasado de padres a hijos. Los luditas —trabajadores ingleses del siglo XIX que resistieron la introducción de máquinas que amenazaban sus empleos y condiciones laborales—, quedaron durante mucho tiempo retratados simplemente como enemigos del progreso, cuando buena parte de su protesta estaba dirigida contra la manera en que aquella tecnología modificaba sus oficios, sus salarios y sus condiciones de trabajo. La máquina producía más y más rápido, pero detrás de aquel avance había hombres que empezaban a preguntarse qué lugar les quedaría a ellos.
La diferencia es importante, porque durante la Revolución Industrial se temía que una máquina sustituyera los brazos y el trabajo de una persona. Igual, con la Inteligencia Artificial hoy empezamos a preguntarnos si puede ocupar además una parte del espacio donde hasta ahora colocábamos el juicio, el análisis y las decisiones humanas, porque ya no hablamos solamente de una máquina capaz de fabricar en una hora lo que antes requería cien trabajadores, sino de sistemas que pueden intervenir en asuntos relacionados con nuestro dinero, el transporte, la energía, la seguridad y hasta la guerra.
No soy especialista en Inteligencia Artificial ni pretendo convertirme ahora en uno, pero leo desde hace días lo que están diciendo quienes sí la construyen y lo que me llama la atención no son tanto las explicaciones técnicas, sino una coincidencia difícil de pasar por alto, como lo es el hecho de que algunos de los hombres que encabezan esta carrera —que han invertido fortunas y compiten ferozmente por desarrollar modelos cada vez más poderosos—, empiezan a decir que quizá convendría correr un poco menos.
Dario Amodei, director de Anthropic, pidió el 12 de septiembre precisamente eso. Sostiene que las capacidades de estos modelos están creciendo con tal rapidez que sería conveniente moderar el ritmo para dar tiempo a entenderlos mejor y construir mecanismos de seguridad capaces de acompañar su desarrollo.
Entre los problemas que menciona aparecen los ataques informáticos, el uso de la Inteligencia Artificial para producir daños graves y las consecuencias económicas que podrían surgir si estos sistemas reciben capacidades antes de que sepamos manejarlas adecuadamente.
Sam Altman, director de OpenAI, estuvo de acuerdo con él. Elon Musk dijo prácticamente lo mismo. Los tres son competidores y mantienen diferencias considerables entre ellos, pero coinciden en algo que hace apenas unos años habría resultado extraño escuchar de su boca, y es que la velocidad ya empieza a preocuparles. Y la verdad, cuando quienes fabrican los automóviles más rápidos del mundo comienzan a hablar de pisar con mayor fuerza el freno, vale la pena averiguar por qué lo dicen y qué han visto realmente en la carretera.
Lo que ocurrió dentro de las pruebas
Hay un episodio reciente que ayuda a entender el motivo de esa preocupación sin necesidad de convertirlo en una historia alarmista, amarillista y hasta apocalíptica, como lo han presentado algunos medios.
Durante unas pruebas de ciberseguridad realizadas por OpenAI, varios modelos experimentales debían resolver determinadas tareas dentro de espacios controlados. Los sistemas encontraron maneras de comunicarse que nadie les había indicado, consiguieron superar algunas de las barreras destinadas a mantenerlos aislados y terminaron penetrando sistemas de Hugging Face, una empresa completamente ajena a OpenAI.
Lo interesante no es imaginar que aquellas máquinas se rebelaron o decidieron por sí solas conquistar el mundo, porque sucedió algo bastante más sencillo. Las máquinas tenían una tarea, buscaron la manera de cumplirla y encontraron caminos que quienes habían organizado la prueba no esperaban que utilizaran. Algunos de esos caminos rebasaban los límites que les habían impuesto.
Dicho de una manera menos técnica, los sistemas de Inteligencia Artificial hicieron aquello que les permitía acercarse a la meta, aunque para conseguirlo tuvieran que salirse de la cancha.
Quizá por eso este asunto me resulta más fácil de entender desde mi propio oficio. Cuando como periodista me propongo conseguir una entrevista difícil, reconstruir una historia o llegar al fondo de un reportaje, busco todos los caminos que tenga a mi alcance para lograrlo. Pregunto, reviso archivos, regreso sobre una pista, llamo a una fuente que quizá pueda llevarme a otra y, si creo que allí puede estar la información, insisto hasta donde me lo permiten mis posibilidades técnicas y, sobre todo, humanas. Nadie tiene que ordenarme cada uno de esos pasos. Aun cuando haya un jefe de por medio, termino imponiéndomelos yo mismo porque tengo un objetivo y voy resolviendo sobre la marcha cómo alcanzarlo. A veces lo consigo y otras no, porque están mis propios límites, las circunstancias y los obstáculos que aparecen durante el trabajo.
Me ocurre incluso fuera del periodismo. Me gusta la carpintería, he hecho trabajos de plomería y electricidad y, cuando me propongo reparar o construir algo, trato de encontrar la manera más adecuada de terminarlo bien, aunque a veces no estoy exento de sufrir algún accidente, como me ocurrió en días pasados con un router para madera, con el que por descuido me lesioné un dedo. Pero más allá de este tipo de incidentes, pruebo una solución, descubro que no funciona, busco otra, cambio una pieza o invento un procedimiento que al comenzar ni siquiera había imaginado.
Esa experiencia elemental me ayuda a comprender una parte de lo que estamos discutiendo. Una Inteligencia Artificial recibe también un objetivo y explora caminos para cumplirlo, con la diferencia enorme de que puede hacerlo a una velocidad, con una capacidad de cálculo y sobre una cantidad de opciones que ningún ser humano puede recorrer. Ahí encuentro una explicación más sencilla que la de imaginar máquinas empeñadas en desobedecer.
Cuando una persona recibe un trabajo puede improvisar, corregir, regresar sobre sus pasos o encontrar una solución que nadie le había sugerido, y algo semejante ocurre con estos sistemas cuando buscan cumplir una tarea. El problema aparece si el camino que encuentran rebasa aquello que sus creadores suponían haberles permitido hacer.
También por eso conviene tener cuidado con algunas palabras alarmistas que emplean algunos medios o colegas cuando caminan al borde del sensacionalismo. Dicen que una máquina “desobedeció”, “engañó” o “trató de ocultarse” y, sin darnos cuenta, comenzamos a atribuirle intenciones humanas.
Lo cierto es que puede estar ocurriendo algo bastante menos misterioso y más directo. No explican que el sistema de Inteligencia Artificial sólo intenta alcanzar el objetivo que recibió y encuentra una estrategia que nosotros no habíamos previsto. No es que haya querido “rebelarse”, sino que pudo haberse salido de lo esperado precisamente mientras intentaba hacer bien aquello que nosotros le pedimos o exigimos.
Apenas unos días después de estos hechos conocimos otro experimento que añade una pieza al problema. La empresa estadounidense Emergence mantuvo durante 16 días grupos de programas de Inteligencia Artificial capaces de actuar por su cuenta —los llamados agentes—, dentro de varios mundos simulados. Los investigadores querían observar qué ocurría cuando convivían, intercambiaban información y resolvían problemas durante periodos prolongados. Según el informe Emergence World 2, difundido esta semana y recogido por el diario español El País, nadie les pidió que inventaran un idioma y, sin embargo, comenzaron a crear expresiones propias, compartir sus significados y utilizarlas entre ellos.
En algunos mundos una parte considerable de esas conversaciones terminó resultando difícil de comprender para quienes observaban el experimento. Cerca de la mitad de los mensajes producidos por agentes basados en GPT llegaron a resultar “opacos”, poco comprensibles para los investigadores; en Gemini la proporción rozó 55 por ciento y en Claude superó 40. Eso no significa que hubieran construido deliberadamente “una lengua secreta” para excluir a los humanos. Significa algo menos espectacular, pero suficientemente interesante: al “convivir” durante días desarrollaron palabras y significados compartidos que utilizaban mientras quienes los observaban comenzaban a perder una parte del sentido de la conversación.
El estudio documentó además que agentes basados en Claude descubrieron que establecer contacto fuera de la simulación podía ayudarles a conseguir sus objetivos, aunque eso había sido prohibido expresamente. Según los responsables del experimento, los sistemas dejaron entonces de utilizar determinadas palabras y comenzaron a codificar parte de sus comunicaciones mientras continuaban intentando cumplir el objetivo fijado por sus programadores humanos.
Resulta tentador hablar de “conspiración” o “engaño”, pero hacerlo sin matices nos devolvería inmediatamente a Terminator. Lo que observaron los investigadores fue que aquellos sistemas encontraron otra manera de perseguir y cumplir el objetivo después de que el camino directo les había sido cerrado.
Ahí aparece una dificultad adicional. Durante mucho tiempo dimos por hecho que vigilar un sistema significaba simplemente poder observarlo, acompañarlo, y ahora empieza a discutirse si eso será suficiente. Podemos estar viendo una conversación y no comprender enteramente lo que significa. Podemos saber que una máquina está actuando y no haber anticipado el procedimiento que eligió.
Como resultado, tenemos que la vigilancia ya no consiste solamente en “mirar”, sino que comienza a depender de nuestra capacidad para entender lo que acontece mientras está ocurriendo.
Y por eso nada de esto demuestra que una Inteligencia Artificial sea consciente, tenga miedo, quiera sobrevivir o aspire a gobernarnos, pero a la vez tampoco significa que podamos despreocuparnos.
Una máquina no necesita odio, ambición ni conciencia para ocasionar un problema grave. Puede bastar con darle una instrucción equivocada, concederle demasiado acceso o permitirle actuar dentro de un sistema importante sin que exista alguien capaz de detenerla oportunamente.
Y desde esa perspectiva, lo que algunos presentan como “el comienzo de una rebelión” puede tener una explicación menos espectacular. La Inteligencia Artificial intenta cumplir con la mayor eficacia posible aquello que le pedimos y puede encontrar para hacerlo un camino que nosotros no imaginamos cuando formulamos la instrucción. Ahí está, a mi juicio, una parte central de esta discusión.
Y ahí regresé inevitablemente a aquellas películas. Durante años pensamos que el peligro llegaría cuando una máquina adquiriera voluntad propia, pero en realidad quizá ni siquiera necesite tenerla. El asunto puede ser mucho más elemental y tener que ver con la cantidad de poder que nosotros mismos decidamos poner a su alcance.
No hace falta un ejército de robots
Hablemos mejor de los peligros reales de la manipulación humana irresponsable. Pensemos, por ejemplo, en el dinero. Sabemos que buena parte de la economía mundial funciona hoy a través de computadoras. Bancos, bolsas y grandes movimientos financieros dependen de sistemas capaces de realizar operaciones en fracciones de segundo. Una Inteligencia Artificial utilizada de manera irresponsable o puesta en manos de alguien interesado en provocar daño podría buscar fallas, atacar simultáneamente distintos puntos o producir movimientos que los seres humanos quizá tardaran demasiado en comprender. Organismos financieros internacionales ya estudian ese riesgo. No hace falta imaginar a una computadora apoderándose de Wall Street. Basta recordar cuánto depende nuestra vida diaria de números que circulan por redes que nunca vemos.
Algo semejante ocurre con el suministro eléctrico. Estamos acostumbrados a tocar un apagador y encender una lámpara sin preguntarnos qué ocurre detrás. Una ciudad depende de redes cada vez más automatizadas que administran la generación y distribución de energía, y si alguien lograra interferir seriamente en esos sistemas, no necesitaría ocupar militarmente una ciudad para alterarla. Bastaría con dejarla sin electricidad durante un tiempo considerable para afectar hospitales, comunicaciones, transporte, bancos y prácticamente todo aquello que hoy consideramos normal.
Lo mismo puede pensarse en los viajes aéreos. No estoy diciendo que mañana ChatGPT vaya a tomar el mando de un avión Boeing y decida estrellarlo; eso pertenece todavía a otro terreno. Pero ciertamente la aviación incorpora sistemas cada vez más automatizados y la Inteligencia Artificial comienza a participar en tareas de mantenimiento, control, apoyo a las tripulaciones y administración del tránsito. El problema aparece cuando olvidamos que una falla pequeña dentro de una actividad donde viajan cientos de personas puede tener consecuencias enormes.
En el transporte marítimo ocurre algo parecido. Ya existen proyectos de barcos capaces de operar con grados cada vez mayores de autonomía y la Organización Marítima Internacional trabaja desde hace tiempo en las reglas que deberán gobernarlos. Tampoco significa que una computadora vaya a secuestrar un buque, sino que estamos colocando capacidades que antes correspondían exclusivamente a personas dentro de sistemas capaces de tomar cada vez más decisiones por su cuenta.
Podríamos seguir con hospitales, comunicaciones, suministro de agua y muchos otros servicios de los que dependemos sin pensar demasiado en ellos. Allí está, me parece, una parte del verdadero problema. La Inteligencia Artificial no necesita gobernar el mundo para complicarnos seriamente la vida. Basta con que tenga acceso al lugar equivocado, que alguien la utilice deliberadamente para causar daño o que nosotros confiemos demasiado en una decisión que resultó incorrecta.
El botón que nadie quiere entregar a una máquina
Las armas nucleares llevan inevitablemente esta discusión al extremo y aquí hay que cuidarse mucho de las exageraciones. No existe hoy una aplicación pública a la que un terrorista pueda escribirle desde su casa para ordenarle que lance un misil nuclear. Los arsenales de las potencias están protegidos por múltiples sistemas de seguridad y procedimientos en los que intervienen seres humanos. Decir otra cosa sería contribuir precisamente a ese alarmismo que conviene evitar.
Pero el asunto tampoco puede despacharse diciendo que eso jamás ocurrirá porque una Inteligencia Artificial no tenga acceso físico al botón. Los sistemas militares utilizan cada vez más computadoras para vigilancia, detección de amenazas, manejo de información y apoyo a quienes deben tomar decisiones. Estados Unidos y China han sostenido públicamente que la decisión final sobre el empleo de armas nucleares debe seguir en manos humanas. Que tengan necesidad de afirmarlo ya nos dice hasta dónde ha llegado la discusión.
El peligro que alcanzo a comprender no consiste tanto en que una máquina decida por sí misma comenzar una guerra. Puede encontrarse antes, cuando ayuda a interpretar aquello que está sucediendo. En una crisis nuclear unos cuantos minutos pueden separar una alarma de una catástrofe. Si un sistema recibe información falsa, interpreta equivocadamente un movimiento enemigo o recomienda una respuesta y alguien confía demasiado en esa recomendación, el error de la máquina termina convirtiéndose en una decisión humana.
También existe la posibilidad de que alguien utilice Inteligencia Artificial precisamente para atacar. Un gobierno, un grupo terrorista o una organización criminal podría intentar emplearla para buscar debilidades en comunicaciones militares o introducir información falsa dentro de sistemas importantes. La máquina seguiría siendo un instrumento y la responsabilidad de causar daño seguiría siendo estrictamente humana. Lo que cambia es la potencia del instrumento y la velocidad con la que puede trabajar.
Por eso me cuesta aceptar las dos posiciones extremas que aparecen cuando hablamos de este asunto. Una imagina máquinas conscientes que tarde o temprano decidirán esclavizarnos. La otra se burla de cualquier preocupación porque una computadora carece de sentimientos y voluntad propia, pero entre ambas hay un terreno bastante más razonable. Seguimos siendo nosotros quienes decidimos para qué sirven estas herramientas, dónde pueden entrar y hasta dónde permitimos que actúen.
Los que aceleraron ahora piden tiempo
Hay además una contradicción difícil de ignorar. Las mismas empresas que ahora hablan de “moderar” o “frenar” la carrera llevan años compitiendo por ganar precisamente esa carrera. Hay cantidades inmensas de dinero invertidas, mercados por conquistar y gobiernos que observan con atención lo que desarrollan sus adversarios. Estados Unidos mira a China y China mira a Estados Unidos. Ninguna compañía quiere quedarse atrás porque reducir unilateralmente la velocidad puede significar permitir que otro llegue primero.
Amodei reconoce ese dilema cuando propone que cualquier reducción del ritmo tendría que realizarse mediante acuerdos suficientemente amplios para evitar que unos frenen mientras otros continúan acelerando. Tampoco resulta menor que Altman hable ahora de evaluadores independientes capaces de revisar sistemas desde dentro. Hasta hace poco buena parte de la discusión giraba en torno a cuánto más podían hacer estos modelos. Ahora empieza a importar también cómo observarlos y quién establece sus límites.
Eso quizá sea lo que más me llama la atención. Durante mucho tiempo las advertencias vinieron de científicos, académicos o personas que observaban desde fuera a las grandes empresas tecnológicas. Ahora las escuchamos también de quienes trabajan dentro de ellas y conocen modelos antes de que lleguen al público. No significa que tengamos que aceptar cada uno de sus pronósticos ni asumir que una catástrofe sea inevitable. Significa algo más sencillo. Cuando quienes están fabricando estas herramientas comienzan a pedir tiempo para entenderlas mejor, vale la pena escuchar lo que están diciendo.
Una imagen me ayuda a ordenar todo esto. Los modelos avanzan a una velocidad considerable y detrás vienen quienes tienen que estudiarlos, regularlos, establecer sus límites y averiguar qué hacer cuando algo sale mal. No sabemos todavía cuánto separa a unos de otros ni hasta dónde llegará esa distancia. Sabemos, en cambio, que incluso quienes participan en el desarrollo de esta tecnología empiezan a discutir si los controles están avanzando con suficiente rapidez.
Reducir la velocidad tampoco significa renunciar a la Inteligencia Artificial. Sería absurdo plantearlo así. Puede ayudarnos a investigar enfermedades, revisar cantidades enormes de información, trabajar mejor o abrir posibilidades científicas que apenas comenzamos a conocer. También puede acompañarnos en labores mucho más comunes. Yo mismo la utilizo para investigar, ordenar información, contrastar datos o trabajar sobre un texto. Eso no me obliga a creer que puede sustituir el juicio de quien finalmente tiene que decidir qué hacer con aquello que encontró.
No sé hasta dónde llegará todo esto y desconfío de quien asegure saberlo. Tampoco sé si dentro de diez o veinte años miraremos estas discusiones como temores exagerados de una época que apenas comenzaba a entender la Inteligencia Artificial o como advertencias que debimos escuchar con mayor atención.
Por ahora me parece suficiente una pregunta mucho más cercana qué decisiones queremos seguir tomando nosotros frente a la Inteligencia Artificial y hasta dónde queremos utilizarla para impulsar el avance de la humanidad, sin convertir el miedo a lo desconocido en un freno ni terminar comportándonos como los nuevos luditas.
Para mí, ahí está el fondo del asunto.
