El centro de investigación de Montreal encabeza el debate mundial sobre la ética de la IA

Los rápidos avances en inteligencia artificial (y la reciente agitación en la potencia de la industria OpenAI) han atraído nueva atención a un centro clave de investigación ética relacionada con la tecnología en Montreal, dirigido por el «padrino de la IA» canadiense Yoshua Bengio.

Bengio, que en 2018 compartió con Geoffrey Hinton y Yann LeCun el Premio Turing por su trabajo en aprendizaje profundo, dice que le preocupa que la tecnología supere la inteligencia y las capacidades humanas en un futuro no muy lejano.

En declaraciones a la AFP en su casa de Montreal, el profesor advirtió que los avances en la IA avanzan a una velocidad vertiginosa y se corre el riesgo de «crear una nueva especie capaz de tomar decisiones que perjudican o incluso ponen en peligro a los humanos».

El reciente despido de OpenAI y la recontratación, unos días después, del director ejecutivo Sam Altman, quien ha sido acusado de restar importancia a los riesgos en su intento de avanzar en su bot ChatGPT, ilustra parte de la agitación en el sector de startups y la feroz competencia en la carrera por comercializar la generación generativa. AI.

Desde hace algún tiempo, Bengio viene advirtiendo sobre las empresas que se mueven demasiado rápido sin barreras de seguridad, «potencialmente a expensas del público».

Es fundamental, afirmó, tener «reglas que sean seguidas por todas las empresas».

En la primera cumbre mundial sobre IA celebrada en Gran Bretaña a principios de noviembre, a Bengio se le encomendó la tarea de liderar un equipo que elaborara un informe inaugural sobre la seguridad de la IA.

El objetivo es establecer prioridades para informar el trabajo futuro sobre la seguridad de la tecnología de vanguardia.

Sociedad e IA
El renombrado académico de IA ha reunido una «masa crítica de investigadores de IA» (más de 1.000) a través de su instituto de investigación Mila, ubicado en un antiguo barrio de clase trabajadora de Montreal.

Entre sus vecinos se incluyen las instalaciones de investigación de inteligencia artificial de los gigantes tecnológicos estadounidenses Microsoft, Meta, IBM y Google.

«Esta concentración de expertos en inteligencia artificial, que es mayor que en cualquier otro lugar del mundo», es lo que atrajo a Google, dice Hugo Larochelle, director científico de Deepmind, filial de inteligencia artificial del gigante de Silicon Valley.

Desde el principio, estos investigadores comenzaron a pensar en el futuro de la IA, y las consultas con el público y los investigadores de todas las disciplinas condujeron en 2018 a una carta global de IA llamada Declaración de Montreal para un Desarrollo Responsable de la Inteligencia Artificial.

►La entrada El centro de investigación de Montreal encabeza el debate mundial sobre la ética de la IA se publicó primero en MxPolítico.◄