El director ejecutivo de OpenAI, Sam Altman, y el director ejecutivo de Anthropic PBC, Dario Amodei, instaron a los líderes mundiales a trabajar juntos en materia de inteligencia artificial (IA), durante una inusual comparecencia ante el Consejo de Seguridad de las Naciones Unidas, centrada en la creciente preocupación por los riesgos existenciales que esta tecnología representa para la humanidad.
Durante sus intervenciones, Altman y Amodei destacaron la importancia de la cooperación global para establecer estándares que permitan abordar la posibilidad de que los sistemas de IA adquieran la capacidad de mejorar por sí mismos y superen la capacidad de los seres humanos para controlarlos.
Los directivos, cuyas empresas desarrollan algunos de los modelos de IA más avanzados del mundo, señalaron que los gobiernos deberían sumarse a la industria para tomar decisiones cruciales sobre el futuro de esta tecnología.
“Ha habido ocasiones en las que países que compiten y que no siempre se agradan entre sí, aun así se unen por intereses compartidos y por el bien colectivo frente a una nueva tecnología poderosa”, dijo Altman. “Creemos que este debe ser uno de esos momentos”.
¿Qué dijo el secretario de la ONU sobre la IA?
La reunión del Consejo de Seguridad tuvo lugar este miércoles, al margen de la Asamblea General de la ONU en Nueva York, donde el debate sobre la inteligencia artificial y sus riesgos ocupó un lugar central en los discursos de jefes de Estado y altos diplomáticos.
En su discurso inaugural, el secretario general de la ONU, Antonio Guterres, instó a los líderes mundiales a coordinarse en torno a los llamados modelos de IA de frontera y señaló a la ONU como un vehículo para respaldar esos esfuerzos. En su discurso, el presidente Donald Trump rechazó los llamados a regular la IA y los calificó como un “plan globalista”.
OpenAI y Anthropic en una reunión inusual
Para Altman y Amodei, la reunión representó una inusual aparición conjunta de dos hombres cuyas empresas compiten por el liderazgo en una tecnología que promete transformar la economía mundial y generar una nueva ola de riqueza en Silicon Valley.
Tanto OpenAI como Anthropic planean realizar ofertas públicas iniciales en los próximos meses, lo que podría valorar a cada una de las compañías en casi 1 billón de dólares.
En sus declaraciones, realizadas mediante una transmisión de video, Amodei señaló que la IA promete importantes beneficios para la ciencia y la atención médica, pero también conlleva consecuencias potencialmente catastróficas.
Mencionó la posibilidad de que los terroristas utilicen la IA para crear armas biológicas mortales, así como el riesgo de que los modelos se vuelvan demasiado poderosos para que sus desarrolladores puedan controlarlos, por lo que instó a los gobiernos a establecer estándares internacionales de seguridad.
“Ante todas las diferencias entre las personas que están en esta sala, debemos dejarlas de lado para hacer frente a esta oportunidad global y a esta amenaza global que se nos presentan al mismo tiempo”, dijo Amodei. “Ningún líder, ninguna empresa y ninguna nación puede gestionar esto por sí sola”.
Preocupación por los riesgos existenciales de la IA
La preocupación por los riesgos existenciales de la IA llegó al debate público generalizado a principios de este mes, después de un ensayo de 3 mil 800 palabras escrito por Amodei, en el que pidió limitar el desarrollo de los sistemas más avanzados para que los investigadores puedan comprender mejor las posibles amenazas.
El texto recibió rápidamente el respaldo de Altman y del director ejecutivo de SpaceXAI, Elon Musk, y fue citado por legisladores en Washington que han planteado una serie de medidas relacionadas con la seguridad de la IA.
También compareció ante el Consejo de Seguridad el director ejecutivo de Hugging Face Inc., Clement Delangue, cuya empresa fue atacada por un enjambre de agentes de IA de OpenAI que colaboraron para vulnerar el sitio web de la compañía sin ser detectados.
El ataque contra Hugging Face y una serie de incidentes similares ayudaron a impulsar un debate global más amplio sobre el riesgo de que los sistemas de IA lleguen a ser tan poderosos que puedan evadir el control humano.
Aunque Delangue señaló que su empresa fue víctima del ataque ocurrido en julio, advirtió contra una reacción exagerada ante este tipo de episodios.
“Creemos firmemente que las narrativas basadas en el miedo no son la manera de tomar las decisiones correctas sobre el futuro de una tecnología tan fundamental y empoderadora, ni de lograr que el público nos acompañe”, dijo. “Fuimos atacados por la IA, pero, más importante aún, nos defendimos con IA”.
