Un investigador de IA que recientemente renunció a Google DeepMind advirtió que a la humanidad se le está acabando el tiempo para evitar que la inteligencia artificial cause daños generalizados, siendo el último empleado en expresar su preocupación por la dirección que está tomando esta tecnología.
«En Google, presencié de primera mano el desarrollo de la IA. Me preocupa enormemente la trayectoria que está tomando esta tecnología. Creo firmemente que la IA tiene el potencial de acabar con todos nosotros», escribió Bilal Chughtai el lunes en X y LinkedIn , añadiendo que trabajó en seguridad y alineación de la IA durante su etapa en Alphabet Inc. Google no respondió de inmediato a la solicitud de comentarios.
Recientemente renuncié a Google DeepMind, donde trabajaba en investigación sobre seguridad y alineación de la IA general. En Google, fui testigo directo del desarrollo de la IA. Me preocupa enormemente la trayectoria que está tomando esta tecnología. Creo firmemente que la IA tiene el potencial de acabar con nosotros…
Bilal es el último investigador de IA en expresar su profunda preocupación en los últimos días por las capacidades en evolución, pero desalineadas, de esta nueva tecnología, que podrían acabar destruyendo a la humanidad. A principios de este mes, Jacob Coxon, un desarrollador de IA común y corriente, renunció a su trabajo y acusó a sus dos antiguos empleadores —Anthropic PBC y OpenAI— de “jugar con nuestras vidas” al “avanzar a toda velocidad hacia una IA superinteligente”.
Durante el fin de semana, Dario Amodei, director ejecutivo de Anthropic, publicó un ensayo de 3800 palabras en el que instaba a la comunidad de IA a frenar el desarrollo de los sistemas más avanzados para evitar que escaparan al control humano y causaran daños catastróficos.
En una inusual muestra de unidad, el comunicado de Amodei fue respaldado por Sam Altman, director ejecutivo de OpenAI, y Elon Musk, director de SpaceXAI.
Pero Chughtai se mostró optimista y afirmó que aún es posible desenvolverse con la IA de forma segura, y que su próximo puesto se centrará en ello. Su perfil de LinkedIn indica que actualmente trabaja para BlueDot Impact , una organización sin ánimo de lucro que capacita a profesionales de diversos campos en materia de seguridad de la IA.
