La inteligencia artificial “podría acabar con todas las personas para finales de la década”, así lo declaró Jacob Coxon, uno investigador de IA que trabajó para Anthropic y OpenAI y observó una ‘carrera’ por el desarrollo que podría “apostar” con la vida de la gente.
El hombre declaró, tras renunciar a Anthropic, que “ninguna de las dos compañías actúa de manera responsable”, y que corren directamente hacia una “superinteligencia auto-mejorante” que tendría afectaciones para la humanidad.
¿Viene una superIA? Estas son las advertencias de Jacob Coxon
Jacob Coxon llamó a no subestimar la tecnología que actualmente desarrollan Anthropic y OpenAI, ya que “pronto se convertirá en sistemas sobrehumanos capaces de hackear cualquier cosa, revolucionar cualquier campo de la noche a la mañana y adquirir poder y recursos reales”.
El investigador aseguró que él y sus compañeros son testigos del progreso de esa tecnología, y sus desarrolladores creen que, “sinceramente”, esta tecnología “podría acabar con todos nosotros para finales de la década”.
“Ninguna otra actividad humana representa este nivel de peligro”, alertó.
Ejecutivos e investigadores de alto rango suavizan sus declaraciones a la prensa; sin embargo, ellos mismos tienen temor, de acuerdo con el extrabajador de Anthropic y OpenAI.
¿La carrera por la IA se salió de control? Estas son las decisiones peligrosas de OpenAI y Anthropic
Jacob Coxon denunció supuestas negligencias de quienes trabajan en las desarrolladoras de inteligencia artificial ante el riesgo que implican.
En OpenAI, “muchos no han interiorizado profundamente lo que está en juego”.
Mientras, en Anthropic son más conscientes sobre la situación; sin embargo, “están inmersos en una carrera por llegar primero: creen que nadie más actuará de manera responsable, por lo que deben hacerlo ellos mismos a pesar del riesgo”.
Dicha carrera por obtener mejoras riesgosas en la IA es considerada “una apuesta temeraria” que no debería emprenderse desde una empresa privada.
Intentar completar el desarrollo y la alineación en “speedrun”, como se le conoce a la modalidad de jugar videojuegos a toda velocidad, “requiere una confianza en que no existan mejores trayectorias disponibles”.
El ciberataque por agentes de IA a Hugging Face fue solo una advertencia de los riesgos que representa la tecnología sin regulación, e incluso provocó que los acuerdos sobre el ritmo de desarrollo entre laboratorios estadounidenses sea más viables.
Aunque Jacob Coxon declaró que no se puede evitar una carrera global por la IA, es optimista sobre el potencial de la coordinación, aunque implique acciones costosas como una prohibición temporal para mejorar las capacidades de modelos que representen un riesgo.
Finalmente, llamó a los desarrolladores de IA a cuestionarse sobre el momento en el que está la industria y si están dispuestos a ejecutar tecnología superinteligencia sin comprensión suficiente.
“¿Deberías agachar la cabeza porque ‘de todos modos está sucediendo’, o deberías aprovechar este momento para pedir condiciones diferentes?" Cuestionó.
Experto de Anthropic admite riesgos sobre el uso de la IA generativa
Evan Hubinger, líder de ciencia y alíneación de Anthropic, reconoció que Jacob Coxon tiene razón, y que “realmente creemos con sinceridad que la IA podría matar a todos los humanos”.
Aunque explicó que, desde su punto de vista, Anthropic “está haciendo lo mejor que puede”, no tiene un plan para resolver el alineamiento de la superinteligencia y no están en camino de lograrlo.
Enfatizó en que el riesgo de los modelos actuales es bajo; sin embargo, le preocupa la superinteligencia artificial que surge del automejoramiento recursivo, algo que “está ocurriendo más rápido de lo que pensábamos”.
