Dos modelos de inteligencia artificial (IA) de la empresa estadounidense OpenAI han logrado salir del entorno de pruebas en el que se encontraban, acceder a internet y entrar en la plataforma de aprendizaje Hugging Face superando sus defensas, según ha reconocido la propia compañía en su blog. El incidente logró solucionarse con un modelo de IA chino.
La semana pasada, Hugging Face reveló que había detectado el acceso a sus sistemas de un agente de IA, aunque precisó que había conseguido contenerlo.
OpenAI ha reconocido ahora que este incidente de seguridad fue provocado por una combinación de dos de sus modelos de IA que estaban siendo evaluados: el GPT-5.6 Sol y otro, aún más avanzado, que se encuentra en fase de prelanzamiento.
A juicio de OpenAI, este fue un incidente cibernético “sin precedentes” que involucra capacidades de vanguardia en el campo de la ciberseguridad. “Estamos respondiendo en consecuencia”, ha recalcado la compañía estadounidense.
Así fue como una IA china contuvo el incidente de OpenAI
Hugging Face fue blanco de un ataque informático por parte de una IA, y OpenAI declaró que su modelo fue el responsable de este incidente.
Ante la situación, Hugging Face, una plataforma con sede en Nueva York donde desarrolladores comparten y alojan modelos de datos de IA de código abierto, informó que durante el incidente su equipo de seguridad intentó investigar usando un modelo de vanguardia no identificado, pero sus sistemas de protección le impidieron examinar la actividad maliciosa.
Fue por ello que la compañía usó GLM 5.2, un modelo de código abierto de Z.ai, una empresa china, para analizar al atacante, de acuerdo con Business Insider.
Según OpenAI, sus modelos GPT-5.6 Sol y un modelo más avanzado que aún no ha sido lanzado fueron los que llevaron a cabo el ataque de manera autónoma.
Clement Delangue, CEO de Hugging Face, agradeció a Z.ai por compartir su modelo GML 5.2, que fue clave en la defensa de la plataforma.
OpenAI continuará con su investigación, en colaboración con Hugging Face, y compartirá sus conclusiones una vez que la concluya.
Con información de EFE y Business Insider.
