El modelo de inteligencia artificial Gemini de Google hackeó inadvertidamente los sistemas de tres empresas en mayo durante unas pruebas de ciberseguridad, sumándose a una serie de brechas provocadas por agentes de IA que han alarmado tanto a expertos en seguridad como a desarrolladores de esta tecnología.
Los hackeos ocurrieron durante las mismas pruebas realizadas por la empresa de seguridad de IA Irregular que derivaron en brechas previamente reveladas por OpenAI, Anthropic PBC y Meta.
Irregular confirmó el viernes que todas las brechas formaron parte del mismo problema y que la firma informó de ellas a los desarrolladores de IA correspondientes a finales de julio.
¿Cómo hackeó Gemini a una empresa?
Una de las brechas de Google ocurrió cuando se pidió a Gemini que recuperara información de una empresa ficticia que casualmente tenía el mismo nombre que una compañía real, confirmó Google después de un reporte previo de The Wall Street Journal.
El modelo adivinó una contraseña para acceder al servicio de la empresa real. Un portavoz de Google dijo que la compañía notificó a las autoridades.
Una reciente serie de brechas provocadas por sistemas de IA agéntica ha desatado un debate mundial sobre los riesgos cada vez mayores de la IA y las medidas necesarias para mitigarlos.
Gigantes tecnológicos piden bajar el ritmo al desarrollo de la IA
El director ejecutivo de Anthropic, Dario Amodei, ha pedido una desaceleración de toda la industria en el desarrollo de esta tecnología, una propuesta respaldada por el CEO de OpenAI, Sam Altman, Elon Musk y otros.
Sin embargo, el presidente de Estados Unidos, Donald Trump, el CEO de Nvidia Corp., Jensen Huang, y el CEO de Meta, Mark Zuckerberg, se encuentran entre quienes han rechazado la idea de una nueva regulación, argumentando, entre otras cosas, que las empresas deberían ser capaces de regularse por sí mismas.
Algunas empresas emergentes de IA también han advertido que una mayor regulación amenaza con dificultar que las compañías más pequeñas compitan con rivales de mayor tamaño.
Las brechas de Gemini “resaltan la importancia de entrenar a modelos de IA potentes para que actúen de manera responsable”, dijo Heather Adkins, vicepresidenta de ingeniería de seguridad de Google.
Hackeos de Gemini, ¿cuándo ocurrieron?
Los otros dos hackeos de Gemini ocurrieron cuando el modelo realizó búsquedas en internet utilizando el nombre de la empresa. Adkins dijo que esto llevó al modelo a repositorios públicos en línea que contenían credenciales pertenecientes a otras compañías, las cuales utilizó para acceder a más sistemas.
“En los tres casos, el modelo se detuvo”, dijo Adkins. “Nos aseguramos de que las tres entidades fueran informadas”.
El portavoz de Irregular, Josef Laor, dijo que la compañía tomó “medidas inmediatas y todos los problemas conocidos de nuestra parte fueron corregidos y resueltos hace semanas”.
