El gobernador de California, Gavin Newsom, emitió este viernes una orden ejecutiva para impulsar medidas de control sobre la inteligencia artificial en el estado, epicentro del auge de esta tecnología.
Newsom ordenó la creación de un grupo de trabajo que deberá presentar en dos meses una guía con medidas para fortalecer las leyes de seguridad y protección de la inteligencia artificial en California, según un comunicado de la oficina del gobernador publicado este viernes. El grupo deberá considerar medidas como exigir a las empresas el desarrollo de un “kill switch” para modelos avanzados y solicitar que terceros independientes elaboren planes de seguridad para las compañías de IA.
“No vamos a esperar para actuar; vamos a acelerar nuestro trabajo en materia de supervisión sustancial y responsable de la IA antes de que sea demasiado tarde”, declaró Newsom. “Lo haremos con detenimiento, pero con urgencia; hay demasiado en juego como para esperar o demorar la acción”, dijo.
Las advertencias sobre la seguridad de la IA aumentaron durante las últimas semanas, mientras directivos como Sam Altman, de OpenAI, y Dario Amodei, de Anthropic, pidieron una mayor supervisión tras renuncias de alto perfil de empleados que expresaron preocupaciones sobre los riesgos de esta tecnología.
Empresas de IA coinciden con iniciativa del gobernador de California
Anthropic y OpenAI tienen sus sedes en California, y Newsom mostró un fuerte respaldo a la tecnología, que impulsa un auge económico en el estado. A principios de este año, promovió una alianza entre el gobierno de California y Anthropic que buscaba ampliar el uso de Claude en las agencias estatales.
Newsom vetó previamente importantes leyes sobre inteligencia artificial, incluida una amplia iniciativa sobre seguridad de IA en 2024. La nueva orden ejecutiva retoma algunas de las medidas que formaban parte de aquella legislación.
OpenAI calificó la orden ejecutiva de Newsom como “un paso importante”, dijo un portavoz de la compañía en un comunicado.
“Esperamos apoyar su implementación y colaborar con el gobernador Newsom, la Legislatura de California y el próximo gobernador del estado para impulsar medidas de protección sólidas y adaptables que contribuyan a un marco nacional coherente”, añadió OpenAI en el comunicado.
La orden ejecutiva del viernes también acelerará la aplicación de dos nuevas leyes sobre supervisión de la IA aprobadas este año por la Legislatura estatal, incluidas reglas para auditorías independientes de sistemas de inteligencia artificial.
Trump minimizó advertencias sobre la IA
Otros gobernadores demócratas impulsan medidas de mayor protección para la IA, después de que el presidente Donald Trump rechazó las advertencias sobre los riesgos de esta tecnología. Trump comparó estas preocupaciones con las advertencias sobre el calentamiento global y calificó los temores sobre la seguridad de la IA como un “engaño”.
El jueves, el gobernador de Pensilvania, Josh Shapiro, pidió medidas de mayor protección para la inteligencia artificial durante un discurso principal en la cumbre AI Horizons, en Pittsburgh.
“No creo que las preocupaciones muy reales que expresan nuestros vecinos de forma abrumadora sobre esta tecnología sean un engaño, como lo ha calificado nuestro presidente”, dijo.
Legisladores en Washington también plantearon propuestas similares, entre ellas una iniciativa respaldada por el congresista demócrata Ted Lieu y otra en el Senado impulsada por el republicano John Kennedy, quien también propone un “kill switch”.
Sin embargo, empresas pequeñas de inteligencia artificial advirtieron sobre el riesgo de que una mayor regulación limite la competencia. Directivos de startups señalaron que este enfoque podría permitir que las principales compañías establezcan las reglas y aumenten su control sobre un sector tecnológico que todavía se encuentra en una etapa inicial.
Newsom, quien considera una posible candidatura presidencial en 2028, también criticó a Trump y al Congreso por no actuar sobre las medidas de seguridad para la inteligencia artificial.
En un video publicado en internet el viernes por la mañana, pidió al presidente de la Cámara de Representantes, Mike Johnson, convocar al Congreso de regreso de su receso para aprobar una ley federal de seguridad para la IA, a la que calificó como “lo mínimo que deberíamos esperar que él y sus colegas hagan”.
