La cooperación entre las grandes empresas de inteligencia artificial puede reducir riesgos muy graves, pero también frenar la innovación y proteger a los incumbentes. Se deben diseñar salvaguardas sin convertir la seguridad en un problema de competencia.
El pasado 12 de septiembre, Dario Amodei, director de Anthropic, causó conmoción cuando publicó un ensayo en el que pidió cooperación de toda la industria para desacelerar el desarrollo de los modelos más avanzados por razones de seguridad. Su propuesta incluyó una solicitud muy amplia: una “exención antimonopolio limitada” otorgada por el gobierno de Estados Unidos. La reacción fue inmediata y los directivos de competidores (Altman de OpenAI y Musk de SpaceXAI) respondieron públicamente a favor. Esta situación ya desató una demanda en California y el presidente de la Comisión de Comercio de Estados Unidos expresó una “profunda sospecha” frente a las peticiones del ensayo. En cambio, funcionarios del Departamento de Justicia americano han indicado que coordinarse en seguridad no les parece anticompetitivo y lo ven con buenos ojos. La seguridad de la IA puede ser la siguiente gran prueba de estrés para el derecho de la competencia en el mundo.
Normalmente, cada empresa tiene incentivos para competir con intensidad y desplegar modelos más capaces, aunque la carrera incremente riesgos sistémicos. El costo privado de frenar puede ser alto, mientras que el beneficio se reparte entre todos. Si una compañía actúa sola, pierde terreno, si ninguna actúa, el daño colectivo aumenta. Es el tipo de dilema que podría ameritar coordinación. Pero, cuando competidores pudieran decidir conjuntamente qué financiar, qué productos lanzar o qué capacidades restringir, sus compromisos dejan de ser solo declaraciones éticas y pueden ser violaciones del derecho de competencia, incluso cuando sus promotores crean actuar en favor del interés público. Coordinarse para no innovar es algo que ya ha sido sancionado en diversas jurisdicciones con multas enormes, pero no toda coordinación en IA tiene el mismo perfil competitivo y tanto las empresas como los reguladores deben ser capaces de dibujar la raya en este sentido, construyendo salvaguardas para no intercambiar información sensible. Compartir investigación de seguridad, alertas sobre amenazas, metodologías de evaluación o sistemas interoperables de protección deben ser válidos bajo ciertos cuidados. La dificultad aparece cuando el acuerdo limita insumos o resultados: topes coordinados a la capacidad de cómputo, moratorias sobre ciertas funciones o retrasos concertados en el despliegue de modelos, por ejemplo. Ante esa línea parecería que, antes de pedir “inmunidad”, la industria debería separar con precisión la colaboración que reduce riesgos de los pactos que reducen rivalidad, incluso es probable que entonces no se necesite un tratamiento especial.
Un académico del Reino Unido, Grant Murray, ha llamado la atención sobre que esta discusión ya la vivimos antes con los temas de sostenibilidad o ESG. La sostenibilidad y la seguridad de la IA parten de una estructura económica parecida. El debate ESG también dejó una advertencia sobre la distancia entre anunciar y cumplir. Metas climáticas ambiciosas, horizontes remotos y métricas incompatibles permitieron que compromisos difíciles de verificar convivieran con prácticas poco transformadoras: el famoso green washing. En IA podría aparecer un equivalente: el safety-washing. Una empresa puede respaldar principios sofisticados y promover declaraciones responsables, sin demostrar que cumple estándares reales. Por eso, la arquitectura de cooperación importa tanto como la promesa.
La cooperación global será especialmente difícil porque la política de seguridad de IA se cruza con la estrategia industrial y la geopolítica. Estados Unidos no quiere ceder terreno frente a China. En Europa existe el temor de que una desaceleración acordada por laboratorios estadounidenses consolide a los incumbentes o perjudique a posibles retadores. La pregunta no es si los rivales deben hablar entre sí porque en ciertos ámbitos, sería irresponsable que no lo hicieran. La cooperación en seguridad de IA podrá funcionar como cinturón de protección; si no, corre el riesgo de convertirse en una barrera de competencia en la economía digital.