OpenAI enfrenta nuevas demandas por un tiroteo masivo en Tumbler Ridge, Columbia Británica, que alegan que la empresa pudo haber impedido que el presunto atacante usara ChatGPT antes del ataque.
Uno de los casos, presentado el miércoles en un tribunal federal en San Francisco contra OpenAI y su director ejecutivo, Sam Altman, fue impulsado por una niña de 12 años herida de bala durante el incidente, que permanece en cuidados intensivos junto a su madre. Otra demanda fue presentada por la madre de una niña que murió en el tiroteo.
Según las demandas, OpenAI sabía que Jesse Van Rootselaar, principal sospechosa de la masacre de febrero en la escuela Tumbler Ridge Secondary School, estaba planeando el ataque a partir de su uso de ChatGPT, pero decidió no advertir a las autoridades.
“ChatGPT desempeñó un papel en el tiroteo masivo y OpenAI pudo, y debió, haberlo evitado”, señalan las denuncias, que alegan que la startup quiso evitar tener que contactar a la policía cada vez que su equipo de seguridad detectaba a un usuario de ChatGPT planificando un acto violento.
“Los hechos en Tumbler Ridge son una tragedia. Tenemos una política de tolerancia cero para el uso de nuestras herramientas con el fin de cometer violencia”, dijo OpenAI en un comunicado. “Como informamos a las autoridades canadienses, hemos reforzado nuestras salvaguardas: mejoramos la respuesta de ChatGPT ante señales de angustia, conectamos a las personas con apoyo local y recursos de salud mental, fortalecimos la evaluación y escalamiento de amenazas y mejoramos la detección de infractores reincidentes.”.
Desde 2024 se han presentado varias demandas contra desarrolladores de chatbots, en su mayoría contra OpenAI y ChatGPT. La mayoría de estos casos sostiene que el uso intensivo de esta tecnología ha causado daños en niños y adultos, fomentando delirios y desesperación, y en algunos casos derivando en suicidios o homicidios-suicidios.
El 10 de febrero, Van Rootselaar presuntamente perpetró el tiroteo en el noreste de Columbia Británica, donde mató a ocho personas —incluidas su madre, su hermanastro y otras seis en la escuela, cinco de ellas niños— e hirió a más de dos docenas. Van Rootselaar, de 18 años, fue encontrada muerta tras el ataque por lo que parecía ser una herida autoinfligida.
Tras el tiroteo, OpenAI dijo que había bloqueado a Van Rootselaar en junio por violar su política de uso de ChatGPT. Su cuenta fue marcada por mensajes con potencial violento, pero OpenAI no alertó a la policía. The Wall Street Journal informó primero sobre la decisión de OpenAI, señalando que empleados preocupados instaron a la startup a reportar la situación a las autoridades.
Más tarde en febrero, OpenAI reveló que la presunta atacante creó una segunda cuenta que no detectó hasta que la policía divulgó su nombre; la empresa dijo a legisladores canadienses que, bajo reglas actualizadas, habría remitido el caso a las autoridades.
La semana pasada, Altman escribió en una carta publicada por Tumbler RidgeLines, un sitio de noticias local, que quería expresar sus “más profundas condolencias a toda la comunidad”.
“Lamento profundamente que no hayamos alertado a las fuerzas del orden sobre la cuenta que fue bloqueada en junio”, escribió Altman. “Aunque sé que las palabras nunca son suficientes, creo que una disculpa es necesaria para reconocer el daño y la pérdida irreversible que ha sufrido su comunidad”.
Las demandas llegan en un momento delicado para OpenAI, que evalúa una salida a bolsa potencialmente histórica y se acerca a una valoración cercana a US$1 billón.
OpenAI también busca defenderse de las acusaciones de Elon Musk de haber abandonado su misión fundacional sin fines de lucro al reestructurarse el año pasado como entidad con fines de lucro. En un juicio en California que comenzó esta semana, Musk podría pedir a un juez que ordene revertir esa conversión.
