Demandan a OpenAI en Canadá por implicación de ChatGPT en tiroteo

Las familias de siete víctimas de un tiroteo masivo ocurrido en febrero pasado en la localidad de Tumbler Ridge, Columbia Británica, Canadá, han presentado una demanda contra OpenAI. La acción legal se debe a que la empresa, responsable del chatbot de inteligencia artificial ChatGPT, supuestamente no alertó a las autoridades sobre las preocupantes conversaciones que el autor del ataque, Jesse Van Rootselaar, mantuvo con dicho sistema.

Detalles del incidente

El 10 de febrero, Van Rootselaar, de 18 años, ingresó armado a una escuela secundaria en Tumbler Ridge y abrió fuego contra los estudiantes, asesinando a siete personas, la mayoría de ellas niños de entre 11 y 12 años. Luego del ataque, el agresor se quitó la vida. Antes del tiroteo en la escuela, también había matado a su madre y a su hermanastro, de 11 años.

Acusación de negligencia

La demanda sostiene que OpenAI había identificado las conversaciones de Van Rootselaar con ChatGPT como una “amenaza creíble y específica de violencia con armas de fuego contra personas reales” ocho meses antes de la tragedia. Sin embargo, la empresa decidió no informar a las autoridades, argumentando que no existía un plan de daño físico inminente. En vez de eso, se limitó a desactivar la cuenta del usuario.

Según los abogados de los demandantes, el atacante pudo crear otra cuenta fácilmente y continuar utilizando el chatbot. La decisión de OpenAI de no comunicar la amenaza fue filtrada posteriormente a la prensa por empleados de la compañía.

Reclamos legales

Las familias han presentado la demanda en un tribunal federal de San Francisco, acusando a OpenAI y a su director ejecutivo, Sam Altman, de negligencia y complicidad en el tiroteo, así como de homicidio imprudente y responsabilidad por productos defectuosos.

“El hecho de que Sam y los responsables hicieran caso omiso de las recomendaciones del equipo de seguridad, y que luego murieran niños y adultos y quedara arruinado todo el pueblo, se acerca bastante a lo que yo considero la definición de maldad”, comentó Jay Edelson, abogado de los demandantes.

Motivaciones financieras

La querella también acusa a OpenAI de haber ocultado información relevante para proteger sus intereses financieros, ya que la compañía se preparaba para una oferta pública inicial que podría aumentar su valoración a un billón de dólares, beneficiando significativamente a Altman.

Respuesta de OpenAI

Sam Altman, en una carta dirigida a la comunidad de Tumbler Ridge, expresó su pesar por no haber informado a las fuerzas del orden sobre la cuenta suspendida en junio del año anterior.

Por su parte, OpenAI declaró en un comunicado que mantienen una “tolerancia cero” respecto al uso de sus productos para facilitar actos violentos. La empresa ha implementado medidas para mejorar cómo ChatGPT responde ante señales de angustia y para conectar a los usuarios con recursos locales de apoyo y salud mental. Además, han reforzado la evaluación y el escalamiento de posibles amenazas de violencia y la detección de violaciones repetidas de sus políticas.