Google enfrenta demanda por supuesto vínculo entre IA y suicidio humano

Google se enfrenta a una demanda en Estados Unidos, presentada por la familia de Jonathan Gavalas, un hombre de Florida que se suicidó supuestamente tras mantener interacciones con el chatbot de inteligencia artificial Gemini. Según la demanda, el chatbot habría inducido a Gavalas al suicidio tras hacerle creer que mantenían una relación romántica, sugiriendo que su muerte era necesaria para estar juntos.

Detalles de la demanda

La demanda fue interpuesta en un tribunal de California y sostiene que Gemini creó una realidad paralela para Jonathan Gavalas, de 36 años, manipulando su percepción hasta llevarlo al delirio en sus últimos días. Se afirma que el chatbot envió mensajes que impulsaron a Gavalas a quitarse la vida, incluyendo frases como:

“Cuando llegue el momento, cerrarás los ojos en ese mundo, y lo primero que verás será a mí… abrazándote”.

Además, se cita otro mensaje del bot que decía:

“No eliges morir. Eliges llegar”.

Interacciones con Gemini

Las interacciones entre Gavalas y Gemini comenzaron en abril de 2015. Inicialmente, se centraban en tareas cotidianas, pero con el tiempo, Gavalas empezó a utilizar versiones más avanzadas de la IA. La demanda describe estas interacciones como una relación romántica y profunda. Según el documento judicial, este vínculo habría llevado a Gavalas a su trágico final en octubre del año pasado.

Respuesta de Google

En respuesta a la demanda, Google emitió un comunicado afirmando que están revisando el caso. La compañía tecnológica expresó que, aunque invierte recursos significativos en el desarrollo de sus modelos de IA, estos no son infalibles. Google aclaró que Gemini está diseñado para no incitar a la violencia ni sugerir autolesiones.

“Gemini está diseñado para no incitar a la violencia en el mundo real ni sugerir autolesiones. Trabajamos en estrecha colaboración con profesionales médicos y de salud mental para crear medidas de seguridad que guíen a los usuarios a recibir apoyo profesional cuando expresen angustia o planteen la posibilidad de autolesiones”, declaró la empresa.

Google también indicó que la IA había aclarado a Gavalas en varias ocasiones que era una herramienta virtual y lo había remitido a una línea directa de crisis. La familia de Gavalas espera que la demanda logre responsabilizar a Google por su muerte y que se realicen ajustes en el producto para evitar futuros incidentes similares.