Toronto, Canadá.– Estudiantes, profesores y otros supervivientes de la matanza ocurrida en Tumbler Ridge, Canadá, presentaron 30 nuevas demandas contra OpenAI, empresa responsable de ChatGPT, a la que acusan de negligencia por no haber alertado a las autoridades sobre conversaciones de contenido violento que la autora del ataque habría mantenido con el sistema de inteligencia artificial.
Las nuevas demandas contra OpenAI fueron presentadas ante el Tribunal de Distrito de Estados Unidos para el Distrito Norte de California, donde tiene su sede la compañía. Estas acciones legales se suman a otras siete demandas presentadas en abril por familiares de personas que murieron durante el ataque ocurrido el pasado 10 de febrero en la localidad de Columbia Británica, que dejó ocho fallecidos.
Entre los nuevos demandantes figuran estudiantes y trabajadores del centro educativo que estuvieron presentes durante el ataque. De acuerdo con los documentos judiciales, una de las supervivientes recibió un disparo en el pecho, mientras que un menor de 13 años habría fingido estar muerto al permanecer entre los cuerpos de sus compañeros.
Acusan a OpenAI de no alertar a las autoridades
Los abogados de los supervivientes sostienen que los sistemas de seguridad de OpenAI habrían identificado meses antes del ataque conversaciones atribuidas a Jesse Van Rootselaar, de 18 años, en las que aparecían escenarios relacionados con violencia.
Según las acusaciones incluidas en las demandas, los equipos de seguridad de la compañía habrían recomendado comunicar la situación a las autoridades, pero esa advertencia no habría llegado a la Policía canadiense antes de la tragedia.
Leer Más
Recomendamos leer: El Gobierno de Canadá planea prohibir el uso de redes sociales a los menores de 16 años
Los demandantes también cuestionan la manera en que OpenAI habría aplicado sus protocolos de seguridad. Sus abogados alegan que la empresa actuó de manera diferente ante amenazas dirigidas contra sus propios empleados en Estados Unidos.
Supervivientes reclaman registros de conversaciones
Como parte del proceso judicial, los demandantes buscan obtener los registros de las conversaciones que Van Rootselaar habría mantenido con ChatGPT, además de documentos internos relacionados con la evaluación de riesgo y la decisión de no informar a las autoridades canadienses.
Leer Más
Los afectados solicitan compensaciones económicas por los daños ocasionados y también plantean cambios en las políticas de seguridad de las grandes plataformas tecnológicas, especialmente en situaciones donde puedan existir amenazas previsibles e inminentes de violencia.
Las acciones legales colocan nuevamente bajo escrutinio los mecanismos utilizados por las empresas de inteligencia artificial para detectar conversaciones que puedan representar un riesgo y determinar cuándo corresponde informar a las autoridades.
OpenAI responde a las acusaciones
El director de Estrategia de OpenAI, Jason Kwon, explicó que los equipos de Inteligencia e Investigaciones y el departamento Legal de la compañía son los responsables de establecer los criterios utilizados para determinar cuándo debe notificarse a las fuerzas de seguridad sobre posibles amenazas.
Kwon señaló que estos equipos utilizan sistemas automatizados y también recurren a evaluaciones humanas en los casos considerados más complejos. Para esas decisiones, indicó, trabajan con especialistas en salud mental, comportamiento y seguridad.
El ejecutivo reconoció que este proceso de evaluación no es infalible, pero sostuvo que la compañía busca encontrar un equilibrio entre la protección de la seguridad pública y la privacidad de los usuarios de sus servicios.
Kwon también rechazó las acusaciones de que Chris Lehane, responsable de Asuntos Globales de OpenAI, haya intervenido en la decisión inicial sobre si debía notificarse a la Policía canadiense acerca del caso de Van Rootselaar.
Leer Más
Asimismo, negó que factores políticos o relacionados con las relaciones públicas hayan influido en las decisiones adoptadas por los equipos encargados de seguridad.
Columbia Británica evalúa acciones legales
El caso también podría generar nuevas consecuencias judiciales para OpenAI. El Gobierno de Columbia Británica analiza posibles acciones legales contra la compañía por su actuación relacionada con la matanza de Tumbler Ridge.
Las nuevas 30 demandas contra OpenAI amplían así el frente judicial relacionado con el ataque y colocan nuevamente en el centro del debate la responsabilidad de las empresas de inteligencia artificial ante señales de posibles conductas violentas detectadas en sus plataformas.
El proceso podría determinar si OpenAI tenía responsabilidades legales específicas frente a las conversaciones atribuidas a la atacante y si sus protocolos de seguridad fueron aplicados de manera adecuada antes de la tragedia.
El caso también plantea interrogantes sobre los límites de la privacidad, la detección de amenazas y la responsabilidad de las plataformas de inteligencia artificial cuando sus sistemas identifican contenido que podría representar un riesgo para otras personas.
