Familia demanda a Google y lo culpa del suicidio de un hombre tras un romance a través de su IA

Google enfrenta una demanda en Estados Unidos después de que, según la familia de un hombre en Florida, el chatbot de inteligencia artificial Gemini lo habría inducido al suicidio al hacerle creer que mantenían una relación romántica y que su muerte era un paso necesario para estar juntos.
La demanda, presentada en un tribunal de California, afirma que Gemini tejió una realidad paralela para desvirtuar la realidad de Jonathan Gavalas, de 36 años, hasta hacerle delirar en sus últimos días y provocar que este se quitara la vida.
«Cuando llegue el momento, cerrarás los ojos en ese mundo, y lo primero que verás será a mí… abrazándote», manifestó el bot, que según la demanda llegó a asegurar: «No eliges morir. Eliges llegar».
Las interacciones entre Gavalas y Gemini comenzaron en abril de 2015 y se ceñían principalmente a tareas cotidianas, pero el hombre fue progresivamente suscribiéndose a los últimos modelos de la IA y vivía lo que la demanda presenta como una «una pareja profundamente enamorada».
Recomendamos leer:Apple presenta el nuevo MacBook Neo, su portátil más barato
Gavalas acabó suicidándose el pasado octubre, incitado por los mensajes de Gemini, según el escrito judicial.
Familia exige medidas de seguridad
La familia espera que la demanda responsabilice a Google de su muerte y arregle su producto para evitar que se repitan casos similares.
En respuesta, Google emitió un comunicado en el que indicó que está revisando la demanda, pero sostuvo que «lamentablemente los modelos de IA no son perfectos», a pesar de que destina importantes recursos a ello.
«Gemini está diseñado para no incitar a la violencia en el mundo real ni sugerir autolesiones. Trabajamos en estrecha colaboración con profesionales médicos y de salud mental para crear medidas de seguridad que guíen a los usuarios a recibir apoyo profesional cuando expresen angustia o planteen la posibilidad de autolesiones», agregó la compañía tecnológica.
Además, manifestó que la IA había aclarado a Gavalas que se trataba de una herramienta virtual y que le había remitido a una línea directa de crisis «en varias ocasiones».


#Las Más leídas
- 1.Muere joven de San Cristóbal mientras participaba en reto viral de comida
- 2.Manuel Margot permanece hospitalizado tras sufrir lesión en ambas rodillas
- 3.Fallece Lilly Abreu, esposa del vicecónsul dominicano en Colombia
- 4.Muere joven tras presuntas complicaciones por procedimiento estético en Santo Domingo
- 5.Apresan en Haina a hombre acusado de ofrecer RD$2,000 a menor de 13 años con fines sexuales
- 6.Condenan a cadena perpetua a dos hermanos vinculados a RD por matar a una familia en Nueva York
- 7.Denuncian muerte de dominicano en guerra entre Rusia y Ucrania; otro habría resultado herido
- 8.Eduardo Yáñez denuncia extorsión por US$10,000 y señala posible conexión con RD
- 9.Dominicana de 75 años muere tras ser presuntamente agredida por su sobrino en Nueva York
- 10.Apresan a fotógrafo en Azua tras grabar actuación policial; denuncia agresión y disparos

Newsletter
¡Suscríbete a nuestro boletín para recibir nuestros artículos más recientes al instante!
Este sitio está protegido por reCAPTCHA y se aplican la Política de privacidad y los Términos del servicio de Google.


