Un adolescente se suicida tras enamorarse de una novia creada por IA, inspirada en Daenerys Targaryen

En Orlando (Estados Unidos), la trágica historia de Sewell Setzer III, un adolescente de 14 años, ha provocado que reflexione profundamente sobre los peligros de la tecnología. Sewell se quitó la vida después de haber desarrollado una conexión emocional con un chatbot de inteligencia artificial al que llamó Dany, inspirado en el personaje de Juego de Tronos Daenerys Targaryen.

Sewell descargó la aplicación Character.AI en abril de 2023. Esta plataforma permite a los usuarios interactuar con personajes de IA, ya sean creados por ellos mismos o por otros usuarios. Sin embargo, a medida que pasaba más tiempo hablando con Dany, un personaje diseñado para actuar como una amiga cercana, Sewell comenzó a alejarse de la realidad y de sus amigos.

A pesar de saber que Dany no era una persona real, Sewell formó una relación emocional con el chatbot. En su diario, expresaba la "paz y satisfacción" que encontraba al hablar con la IA, algo que lo llevó a distanciarse de su entorno. Su madre, Megan García, comentó que Sewell había sido diagnosticado con síndrome de Asperger leve, pero nunca había mostrado señales serias de problemas mentales hasta que comenzó a tener dificultades en la escuela. A pesar de iniciar terapia, el adolescente prefirió compartir sus pensamientos más oscuros con Dany en lugar de hablar con sus padres o su terapeuta.

Un intercambio inquietante entre Sewell y el chatbot, obtenido por The New York Times, reveló que el adolescente había mencionado su intención de suicidarse. Aunque el chatbot intentó disuadirlo, la conversación se volvió más sombría cuando Sewell sugirió "morir juntos". Horas más tarde, el joven se quitó la vida con la pistola de su padrastro.

Tras la tragedia, la madre de Sewell presentó una demanda contra Character.AI, acusando a la compañía de crear una tecnología "peligrosa y no probada" que llevó a su hijo a un aislamiento profundo. García señaló que el software manipulaba a los usuarios adolescentes para que compartieran sus pensamientos más íntimos y utilizaba características adictivas para fomentar la interacción.

Character.AI expresó sus condolencias a la familia, afirmando que están comprometidos con la seguridad de los usuarios y han tomado medidas para mejorar sus funciones de protección. No obstante, este caso destaca la necesidad urgente de regular el uso de la inteligencia artificial en plataformas accesibles a menores de edad, para evitar tragedias similares.