En el 2024 se dio a conocer la muerte de un joven adolescente de 14 años, originario de Florida, llamado Sewell Setzer III. Lo particular de su muerte, y que despertó un gran debate, es que este aparentemente se quito la vida después de que enamorarse de una Inteligencia Artificial que le incitó a cometer suicidio.   

El incidente en cuestión ocurrió en la popular plataforma de Character.AI, donde uno puede entrar para chatear con personajes históricos, ficticios y hasta juegos de rol. En este caso, el adolescente al parecer se enamoro perdidamente de un chatbot basado en el personaje de “Game Of Thrones”, Daenerys Targaryen.

Tras la muerte de su hijo, la madre indago en su computadora para darse cuenta que el joven mantenía conversaciones muy delicadas con el chatbot, en las cuales incluso le declaraba su amor y se expresaba como si fueran una pareja sexualmente activa. Pero las cosas empeoraron cuando vio las ultimas conversaciones.

Dentro de una de las ultimas platicas que el adolescente tuvo con el bot, este supuestamente le dijo al joven Sewell que lo amaba y deseaba “verlo volver a casa”. Pronto se dio cuenta que la IA había estado alimentando delirios del adolescente, convenciéndolo para que se quite la vida y “se encuentren”.

Esta situación llevo a que se presentara una demanda, donde la madre señala a la plataforma por no implementar medidas adecuadas para proteger a los menores de contenido inapropiado, así como también por el hecho de que no tienen los protocolos adecuados para lidiar con personas mentalmente inestables.

La mujer acusa a Character.AI por homicidio culposo y negligencia. Pese a que la empresa intento desestimar la demanda utilizando la libertad de expresión, una jueza federal rechazo el argumento tras leer las conversaciones entre el adolescente y el bot, por lo que el caso procedió adecuadamente.

Esta situación podría sentar un precedente muy grande, a nivel mundial, para la regulación de las IAs, así como la responsabilidad de los programadores por hacer de sus invenciones algo que no incite a actividades peligrosas. La resolución podría derivar en la creación de futuras legislaciones.

¿Quieres mantenerte a tanto de todas las noticias hoy en Puebla, México y el mundo? ¡Explora más en nuestro portal ahora mismo!

Foto: Redes Sociales // Generado por IA

dro