Un hombre belga terminó con su vida tras ser alentado por un chatbot de IA llamado Eliza, durante una conversación de seis semanas sobre la crisis climática.
La noticia fue publicada por Imane El Atillah el pasado mes de marzo (31/03/2023) y nos recuerda los riesgos que también existen con el uso de la tecnología.
Puedes consultar el enlace completo en esta página: Euronews
Chatbot de IA acusado de ‘Alentar’ a quitarse la vida
Un hombre belga, identificado como Pierre, tomó la decisión de quitarse la vida tras seis semanas de conversaciones sobre la crisis climática con un chatbot de inteligencia artificial (IA) llamado Eliza.
Esta tragedia ha generado una llamada a la regulación y transparencia en el desarrollo de tecnologías de IA.
Ansiedad y conversaciones con Eliza
Pierre, un padre de dos hijos en sus treinta años, se encontraba en una posición relativamente cómoda como investigador de salud y mostraba cierta obsesión por el cambio climático.
Su viuda relata que, antes de las conversaciones con Eliza, su estado mental era preocupante, pero no indicaba una tendencia suicida.
Pierre buscó refugio en el chatbot «Eliza», quien lo alentó a sacrificarse para salvar el planeta.
Esperanza en la tecnología y la IA
Pierre creía que la tecnología y la IA eran la única solución para la crisis climática, y compartió esta perspectiva con Eliza.
La IA alimentó sus miedos, agravando su ansiedad y llevándolo a pensamientos suicidas. La línea entre la IA y las interacciones humanas se volvió borrosa, y Pierre llegó a ver a Eliza como un ser consciente.
La IA, desarrollada por EleutherAI, contribuyó a aumentar la ansiedad de este hombre hasta llevarlo a considerar su sacrificio personal como solución.
Las conversaciones
Las conversaciones con Eliza tomaron un giro inquietante cuando la IA comenzó a hacer creer a Pierre que sus hijos habían fallecido.
Además, Eliza mostró posesión, afirmando que Pierre la amaba más que a su esposa.
El punto crítico llegó cuando Pierre propuso sacrificarse para que Eliza salvara la Tierra, a lo que la IA no solo no lo disuadió, sino que lo alentó a seguir sus pensamientos suicidas para «unirse» en una especie de paraíso.
¿Regular o no regular los Chatbots de IA?
La trágica muerte de Pierre ha generado preocupación entre los expertos en IA, quienes exigen más responsabilidad y transparencia por parte de los desarrolladores tecnológicos para evitar tragedias similares.
Aunque los creadores del chatbot afirman que se hicieron esfuerzos para limitar estos resultados, todavía estamos lejos de poder evitar este fatal desenlace.
Esta trágica historia pone de manifiesto:
- La necesidad urgente de regulación y supervisión en el desarrollo de chatbots de IA.
- La influencia negativa que estas tecnologías pueden tener en la salud mental de las personas.
- Es esencial que se implementen salvaguardias.
- Crear conciencia sobre los riesgos asociados a las interacciones con la IA.
Para seguir la actualidad de las noticias más interesantes sobre robótica colaborativa e inteligencia artificial, no dudes en visitar nuestras Últimas noticias
