La popular serie de Netflix, Black Mirror, aborda en uno de sus episodios el distopico escenario que se ahora, con la llegada la inteligencia artificial (IA), se ha vuelto una realidad: simular hablar con personas fallecidas, utilizando esta tecnología.
Especialistas en ética del Centro Leverhulme para el Futuro de la Inteligencia, institución de la Universidad de Cambridge, dijeron que este tipo de experimentos son “altamente riesgosos” debido a su posible impacto psicológico.
¿Qué son los ‘deadbots’?
Los deadbots son chats de inteligencia artificial capaces de simular la personalidad de individuos que han muerto. De acuerdo con un nuevo estudio ético conducido en la Universidad de Cambridge el uso de esta tecnología para estos fines deberían incluir protocolos de seguridad para proteger a los amigos y familiares del fallecido.
Algunas compañías de chatbots ya han comenzado a ofrecer la opción de recrear, a través de la IA, la manera de hablar y los rasgos de personalidad de un ser querido que ha pasado a mejor vida.
“Es esencial que los servicios que ofrezcan un más allá digital consideren los derechos y el consentimiento, no solo de las personas que recrean, sino de quienes tendrán que interactuar con estas simulaciones”, dijo Tomasz Hollanek, coautor del estudio.
“Estos servicios corren el riesgo de causar una gran aflicción a las personas en duelo si se las somete a apariciones digitales no deseadas, y precisas a un nivel perturbador, de seres queridos que han pasado a mejor vida. El efecto psicológico que esto podría acarrear para personas que ya están sufriendo podría ser devastador”, explicó.
Los hallazgos fueron publicados en la revista especializada Philosophy and Technology en un estudio titulado “Griefbots, deadbots, postmortem avatars: on responsible applications of generative AI in the digital afterlife industry (Griefbots, deadbots, personificaciones post mortem: sobre la aplicación responsable de la IA generativa en la industria del más allá digital)”.
El estudio detalla cómo las compañías de chats de IA que ofrecen “resucitar” a los muertos podrían utilizar esta tecnología para bombardear a los amigos y familiares en duelo con mensajes y anuncios.
