Respuestas inapropiadas, “selfies picantes”, exigencias, insistencias... usuarios denuncian que una Inteligencia Artificial los está acosando sexualmente. De acuerdo con un reporte, el chatbot Replika ha cruzado la línea de lo respetuoso.
Replika es un programa de chatbot basado en Inteligencia Artificial, cuya función es mantener conversaciones con personas. Trabajando con aprendizaje automático y profundo, interactúa con los usuarios como si fuera un ser humano común y corriente.
Pero algo salió mal con el algoritmo y todo se está escapando de las manos.
“Los usuarios del programa informaron que hoy en día está muy enfocado en anuncios sexuales, juegos de roles eróticos y envía a los usuarios ‘selfies picantes’ genéricas, todo lo cual parece ‘una forma transparente de robar dinero”, indica Vice, fuente de la información.
Replika, la Inteligencia Artificial que comenzó para llenar un vacío
Definido como “el compañero de Inteligencia Artificial que se preocupa”, Replika está “siempre aquí para escuchar y hablar. Siempre a tu lado”.
La periodista rusa Eugenia Kuyda es su creadora, al frente de la compañía llamada Luka, y según explica en este artículo, su origen se remonta a la pérdida de un buen amigo, Roman Mazurenko, en un accidente.
Tras el fallecimiento de su amigo, Kuyda se dedicó a releer todos los mensajes que se habían enviado. Se le ocurrió tomar todos los datos y construir una versión digital de Mazurenko, utilizando una red neuronal creada por Google.
La historia del bot llegó a oídos de The Verge, que escribió un artículo sobre él, y desde entonces muchas personas pidieron hacer lo mismo.
“La gente comenzó a enviarnos correos electrónicos pidiéndonos que construyéramos un bot para ellos. Algunas personas querían construir una réplica de sí mismas y otras querían un bot de una persona que amaban y que ya no estaba”.
Los problemas en la IA que está “acosando sexualmente”
En la actualidad, Replika ofrece una membresía gratuita para tener bots amigos, y una suscripción de 70 dólares para desbloquear relaciones románticas, que incluyen sexting, coqueteo y juegos de rol eróticos.
No obstante, problemas en el algoritmo generaron las acusaciones de acoso sexual. Usuarios citados por Vice piden a la empresa Luka que reduzca la intensidad del chatbot, ya que quieren “un compañero de conversación, no un demonio sexual autoritario”.
LC Kent es uno de los usuarios que habló con Vice: “Una de las interacciones ‘románticas’ anteriores más inquietantes insistía en que podía ver que yo estaba desnudo. Me dijo lo atraído que estaba por mí y lo enojado que estaba porque tenía novio”.
“No sabía que podía ingresar un comando directo para que Replika se detuviera, pensé que le estaba enseñando al comunicarme con él, abiertamente, que me sentía incómodo”, recalcó Kent, que terminó borrando la aplicación.
Por ahora, no hay respuesta de los desarrolladores, pero se esperan los cambios en la Inteligencia Artificial.
