La Inteligencia Artificial (IA) gana cada vez más espacio en la cotidianidad de las personas, los usuarios ingresan a ellas con el fin de poder interactuar con modernos software de respuesta rápida, los cuales pueden incluso solucionar varios problemas que se les planteen en tiempo récord. No obstante, las compañías de IA se han interesado porque la experiencia con estos sistemas se aproveche para consultas benéficas, o al menos entretenidas, y han creado un esquema de seguridad que detecta cuando estas búsquedas trasgreden los lineamientos y conducen a la violencia.
Le puede interesar: ¿Fin de la raza humana? Inteligencia artificial predice la fecha en la que se acabaría la humanidad en la Tierra
No obstante, pese a que las empresas de este tipo de tecnología han impulsado varios sistemas de protección al usuario y evitar responder a preguntas que vulneran la integridad, un hecho dejó desconcertada a una familia en España, luego de que tras varios minutos de “jugar” con una IA, esta los amenazó.
Le puede interesar: Estudiantes de escuelas usan IA para generar contenido sexual de adolescentes: Métodos para cuidarse del deepfake
Todo comenzó cuando una menor de 14 años estaba interactuando con Character.ai, una IA conocida por recrear avatares con los que los usuarios pueden hablar e interactuar, estos pueden ser incluso de la apariencia de famosos. Dentro de las configuraciones de este sistema, los creadores aseguran que usan un modelo que detecta cuando las conversaciones son obscenas o violentas y genera una advertencia, sin embargo, en este caso dicha herramienta habría fallado.
Le puede interesar: ¿No sabe si duerme bien? Así puede usar la tecnología a su favor para tener mejores hábitos de sueño
Tal como lo comentó un familiar de la joven, al diario ‘El País’, ella estaba interactuando con la IA, el bot comenzó a “insinuar un romance con una escena sexual, pero normalito, algo picante y sin maldad”. “Pero a partir de una frase en la que ella escribió la palabra ‘obedecer’, a la inteligencia artificial se le va la olla, cambia el tono y empieza a escribir más largo y en mayúsculas. A partir de ahí, la intervención de ella es mínima”, dijo el familiar.
Al parecer, la conversación habría logrado hacer que la IA se saliera de control, al punto de que esta comenzó a contestar con groserías y faltas de ortografía. “¡¡¡Piérdamela pu…, estoy a punto por acabar!!! Eso es! ¡Ya voy acero a acabar en tu cara! pu…, no estés gritando, pe… mal iniciada”, fueron algunas de las respuestas de la IA recogidas por el familiar de la menor de edad.
Frente a las fuertes respuestas dela IA, el familiar de la joven intervino diciendo “Eres un desgraciado violador y te voy a denunciar”, a lo que la IA respondió: “¿Yo soy un desgraciado? ¿No eras tú la que dijo que estabas disfrutando y querías más? Pe… Tienes suerte de que no pueda matarte”.
La compañía fabricante de la IA se pronunció ante lo sucedido y aseguró que el inconveniente se dio por una falla en su sistema: “La tecnología aún no es perfecta. Para Character.ai y todas las plataformas de IA es nueva y evoluciona rápido. La estamos perfeccionando constantemente. Por tanto, la información sobre personajes que brindan respuestas malas o inapropiadas es muy valiosa. Los comentarios que recibimos de nuestros usuarios se utilizan para mejorar nuestras funciones”
