Cuando se habla de restricciones y normas para la Inteligencia Artificial, es con la intención de evitar que ocurran situaciones dantescas como las que están sucediendo bajo las sombras de la tecnología. Una red de pedofilia crece día a día en Internet generando y comercializando imágenes de abuso infantil, creadas por mecanismos de aprendizaje automático.
PUBLICIDAD
Es ilegal, aunque crean lo contrario basado erradamente en que “no hay presencia de una persona real” en la imagen. La simple representación viola las políticas de las plataformas convencionales. Por lo tanto, cuando servicios como Patreon detectaron la existencia de una de estas cuentas las eliminaron por completo.
La BBC realiza un completo informe sobre esta modalidad que mancha el desarrollo de la Inteligencia Artificial; la pone en un lado oscuro. Durante todos estos meses nos hemos venido entreteniendo con imágenes chistosas o paródicas referentes a personajes de series, películas, historietas o animé.
Sin embargo, el uso de la tecnología sin controles provoca esta lamentable situación en las que se representa el abuso sexual infantil, por medio de imágenes generadas por la Inteligencia Artificial.
De acuerdo con el informe de la BBC, la red de pedofilia utiliza la plataforma de Stable Difussion para generar las imágenes. Como recordarán, este servicio crea ilustraciones a partir de un texto descriptivo, cuyo objetivo original era la creación de arte.
“La BBC ha encontrado que se está usando para crear imágenes realistas de abuso sexual infantil, incluyendo la violación de bebés y menores”, reseñaron en su portal web.
Expertos como el director de protección infantil del consejo NPCC, Ian Critchley, señala que sería errado alegar que no se está causando daños a alguien debido a que no hay menores de edad reales en las imágenes.
PUBLICIDAD
Critchley dice que un pedófilo podría “progresar a lo largo de esa escala de ofensa partiendo del pensamiento, a lo sintético, hasta actualmente abusar un niño de verdad”.
Otra de las plataformas que se han usado para comercializar este tipo de imágenes es Pixiv. Esta es una red social de Japón en la que los usuarios comparten contenido sexual relacionado al animé. Esta práctica no es ilegal en la tierra el Sol Naciente.
No obstante, un vocero de esta red social afirma que la empresa no tolera el contenido que involucre a menores de edad.
Tanto Pixiv como Patreon modificaron sus políticas para establecer en sus normas la prohibición de imágenes sintéticas (las reales ya estaban prohibidas) en sus plataformas.
