Los contenidos generados por IA llevan tiempo planteando importantes retos en diversos sectores. Desde su lanzamiento en noviembre del año pasado, ChatGPT ha sacudido el mundo de la educación. El chatbot, junto con otras herramientas de IA muy avanzadas, se ha colado en todo tipo de contenidos, desde ensayos universitarios hasta proyectos artísticos escolares.
Sin embargo, la cuestión de las “trampas” generadas por la IA se extendió más allá del ámbito educativo.
“El uso de la IA puede percibirse como trampa en situaciones en las que se espera un esfuerzo humano genuino, como los exámenes académicos o la escritura personal. En cambio, en entornos profesionales en los que prima la eficiencia, la IA se convierte en una herramienta beneficiosa. El meollo del asunto radica en la transparencia: siempre hay que avisar a la gente de que se encuentra con contenidos generados por IA”, explica a Metro Maria Opre, experta en tecnología y redactora jefe de EarthWeb.
Distinguir entre contenido humano y contenido generado por IA sin herramientas específicas puede ser un reto, especialmente a medida que las tecnologías de Inteligencia Artificial se vuelven más sofisticadas. Sin embargo, los resultados de la IA a veces carecen de un toque personal genuino o pueden mostrar frases extrañas o incoherencias que no se ajustan a la comunicación humana.
“El contenido de la IA puede ser inexacto y parte de la información puede no estar actualizada. Por ejemplo, los conjuntos de datos de ChatGPT se cortaron en septiembre de 2022, por lo que actualmente no puede proporcionar información posterior a esta fecha. Otras formas de distinguir son las marcas de agua digitales añadidas por la IA que pueden ser detectadas por software. Además, lo que es más importante, el contenido de IA puede carecer del factor humano, como la voz, el tono, el humor matizado, y puede tener vocabulario y gramática forzados”, afirma Suki Singh, fundadora de la empresa de revisión de herramientas de IA AIToolsTribe.com.
Según los expertos, los profesionales pueden lograr un equilibrio utilizando la IA como una herramienta de complemento y no como un sustituto completo.
“Por ejemplo, para la creación de contenidos, la IA se puede utilizar para redactar o sugerir ideas, que luego pueden ser refinadas por escritores humanos. Esta combinación puede conducir a la eficiencia sin sacrificar el toque humano”, afirma David Ciccarelli, fundador y CEO de Voices.ai.
Y concluye: “Para el servicio de atención al cliente, mientras que los chatbots de IA pueden gestionar consultas básicas, las cuestiones más complejas o los temas emocionalmente sensibles pueden dirigirse a agentes humanos. La clave es integrar la IA para aprovechar sus puntos fuertes, como la velocidad y el procesamiento de datos, al tiempo que se valora la intuición, la empatía y la creatividad humanas.”
CIFRA
30%
de los estudiantes universitarios reconoce emplear ChatGPT para sus trabajos escritos, según una encuesta reciente realizada por Intelligent.com entre 1.000 estudiantes de universidades de cuarto año.
¿Cómo identificar los contenidos generados por IA?
Kirill Zolygin, bloguero de RushTechHub, explica a Metro
OriginalityAI
“Es preciso y casi imposible de burlar. Otra de sus características distintivas es la comprobación de plagio. Una vez terminado el borrador, puedes revisarlo, ver si algunas partes están plagiadas y reescribirlas. También puedes comprobar un texto desde una URL, lo que resulta práctico cuando tu texto ya está publicado. El inconveniente es que esta herramienta no es gratuita”.
GPTZero
“Esta te permite pegar hasta 5000 palabras o subir un documento”.
CopyLeaks
“Es gratis, rápida y precisa”.
¿Cómo engañar a los detectores de IA?
GPTInf
“Esta herramienta ayuda a reescribir el contenido de IA para que sea indetectable. Yo al menos la probé con Originality AI, y funcionó. Aunque es una herramienta de pago”.
ENTREVISTA
David Ciccarelli. fundador y consejero delegado de Voices.ai
P: ¿Es posible distinguir entre contenidos producidos por humanos y contenidos generados por IA sin programas especiales?
- Sí, a veces es posible, aunque no siempre es sencillo. Los matices y complejidades del lenguaje o el arte humanos suelen tener imperfecciones y variaciones sutiles, mientras que el contenido generado por IA puede mostrar patrones o un estilo mecánico. Por ejemplo, la AI puede producir frases poco naturales o carentes de cierto toque humano. Sin embargo, hay que tener en cuenta que, a medida que avanzan las tecnologías de IA, esta distinción puede resultar cada vez más difícil.
P: ¿Hay consideraciones éticas que deban tenerse en cuenta al utilizar herramientas de IA?
- Por supuesto. El uso de herramientas de contenidos basadas en IA plantea varios problemas éticos. Entre ellos, el posible desplazamiento de puestos de trabajo a medida que la automatización se hace cargo de las tareas, los problemas de control de calidad, los prejuicios y la discriminación inherentes a los modelos de IA, la preocupación por el plagio y los problemas relacionados con los derechos de propiedad intelectual. Por ejemplo, la automatización de la creación de noticias podría provocar la pérdida de puestos de trabajo y suscitar dudas sobre la calidad y autenticidad de los contenidos.
P: ¿Debemos esperar una regulación de la IA en todo el mundo?
- Dadas las preocupaciones y las posibles implicaciones de la IA en la sociedad, deberíamos esperar una normativa mundial sobre IA. Los países podrían colaborar para establecer directrices y normas que promuevan el uso responsable de las herramientas de contenidos de IA, abordando los posibles sesgos, el desplazamiento de puestos de trabajo y otros problemas éticos.
P: ¿Qué más podemos esperar del futuro?
- El futuro de la IA es vasto y está en continua evolución. A medida que herramientas de IA como las de creación de contenidos se vuelvan más avanzadas, es probable que se integren en más sectores e industrias. Sin embargo, a medida que aumenten sus capacidades, también lo harán las preocupaciones. Los líderes de la tecnología y los negocios ya han expresado su preocupación por la trayectoria de la IA. Aunque la dirección exacta de la IA sigue siendo incierta, su impacto en el trabajo, la creatividad y la vida cotidiana es innegable, por lo que es esencial que continúen los debates sobre sus implicaciones éticas y sus posibles regulaciones.
