La inteligencia artificial generativa está provocando un efecto que va mucho más allá de la popularidad de ChatGPT o de la aparición de nuevos modelos capaces de crear imágenes y vídeos. El 48 % de los usuarios encuestados reconoce sentirse cada vez menos seguro a la hora de distinguir qué contenido de Internet es real y cuál ha sido generado mediante IA, mientras crece también la preocupación por los deepfakes, el denominado AI slop y el tratamiento de los datos personales.
Las claves de la desconfianza hacia el contenido generado por IA en 20 segundos
- El 48 % asegura tener más dificultades para distinguir contenido real del creado con IA.
- Un 40 % muestra preocupación por perfiles falsos y deepfakes.
- El 27 % afirma que el contenido generado por IA reduce sus ganas de navegar por Internet.
- Un 52 % considera inevitable que sus datos personales terminen expuestos.
Los datos proceden de una encuesta difundida por Incogni y reflejan percepciones de los participantes, por lo que no significan que el 48 % del contenido disponible en Internet sea falso ni generado mediante inteligencia artificial. Sí muestran un problema diferente: la confianza con la que los usuarios consumen ese contenido empieza a deteriorarse.
La situación llega además en un momento especialmente delicado. Los modelos generativos ya no producen únicamente textos reconocibles por determinadas estructuras o imágenes con errores evidentes. Los sistemas actuales pueden generar fotografías, voces y vídeos cada vez más convincentes, mientras los agentes permiten automatizar procesos completos de publicación.
El AI slop convierte la generación masiva en un problema para Internet
Internet nunca ha estado libre de contenido de baja calidad. Mucho antes de ChatGPT ya existían granjas de contenido, spam, fotografías manipuladas, páginas creadas para posicionarse en Google, cuentas automatizadas y titulares diseñados exclusivamente para conseguir clics.
La IA cambia principalmente el coste y la velocidad de producción.
Un modelo puede generar cientos de textos o imágenes con una intervención humana mínima. Las herramientas de vídeo generativo permiten hacer algo parecido con contenido audiovisual y los agentes pueden automatizar parte de la investigación, creación, publicación y distribución.
De ahí procede la creciente utilización del término AI slop. La expresión se emplea para describir contenido sintético producido masivamente, normalmente con poco esfuerzo editorial y escaso valor para quien lo recibe.
No todo el contenido generado con IA entra en esa categoría. La inteligencia artificial también puede utilizarse para traducción, programación, investigación, accesibilidad, educación o asistencia creativa. El problema aparece cuando la facilidad para producir información supera la capacidad de las plataformas y los usuarios para verificarla y filtrarla.
La encuesta muestra algunas consecuencias. Un 40 % de los participantes se queja de los perfiles falsos y los deepfakes, mientras que el 27 % afirma que encontrarse con contenido generado mediante IA reduce sus ganas de navegar por Internet.
Otro 16 % señala que este tipo de contenido aumenta su fatiga. En el lado contrario, un 12 % considera que la IA le permite acceder a información de manera más rápida y sencilla.
La fotografía que dejan los datos no es, por tanto, un rechazo generalizado a la inteligencia artificial. Es una creciente dificultad para diferenciar entre IA útil, contenido automatizado de baja calidad y material deliberadamente engañoso.
Los deepfakes plantean un problema que los detectores de IA no han resuelto
Durante los primeros años de la generación de imágenes mediante inteligencia artificial resultaba relativamente sencillo encontrar errores. Dedos adicionales, letras deformadas, objetos imposibles o problemas de iluminación servían como pistas.
La evolución de los modelos está eliminando progresivamente muchas de esas señales.
Además, identificar contenido sintético únicamente mediante detectores automáticos tiene limitaciones. Una imagen puede haber sido generada completamente con IA, parcialmente modificada o simplemente comprimida y editada después de su creación.
Por eso está ganando importancia otro planteamiento: demostrar la procedencia del contenido en lugar de intentar adivinar si ha sido generado artificialmente.
Tecnologías de credenciales digitales y estándares de procedencia buscan asociar información verificable a fotografías y otros archivos para registrar su origen y determinadas modificaciones posteriores.
La cuestión será cada vez más relevante porque existe un segundo riesgo. Cuando cualquier imagen puede fabricarse de forma convincente, también resulta más sencillo afirmar que una fotografía auténtica es falsa.
Ese fenómeno puede convertir la duda en una herramienta de desinformación por sí misma.
El problema deja entonces de consistir únicamente en que alguien crea un deepfake. También aparece la posibilidad de que una persona deje de creer una prueba auténtica porque sabe que técnicamente podría haber sido generada mediante IA.
La privacidad se suma a la desconfianza hacia la inteligencia artificial
La preocupación recogida por la encuesta no se limita al contenido sintético.
El 52 % de los participantes considera inevitable que sus datos personales terminen expuestos, mientras que únicamente un 11 % confía en que su información permanezca privada. El 37 % restante adopta una posición intermedia.
Entre millennials y miembros de la generación X el porcentaje de quienes esperan que sus datos sean vulnerados alcanza aproximadamente el 55 %. Entre la generación Z y los baby boomers ronda el 48 %.
La inteligencia artificial no ha creado este problema. Las filtraciones de bases de datos, el seguimiento publicitario, las redes sociales y los data brokers existen desde mucho antes del auge de los grandes modelos de lenguaje.
Pero la incorporación de IA a navegadores, buscadores, sistemas operativos, aplicaciones y servicios empresariales introduce nuevas preguntas sobre qué información se recopila, dónde se procesa y si puede utilizarse posteriormente para mejorar modelos.
La encuesta señala además que aproximadamente la mitad de los participantes lamenta haber compartido determinados datos personales en Internet y que un 63 % relaciona el posible robo de esa información con ansiedad.
La abundancia de contenido puede convertirse en el nuevo problema de la IA
Durante buena parte de la historia de Internet el reto consistía en acceder a la información.
Los buscadores solucionaron parcialmente ese problema organizando miles de millones de páginas. Las redes sociales introdujeron después algoritmos capaces de seleccionar publicaciones entre cantidades enormes de contenido.
La IA generativa introduce una situación distinta: la información puede producirse prácticamente bajo demanda y a un coste cada vez menor.
Esto puede provocar que el recurso escaso deje de ser el contenido y pase a ser la confianza.
Medios de comunicación, buscadores, redes sociales y plataformas tecnológicas tendrán que decidir cómo diferenciar contenido original, material asistido por IA, creaciones completamente sintéticas y publicaciones diseñadas para engañar.
Los propios usuarios parecen estar modificando algunos hábitos. Un 43 % considera que pasa demasiado tiempo conectado y, según la encuesta, un 47 % ha eliminado alguna cuenta de redes sociales por cuestiones relacionadas con la ansiedad y un 41 % por motivos de privacidad.
Un 29 % estaría incluso dispuesto a pagar por utilizar servicios de Internet privados y sin seguimiento, aunque el 46 % no pagaría por ello.
La inteligencia artificial ofrece herramientas capaces de mejorar muchas de las actividades que se realizan en Internet. El problema que empieza a aparecer es diferente: cuanto más sencillo resulte generar cualquier texto, fotografía, voz o vídeo imaginable, más importante será poder demostrar quién lo creó, cómo se produjo y hasta qué punto merece confianza.
Preguntas frecuentes
¿Qué porcentaje de usuarios tiene dificultades para saber si un contenido es real?
El 48 % de los participantes en la encuesta afirma sentirse menos seguro a la hora de diferenciar contenido real del generado mediante inteligencia artificial.
¿Qué significa AI slop?
AI slop es una expresión utilizada para describir contenido generado masivamente mediante inteligencia artificial y con escaso valor, como imágenes diseñadas para captar interacciones, textos repetitivos, vídeos sintéticos o publicaciones automatizadas.
¿Los usuarios están cansándose del contenido generado por IA?
Según la encuesta, un 27 % afirma que el contenido generado mediante IA reduce sus ganas de navegar por Internet y un 16 % asegura que aumenta su sensación de fatiga. Un 12 %, sin embargo, valora que permita acceder más rápidamente a determinada información.
¿La IA es responsable de la preocupación por la privacidad?
No exclusivamente. La recopilación de datos, las filtraciones y el seguimiento online son anteriores al auge de la IA generativa. Los nuevos servicios de inteligencia artificial añaden más procesos en los que puede intervenir información personal.
