Deepfakes y menores: Navegando el peligro de los contenidos falsos en Internet

En la era de la información digital, la inteligencia artificial (IA) ha traído consigo avances significativos y, con ellos, nuevos desafíos éticos y de seguridad, especialmente para los más jóvenes. Según el último informe de Qustodio, «Nacer en la era digital: La generación de la IA», cerca del 20% de los menores accedieron a OpenAI en 2023, evidenciando la creciente interacción de esta población con la tecnología avanzada. Sin embargo, esta interacción no está exenta de riesgos, particularmente en lo que respecta a los deepfakes.

Los deepfakes, contenidos manipulados a través de la IA para alterar vídeos, imágenes o audios, representan una preocupante amenaza. Estas falsificaciones pueden distorsionar la percepción de la realidad de los usuarios, especialmente de los menores, quienes se encuentran en una etapa crítica de formación y madurez. El potencial de los deepfakes para difundir información falsa y dañar la reputación de individuos es alarmante, como lo demuestra el caso de celebridades que han sido víctimas de la creación de contenido pornográfico falso sin su consentimiento.

La detección de deepfakes sigue siendo un desafío considerable, ya que solo el 27% de los europeos confía en su capacidad para identificar contenidos generados por IA, según un estudio del Centro para la Gobernanza del Cambio de IE University. Sin embargo, existen indicadores clave que pueden ayudar a discernir la autenticidad de un contenido, como desproporciones físicas, inconsistencias en el lenguaje no verbal, anormalidades en la nitidez de la voz, el número de parpadeos y la duración del vídeo.

Ante este panorama, es fundamental educar a los menores sobre los riesgos asociados con los deepfakes y la importancia de consumir contenido digital de manera crítica y responsable. Eduardo Cruz, CEO y cofundador de Qustodio, subraya la necesidad de una educación digital que prepare a los jóvenes para reconocer tanto los beneficios como los peligros de la IA. El objetivo es promover un uso responsable de la tecnología que evite la difusión de información potencialmente falsa y dañina.

Mientras los avances en IA continúan transformando el modo en que interactuamos con el mundo digital, el desafío de proteger a los menores de los peligros de los deepfakes cobra mayor relevancia. Es imprescindible que padres, educadores y la sociedad en general se involucren activamente en la formación de usuarios digitales conscientes y responsables, capaces de navegar con seguridad en el vasto mar de información que es internet hoy en día.

Scroll al inicio