Cerca del 20% de los menores españoles accedió a herramientas de OpenAI en 2023, según el informe «Nacer en la era digital: La generación de la IA» de Qustodio. La cifra pone números a un problema que crece al mismo ritmo que la IA generativa, y es que cada vez cuesta más distinguir un vídeo real de un deepfake bien hecho.
Qué son y por qué preocupan tanto
Un deepfake es un vídeo, imagen o audio manipulado con IA para hacer que alguien diga o haga algo que nunca ocurrió. La técnica lleva años perfeccionándose y el caso más repetido es el de celebridades convertidas en protagonistas de contenido pornográfico falso sin su consentimiento. Microsoft ha reforzado su lucha contra este tipo de abusos, pero el problema ya no se queda en el mundo del famoseo: llega también a las aulas y a los grupos de WhatsApp de cualquier instituto.
Casi nadie sabe distinguir uno real de uno falso
Según un estudio del Centro para la Gobernanza del Cambio de IE University, solo el 27% de los europeos confía en su propia capacidad para identificar contenido generado por IA. Hay señales que ayudan: desproporciones físicas raras, un lenguaje no verbal que no encaja, una voz con un timbre extraño o un parpadeo que se repite menos de lo normal. Ninguna de ellas es infalible por separado, así que conviene fijarse en varias a la vez antes de dar algo por auténtico.
Menores, el punto más vulnerable
El riesgo no se limita a que un menor consuma deepfakes ajenos. También está la otra cara: imágenes de niños usadas para entrenar modelos de IA sin permiso de sus padres, un problema documentado por Human Rights Watch que muestra hasta qué punto los datos de los más pequeños circulan sin control. Eduardo Cruz, CEO y cofundador de Qustodio, insiste en que la respuesta pasa por la educación digital: enseñar a los menores a reconocer tanto lo que la IA les ofrece como lo que les puede perjudicar, en vez de prohibir sin más.
La respuesta regulatoria, todavía a medio construir
Europa avanza hacia la obligación de etiquetar el contenido generado por IA dentro del AI Act, y España ha impulsado su propia ley de gobernanza de la Inteligencia Artificial. Son pasos en la dirección correcta, pero ninguna etiqueta sustituye a un padre o un docente que sepa explicar por qué un vídeo viral no es lo que parece.
Preguntas frecuentes
¿Cómo puedo saber si un vídeo es un deepfake?
Fíjate en desproporciones físicas, en un lenguaje no verbal que no cuadra con lo que dice la persona, en la nitidez de la voz y en el ritmo de parpadeo. Ningún indicador es concluyente por sí solo, pero varios juntos suelen delatar la manipulación.
¿Por qué los menores son un objetivo especialmente sensible?
Porque están en una etapa de formación en la que aún no tienen el criterio para cuestionar lo que ven, y porque sus propios datos e imágenes pueden acabar entrenando modelos de IA sin que nadie se lo pida a sus padres.
¿Qué dice la ley europea sobre los deepfakes?
El AI Act obliga a etiquetar el contenido generado o manipulado con IA para que quede claro su origen, aunque la aplicación práctica de esa obligación todavía se está definiendo.
¿Qué puede hacer un padre o un docente en el día a día?
Hablar del tema sin dramatizar, revisar juntos vídeos dudosos y explicar las señales de manipulación, en lugar de limitarse a prohibir el acceso a redes sociales o herramientas de IA.
