Google Books ha estado indexando cientos de libros generados con IA sin ningún tipo de filtro ni aviso al lector, según reveló una investigación de 404 Media. Los títulos se detectan por frases delatoras que ChatGPT y otros modelos repiten de forma mecánica, del tipo «a partir de mi fecha de corte de conocimiento» o «como modelo de lenguaje de IA», coladas directamente en el texto publicado.
Qué se ha encontrado exactamente
Los libros detectados van desde análisis superficiales de eventos financieros complejos hasta manuales técnicos escritos con versiones antiguas de ChatGPT, lo que los deja desactualizados desde el día de su publicación. Ninguno pasa un filtro editorial real, y Google no exige verificación de autoría para indexar un título en su catálogo. El problema no es solo de calidad: es que estos libros compiten en igualdad de condiciones con obras revisadas por editoriales, sin ninguna etiqueta que avise al lector de su origen.
Google Books alimenta directamente el visualizador Ngram, la herramienta que usan lingüistas e historiadores para rastrear cómo cambia el uso de palabras y expresiones a lo largo del tiempo. Google ha dicho que los libros señalados hasta ahora no afectan a los resultados de Ngram, pero no ha aclarado si va a filtrarlos del corpus en el futuro ni cómo piensa detectar los que lleguen después.
Por qué importa para algo más que Google Books
Si el visualizador Ngram empieza a absorber texto generado por IA sin filtrar, deja de servir para lo que se creó, que es medir cómo escriben y hablan las personas. En el peor de los casos, empezaría a medir cómo escribe la propia IA, y cualquier conclusión sobre cultura o lenguaje sacada de ahí quedaría contaminada sin que el usuario lo sepa.
Hay un problema añadido: Google entrena sus propios modelos, entre ellos Gemini, con grandes volúmenes de texto rastreado de internet y de sus propios productos. Si Google Books admite libros generados por IA sin filtro, ese contenido puede acabar reentrando como material de entrenamiento para la siguiente generación de modelos, un bucle en el que la IA aprende de textos escritos por IA anterior, cada vez con menos aportación humana real de por medio.
La respuesta de Google, de momento
Google no ha anunciado ninguna política específica para detectar o retirar libros generados por IA de su catálogo, ni ha confirmado si trabaja en un sistema de filtrado para el visualizador Ngram. La compañía se limita a decir que los casos conocidos no influyen en los resultados actuales, sin comprometerse a nada de cara a lo que llegue después. Mientras tanto, cualquiera puede subir un libro escrito con ChatGPT a plataformas de autopublicación y verlo indexado en Google Books sin más trámite.
El caso se suma a un debate más amplio sobre cómo distinguir contenido humano de contenido generado por máquinas a medida que la IA convierte buena parte de internet en tráfico de bots. Otras plataformas ya han empezado a tomar posición al respecto: Bluesky, por ejemplo, se ha comprometido a no usar el contenido de sus usuarios para entrenar IA generativa, justo la dirección contraria a la que parece ir Google Books con su indexación sin filtros.
Preguntas frecuentes
¿Cómo se detectan los libros generados por IA en Google Books?
Buscando frases características que los modelos de lenguaje repiten al generar texto, como referencias a su fecha de corte de conocimiento o menciones directas a ser «un modelo de IA», que se cuelan sin editar en el texto final publicado.
¿Afecta esto al visualizador Google Ngram?
Google dice que los libros identificados hasta ahora no influyen en los resultados actuales del Ngram, pero no ha explicado si los filtrará del corpus a medida que se detecten más casos.
¿Google Books verifica la autoría de los libros que indexa?
No. Cualquier libro publicado a través de plataformas de autopublicación puede acabar indexado sin pasar ningún filtro editorial ni control sobre si el texto se ha generado con IA.
¿Qué riesgo hay de que la IA se entrene con texto generado por IA anterior?
Si estos libros acaban formando parte de los datos de entrenamiento de futuros modelos, incluidos los de la propia Google, se crea un bucle en el que cada generación de IA aprende de textos con cada vez menos aportación humana original.
vía: 404 Media
