En una reciente y polémica revelación, se ha descubierto que Google Books ha indexado una cantidad significativa de libros generados por inteligencia artificial (IA), cuestionando la calidad y fiabilidad de su vasto archivo digital. Este hallazgo ha desencadenado un debate sobre la integridad de las fuentes de información en línea y la responsabilidad de las plataformas digitales en la preservación de contenidos auténticos.
El Problema con los Textos Generados por IA
La proliferación de textos generados por IA en Google Books ha sido identificada mediante frases específicas que sugieren autoría por IA. Esto representa una amenaza potencial para herramientas de investigación como el visualizador Google Ngram, esencial para el seguimiento de cambios lingüísticos y culturales a través del tiempo, debido a la posible contaminación de sus datos con libros de IA.
La inacción de Google frente a la detección de contenido generado por IA plantea interrogantes sobre su compromiso con la autenticidad del contenido en Google Books. A pesar de la identificación de contenido generado por IA, Google no ha implementado una política robusta para eliminar dichos textos de su plataforma.
La Integridad de los Recursos Académicos en Juego
La inclusión de contenido generado por IA en Google Books pone en peligro la fiabilidad de los archivos digitales, presentando una amenaza directa a la investigación académica y la diseminación del conocimiento. La aparición descontrolada de libros generados por IA subraya un problema más amplio de disminución de la calidad del contenido en plataformas digitales, desafiando la confiabilidad de la información en línea.
Un análisis realizado reveló la presencia de libros con contenido superficial y análisis de nivel básico sobre eventos financieros complejos, presentados como textos generados por IA. Además, algunos libros aparecen desactualizados al momento de su publicación debido a la utilización de versiones antiguas de ChatGPT para su generación, lo que los hace poco útiles para los lectores.
El Peligro de un Bucle de Retroalimentación con la IA
La indexación de libros generados por IA en Google Books podría tener como resultado no intencionado su futura inclusión en el visualizador Google Ngram. Si bien Google ha afirmado que los libros señalados actualmente no influyen en los resultados del visualizador Ngram, no ha especificado si estos libros serán filtrados de los corpora del visualizador Ngram en el futuro.
La posibilidad de que libros generados por IA comiencen a influir en los resultados del visualizador Ngram en el futuro podría cambiar completamente su significado. Estos resultados podrían volverse poco fiables para enseñarnos sobre la cultura creada por humanos o podrían indicar algo más desolador: que la cultura humana está siendo reemplazada por contenido generado por IA.
La Respuesta de Google y el Futuro de Google Books
Google no ha indicado si está formulando una política para filtrar libros generados por IA de Google Books, ni ha eliminado ninguno de los libros generados por IA señalados. Esta situación resalta otra instancia en la que el texto generado por IA se convierte en un ouroboros, donde el contenido generado por IA es absorbido por Google Books para luego ser utilizado por Google en el entrenamiento de nuevos modelos.
Este desarrollo subraya la necesidad de una mayor transparencia y regulación en la gestión de contenidos generados por IA, asegurando que las plataformas digitales mantengan un compromiso firme con la autenticidad y la calidad del contenido que ofrecen a sus usuarios.
vía: 404media
