Un error generado por el sistema AI Overviews de Google expone a la multinacional a una demanda millonaria por difamación. El caso abre un debate global sobre los límites, responsabilidades y consecuencias legales de las respuestas generadas por inteligencia artificial.
En apenas unos segundos, una inteligencia artificial escribió una frase falsa. No fue intencionada, ni escrita por humanos. Pero sus efectos fueron devastadores. Lo que comenzó como un experimento de eficiencia tecnológica terminó siendo un caso legal sin precedentes: Google ha sido demandado por la empresa estadounidense Wolf River Electric, que reclama entre 110 y 250 millones de dólares por los daños causados por una afirmación inexacta generada por su herramienta de IA integrada en el buscador.
Y todo por una respuesta que, a simple vista, parecía confiable. AI Overviews —el sistema lanzado por Google en mayo de 2024 para ofrecer respuestas directas usando inteligencia artificial— afirmó que la empresa energética había sido denunciada por el fiscal general de Minnesota por prácticas comerciales engañosas. Algo que nunca ocurrió.
No fue un error de redacción. Fue una «alucinación» generativa: un fenómeno común en los modelos de lenguaje grandes (LLM, por sus siglas en inglés), donde se produce contenido aparentemente veraz… sin base factual alguna.
Una afirmación sin fuente, pero con consecuencias
Según la demanda presentada, varios clientes de Wolf River Electric cancelaron contratos valorados en más de 100.000 dólares cada uno tras leer el resumen generado por Google. Aunque la compañía corrigió el error y eliminó el contenido, el impacto ya había repercutido en la reputación, operaciones y flujo de caja de la firma. La demanda sostiene que el daño ya era “irreversible” en términos de pérdida de confianza y oportunidades de negocio.
“La IA no mintió, pero tampoco dijo la verdad. Y Google fue quien la puso a hablar en voz alta para millones de usuarios. Eso tiene consecuencias”, declaró el abogado principal del caso, en declaraciones recogidas por medios locales.
¿Qué es AI Overviews y por qué está en el centro de la polémica?
AI Overviews fue presentado como un avance en la experiencia de búsqueda: un sistema capaz de generar directamente un resumen confiable al tope de la página, evitando que los usuarios tuvieran que navegar entre enlaces. Utiliza modelos entrenados con grandes cantidades de datos para sintetizar una respuesta en lenguaje natural.
Pero la sofisticación del lenguaje no siempre se traduce en precisión. El caso de Wolf River Electric demuestra que, en ausencia de supervisión o verificación cruzada, la IA puede «inventar» relaciones o hechos que suenan verosímiles, pero que no están respaldados por ninguna fuente real.
Google ha sido cauto en su respuesta pública, limitándose a indicar que el sistema aún está en proceso de mejora, y recordando que las respuestas generadas “pueden contener errores”. No obstante, la compañía no ha negado la existencia del error ni la naturaleza del contenido difundido.
Un riesgo sistémico: no es solo un fallo puntual
Expertos en inteligencia artificial advierten desde hace tiempo sobre este tipo de riesgos. El fenómeno de las “alucinaciones” en modelos de lenguaje es conocido: se trata de errores sistemáticos en los que la IA genera contenido falso de forma fluida, convincente y estructurada. No se trata de errores gramaticales ni de desinformación externa: son invenciones internas, resultado del entrenamiento estadístico de estos sistemas.
“Cuando una IA genera una afirmación falsa y la presenta con autoridad, no solo es un problema de precisión. Es un riesgo legal, ético y empresarial. La diferencia entre un chatbot y un buscador global es que, en el segundo caso, la gente asume que lo que se muestra es verdad”, explica Natalia Rey, especialista en derecho digital.
Gobernanza, reputación y límites de responsabilidad
Un informe reciente de McKinsey señalaba que el 84% de las empresas planea integrar IA generativa en sus operaciones antes de 2026, pero solo una de cada cuatro cuenta con un marco de gobernanza sólido. Esto incluye políticas de revisión de contenidos, trazabilidad de fuentes, protocolos de corrección y mecanismos de respuesta ante errores.
El caso de Google podría marcar un antes y un después en este panorama. Aunque la empresa sostiene que AI Overviews es un producto en evolución, la escala de uso y el alcance de su motor de búsqueda hacen que cualquier error se amplifique exponencialmente.
“El dilema ya no es solo técnico. Es estratégico. Cada respuesta generada por IA es una promesa. Si no se cumple, puede convertirse en una amenaza legal”, señala Rey.
¿Y si esto le pasa a tu empresa?
El caso de Wolf River Electric no es anecdótico. Representa un nuevo tipo de vulnerabilidad para las marcas: la exposición involuntaria a errores cometidos por sistemas automáticos externos. En este caso, el error no fue de la empresa afectada, ni siquiera de un competidor: fue del algoritmo de un proveedor global que actúa como mediador de la información.
Esto plantea nuevas preguntas para los departamentos legales y de comunicación corporativa:
- ¿Cómo se responde a una difamación generada por una IA externa?
- ¿Qué responsabilidad tienen las plataformas?
- ¿Debe una empresa monitorear de forma activa lo que los sistemas generativos dicen de ella?
- ¿Cómo se reparan los daños si no hay una persona responsable directa?
De los enlaces azules al dilema ético
En última instancia, la transición de Google hacia respuestas automatizadas no es solo una evolución tecnológica. Es un cambio cultural, informativo y económico. El buscador ya no dirige a otras fuentes. Ahora interpreta, resume y responde directamente. Y esa nueva función —más poderosa, pero también más arriesgada— tiene un coste.
“Cuando Google deja de ser un índice para convertirse en una voz, esa voz debe ser fiable. Porque si no lo es, se convierte en un riesgo reputacional para todos los que nombra”, explica el analista en comunicación digital Marc Vilalta.
Lo que viene: regulaciones, protocolos y nuevas normas del juego
A medida que los modelos generativos se integran en sistemas públicos (desde justicia a salud) o comerciales (desde bancos a aseguradoras), la precisión, trazabilidad y responsabilidad dejan de ser elementos técnicos para convertirse en garantías esenciales.
Ya existen propuestas legislativas en EE.UU. y Europa para exigir a las grandes tecnológicas:
- etiquetar claramente contenido generado por IA,
- demostrar el origen de la información,
- ofrecer mecanismos rápidos de corrección,
- e incluso habilitar seguros de responsabilidad para IA en sectores sensibles.
El caso Wolf River Electric vs. Google será probablemente uno de los primeros grandes juicios por difamación vinculada a la inteligencia artificial, pero no será el último. Las empresas, las instituciones y los usuarios deberán adaptarse a un entorno donde las máquinas no solo interpretan el mundo, sino que lo reescriben… y, a veces, lo hacen mal.
