Desde que OpenAI lanzó ChatGPT en noviembre de 2022, el debate sobre su fiabilidad no ha parado de crecer. El chatbot puede responder preguntas, redactar textos, resolver problemas de código y proponer ideas creativas, pero tiene un punto débil que no conviene ignorar: no siempre acierta, y cuando falla puede acabar propagando información errónea a escala.
A diferencia de un motor de búsqueda, que devuelve enlaces a páginas existentes, ChatGPT genera respuestas a partir de patrones estadísticos sobre el lenguaje, haciendo inferencias sobre qué texto es más probable. Eso le permite sonar convincente incluso cuando se equivoca. Alfonso Díez Cobo, Senior Sales Engineer de Commvault, analiza cómo esa mecánica puede convertir al chatbot en un multiplicador involuntario de fake news.
El problema de base: ChatGPT no verifica, genera
La diferencia entre ChatGPT y un motor de búsqueda es técnicamente importante. Un buscador rastrea la web y muestra páginas; ChatGPT construye una respuesta conversacional haciendo inferencias, una serie de predicciones estadísticas basadas en patrones de lenguaje. Algunas estimaciones sobre su tasa de precisión rondan el 99%, aunque esa cifra varía bastante según el tipo de tarea y quién la mide.
El lenguaje añade complejidad. ChatGPT todavía no capta el 100% de los matices lingüísticos, así que hay margen para errores de interpretación que pueden pasar desapercibidos, sobre todo cuando el usuario no domina el tema que consulta. Una respuesta incorrecta que suena bien redactada tiene más probabilidades de tomarse como un hecho que una respuesta abiertamente deficiente.
La web ya acumula demasiadas noticias falsas
El segundo problema viene de la materia prima. Si ChatGPT aprende de datos de internet y, según varios estudios, el 62% de la información online puede catalogarse como desinformación o dato sin verificar, la probabilidad de que el chatbot reproduzca esa información errónea es alta. No por mala fe, sino porque el modelo no tiene mecanismo propio para distinguir un artículo de investigación riguroso de un bulo viral.
El efecto se multiplica cuando se tiene en cuenta la escala: más de 100 millones de usuarios activos formulan preguntas similares. Aunque ChatGPT no da siempre la misma respuesta exacta, tiende a respuestas parecidas cuando parte de los mismos datos. Si esa respuesta incluye una estadística falsa, ese dato puede acabar citado en cientos de blogs, trabajos académicos y artículos de opinión antes de que nadie lo cuestione. Las afirmaciones que se repiten suficientes veces acaban siendo tratadas como hechos.
Esto conecta con un debate más amplio que sacude el sector: la exigencia de veracidad a los sistemas de IA ha generado tensión entre empresas, reguladores y usuarios en distintos países.
¿Prohibición o verificación?
Hay empresas y países que ven en estos riesgos un argumento para limitar o prohibir ChatGPT. Esa reacción, aunque comprensible, no parece la más eficaz. La herramienta tiene valor real para tareas concretas: ideas para proyectos, resúmenes de documentos largos, borradores de textos que luego alguien revisa. Prohibirla no elimina el riesgo de desinformación; ese riesgo ya existía antes del chatbot.
La alternativa más sensata es tratarlo como lo que es: un asistente que necesita supervisión humana. El usuario con experiencia en el tema puede detectar los errores; quien carece de ese conocimiento necesita el hábito de contrastar. La regulación europea sobre ChatGPT avanza en esa dirección, obligando a los desarrolladores a identificar el contenido generado por IA, aunque su aplicación práctica sigue siendo compleja.
Un asistente, no un oráculo
Mientras la precisión de los modelos no alcance niveles que eliminen el margen de error en tareas de alta responsabilidad, ChatGPT encaja mejor en el rol de compañero de trabajo que en el de fuente de autoridad. Puede asumir parte de la carga cognitiva en tareas repetitivas y generar opciones que un humano evalúa después. Lo que no puede hacer todavía es razonar sobre la veracidad de sus propias respuestas con la misma solvencia con la que un experto detectaría un dato incorrecto.
Preguntas frecuentes sobre ChatGPT y la desinformación
¿ChatGPT puede detectar si una fuente es fiable?
No de forma sistemática. La versión base de ChatGPT (sin plugins ni acceso web) no verifica la credibilidad de las fuentes con las que fue entrenado. Puede citar información sin saber si sigue siendo correcta o si la fuente original era de confianza.
¿Qué son las alucinaciones en los modelos de lenguaje?
Se llama alucinación al fenómeno por el que un LLM (Large Language Model) genera afirmaciones que parecen correctas pero son falsas. No hay intención de engañar; es un fallo estadístico. El modelo predice qué texto encajaría con la pregunta, y a veces esa predicción incluye datos que nunca existieron.
¿Los modelos más recientes de OpenAI mejoran este problema?
Los modelos posteriores a GPT-3.5 han reducido la tasa de alucinaciones en tareas concretas, especialmente cuando se combinan con búsqueda web en tiempo real o con bases de conocimiento verificadas. El problema no está resuelto: los errores son menos frecuentes, no imposibles.
¿Qué sectores tienen más riesgo si usan ChatGPT sin verificación?
Medicina, derecho, finanzas, periodismo y educación. En estos ámbitos un dato incorrecto tiene consecuencias graves, y la verificación humana de cada respuesta generada por IA no es opcional.
¿Reemplazará ChatGPT a los trabajadores en los próximos años?
Goldman Sachs estimó en 2023 que hasta 300 millones de empleos a tiempo completo podrían verse afectados por la automatización con IA. Pero «afectados» no equivale a «eliminados». Lo más probable es una redistribución de tareas: la IA asume las repetitivas y de bajo juicio crítico, y los humanos se concentran en las que requieren criterio, contexto y responsabilidad.
Artículo de Alfonso Díez Cobo, Senior Sales Engineer de Commvault.
