Por qué alucina una IA

Escrito por Marc Vidal

Un juez de Kansas multó en febrero a cinco abogados por presentar un escrito que citaba un pleito que nunca existió. Lo había redactado ChatGPT. La anécdota se repite a escala: la base de datos que mantiene el investigador Damien Charlotin supera ya los 2.100 casos judiciales con contenido inventado por inteligencia artificial, y en Estados Unidos se ha pasado de 11 casos en 2023 a 668 solo en la primera mitad de 2026. Conviene entender por qué una máquina tan cara inventa con tanta seguridad.

La respuesta técnica es menos misteriosa de lo que parece. Un modelo de lenguaje no consulta una base de hechos; calcula, token a token, cuál es la continuación más probable del texto. Cuando la pregunta tiene respuesta frecuente en los datos de entrenamiento, la probabilidad y la verdad coinciden. Cuando no la tiene, el modelo sigue generando la secuencia más plausible, que es, por definición, la que mejor suena. Una cita jurídica inventada tiene el formato exacto de una cita real porque el formato es lo que el modelo ha aprendido. El contenido es un accidente estadístico.

Lo relevante es que esto no es un fallo que se arregle con más entrenamiento. Investigadores de OpenAI y Georgia Tech publicaron en 2025 un artículo que lo explica con crudeza: las alucinaciones persisten porque los sistemas de evaluación premian adivinar antes que admitir ignorancia. Un modelo que dice "no lo sé" puntúa peor en los rankings que uno que se inventa una respuesta con el 20% de posibilidades de acertar. Los modelos se optimizan para aprobar exámenes, y en un examen dejar la casilla en blanco nunca suma. La industria ha construido un incentivo a mentir y luego se sorprende de que sus criaturas mientan.

Los datos lo confirman. En tareas de resumen controladas, las tasas de alucinación de los modelos comerciales van del 1,8% al 24% según el sistema. Un estudio de la Universidad de Pensilvania encontró que entre el 3% y el 13% de las direcciones web citadas por agentes de investigación nunca existieron. Y la contaminación ya ha llegado a la ciencia: uno de cada 277 artículos indexados en PubMed en 2026 cita un trabajo que no existe, diez veces más que en 2023. Deloitte tuvo que devolver parte de un contrato al Gobierno australiano por un informe con sentencias y libros inventados.

Hay técnicas que reducen el problema: obligar al modelo a buscar en documentos reales antes de responder, calibrar su confianza, verificar cada enlace con una herramienta externa. El mismo estudio de Pensilvania bajó los errores por debajo del 1% con una comprobación automática. Son parches útiles y la mayoría de usuarios no los aplica. El sistema seguirá sonando igual de seguro cuando acierte que cuando invente, y esa seguridad, no la máquina, es lo que nos cuesta el dinero.

Fuentes

Prensa

Institucional / Datos

Académico / Research

Marc Vidal
Siguiente

Europa inventó el futuro y se lo dejó a otros