BroadRouter

Alucinación (hallucination)

Actualizado

Una alucinación es una salida de un modelo de lenguaje que suena plausible pero es falsa, inventada o no está respaldada por la entrada que recibió, como una cita inventada, una cifra errónea o una API que no existe. Surge porque el modelo predice texto probable en lugar de verificar hechos.

También llamado: alucinación, alucinaciones de IA, alucinaciones de LLM, alucinación de la IA, confabulación, hallucination, AI hallucination, LLM hallucination, confabulation

Una alucinación se lee exactamente igual que una respuesta correcta. Eso es lo que la vuelve costosa.

Cómo ocurre

Un modelo de lenguaje escribe los siguientes tokens más plausibles según su entrenamiento y el prompt. Nada en ese ciclo contrasta un dato con el mundo. Cuando el modelo no tiene la respuesta, sigue disponiendo de una que parece plausible.

Kalai y sus colegas, en un artículo de 2025, sostienen que las alucinaciones persisten porque “training and evaluation procedures reward guessing over acknowledging uncertainty” (traducción: los procedimientos de entrenamiento y evaluación premian adivinar por encima de reconocer la incertidumbre). La mayoría de los benchmarks dan puntos por una suposición acertada y nada por abstenerse, así que los modelos se ajustan para ser buenos rindiendo exámenes. También atribuyen los errores a un origen estadístico: si un modelo no puede distinguir de forma fiable las afirmaciones verdaderas de las falsas, el preentrenamiento producirá afirmaciones falsas.

Formas comunes al trabajar con APIs:

  • citas, URLs o frases inventadas
  • cifras erróneas en el resumen de un documento correcto
  • métodos o parámetros de API que no existen
  • respuestas a preguntas que el contexto proporcionado no cubre

Por qué importa

El costo aparece después: un bot de soporte que inventa una política de reembolsos, un informe con un total equivocado, código que llama a una función inexistente. Comparadas con eso, las soluciones son baratas:

  • Fundamente la respuesta. Ponga el texto fuente en el prompt o recupérelo con RAG. Lewis y sus colegas encontraron que la generación aumentada por recuperación era más “factual” (traducción: apegada a los hechos) que una línea base solo paramétrica. Consulte grounding.
  • Permita el “no lo sé”. Anthropic incluye como paso básico el permiso explícito para admitir incertidumbre.
  • Pida citas y luego verifíquelas. Haga que el modelo cite un fragmento que respalde cada afirmación y descarte las que no lo tengan.
  • Mida. Arme una evaluación con preguntas que no tengan respuesta en el contexto y registre con qué frecuencia el modelo inventa una. Los logprobs pueden señalar respuestas de baja confianza cuando la API los devuelve.
  • Verifique en código. Los totales, las fechas y los IDs se pueden comprobar sin un modelo.

Bajar la temperatura ayuda con la deriva en textos largos, no con los errores dichos con seguridad.

En BroadNet Inference

La documentación de BroadNet no publica tasas de alucinación de sus modelos ni incluye guardrails o funciones de verificación de hechos, así que estos controles quedan en su aplicación. Un contexto grande ayuda al grounding: DeepSeek V4.1 Flash y GLM 5.3 aceptan 1,048,576 tokens por solicitud, suficiente para incluir documentos fuente completos. Para pipelines de recuperación en árabe, consulte RAG en árabe; para verificar campos extraídos contra la imagen, consulte la guía de facturas.

Preguntas frecuentes

¿Por qué alucinan los LLM?

Se entrenan para producir texto probable, y Kalai y sus colegas sostienen que el entrenamiento y los benchmarks premian una suposición segura por encima de admitir la incertidumbre. Adivinar puede sumar puntos; "no lo sé" no suma ninguno.

¿Se pueden eliminar las alucinaciones?

Ningún método las elimina por completo. El grounding en documentos, permitir "no lo sé", las citas y las verificaciones en código las reducen. La guía de Anthropic dice que estas técnicas reducen las alucinaciones, pero no las eliminan.

¿Una temperatura más baja detiene las alucinaciones?

Reduce las elecciones de palabras al azar, pero no los errores dichos con seguridad. Un modelo puede dar la misma respuesta equivocada cada vez con temperatura 0.

Leer en MarkdownPreguntar a ChatGPTPreguntar a ClaudePreguntar a Perplexity