Una alucinación se lee exactamente igual que una respuesta correcta. Eso es lo que la vuelve costosa.
Cómo ocurre
Un modelo de lenguaje escribe los siguientes tokens más plausibles según su entrenamiento y el prompt. Nada en ese ciclo contrasta un dato con el mundo. Cuando el modelo no tiene la respuesta, sigue disponiendo de una que parece plausible.
Kalai y sus colegas, en un artículo de 2025, sostienen que las alucinaciones persisten porque “training and evaluation procedures reward guessing over acknowledging uncertainty” (traducción: los procedimientos de entrenamiento y evaluación premian adivinar por encima de reconocer la incertidumbre). La mayoría de los benchmarks dan puntos por una suposición acertada y nada por abstenerse, así que los modelos se ajustan para ser buenos rindiendo exámenes. También atribuyen los errores a un origen estadístico: si un modelo no puede distinguir de forma fiable las afirmaciones verdaderas de las falsas, el preentrenamiento producirá afirmaciones falsas.
Formas comunes al trabajar con APIs:
- citas, URLs o frases inventadas
- cifras erróneas en el resumen de un documento correcto
- métodos o parámetros de API que no existen
- respuestas a preguntas que el contexto proporcionado no cubre
Por qué importa
El costo aparece después: un bot de soporte que inventa una política de reembolsos, un informe con un total equivocado, código que llama a una función inexistente. Comparadas con eso, las soluciones son baratas:
- Fundamente la respuesta. Ponga el texto fuente en el prompt o recupérelo con RAG. Lewis y sus colegas encontraron que la generación aumentada por recuperación era más “factual” (traducción: apegada a los hechos) que una línea base solo paramétrica. Consulte grounding.
- Permita el “no lo sé”. Anthropic incluye como paso básico el permiso explícito para admitir incertidumbre.
- Pida citas y luego verifíquelas. Haga que el modelo cite un fragmento que respalde cada afirmación y descarte las que no lo tengan.
- Mida. Arme una evaluación con preguntas que no tengan respuesta en el contexto y registre con qué frecuencia el modelo inventa una. Los logprobs pueden señalar respuestas de baja confianza cuando la API los devuelve.
- Verifique en código. Los totales, las fechas y los IDs se pueden comprobar sin un modelo.
Bajar la temperatura ayuda con la deriva en textos largos, no con los errores dichos con seguridad.
En BroadNet Inference
La documentación de BroadNet no publica tasas de alucinación de sus modelos ni incluye guardrails o funciones de verificación de hechos, así que estos controles quedan en su aplicación. Un contexto grande ayuda al grounding: DeepSeek V4.1 Flash y GLM 5.3 aceptan 1,048,576 tokens por solicitud, suficiente para incluir documentos fuente completos. Para pipelines de recuperación en árabe, consulte RAG en árabe; para verificar campos extraídos contra la imagen, consulte la guía de facturas.