Un modelo sin grounding responde de memoria. Uno con grounding responde a partir de la página que tiene delante.
Cómo funciona
La documentación de Vertex AI de Google define el grounding como “the ability to connect model output to verifiable sources of information.” (traducción: la capacidad de conectar la salida del modelo con fuentes de información verificables.) La fuente puede ser una búsqueda web, sus propios documentos, un servicio de mapas o una base de datos. Sea cual sea la fuente, el patrón tiene tres partes:
- Obtener evidencia para la pregunta: pasajes recuperados, un archivo completo, la imagen de una factura, filas de SQL.
- Ponerla en el prompt con la instrucción de responder solo a partir de ella.
- Hacer verificable la respuesta con citas, marcadores de referencia o enlaces a la fuente.
La generación aumentada por recuperación es el método más conocido. Lewis y sus colegas combinaron un generador con un “dense vector index of Wikipedia” (traducción: índice vectorial denso de Wikipedia), al que se accede mediante un recuperador neuronal, e informaron respuestas más específicas y más fieles a los hechos que las de un modelo que trabaja solo con sus parámetros. Construir ese índice requiere embeddings y a menudo una base de datos vectorial.
Un prompt mínimo con grounding:
Answer using only the policy below. Quote the sentence that supports your answer.
If the policy does not answer the question, reply "Not in the policy."
<policy>Refunds are available within 14 days of purchase.</policy>
Question: Can I get a refund after three weeks?
Una respuesta con grounding dice que no y cita la frase de los 14 días. Un modelo sin grounding podría suponer una política de 30 días que suena normal.
Para entradas largas, Anthropic sugiere un paso previo de citas: en documentos de más de 20,000 tokens, haga que el modelo extraiga citas textuales y luego responda solo a partir de ellas.
Por qué importa
- Menos datos inventados. Google menciona la reducción de alucinaciones como un beneficio central. El grounding es la solución más directa a la alucinación sobre sus propios datos.
- Información actual. Los pesos del modelo quedan congelados en el momento del entrenamiento. Las fuentes de grounding pueden cambiar a diario sin reentrenar.
- Auditabilidad. Una afirmación con cita la puede comprobar una persona o un programa.
- Compromiso de costo. La evidencia son tokens de entrada. Recuperar cinco pasajes es más barato que enviar un manual entero, pero puede pasar por alto el pasaje que importa. Los prompts muy largos también corren el riesgo de lost in the middle.
En BroadNet Inference
La documentación de BroadNet no incluye un endpoint de embeddings, una herramienta de búsqueda ni una función de citas, así que la recuperación se ejecuta en su código. Lo que la API le da es espacio para la evidencia: una ventana de contexto de 1,048,576 tokens en DeepSeek V4.1 Flash y GLM 5.3, 262,144 en Qwen3.8 27B, y entrada de imágenes en los modelos cuya entrada en la documentación indica imágenes o visión. Eso convierte “pegar el documento completo” en una opción real; contexto largo frente a RAG compara el costo de cada uno, y la guía de facturas ancla la extracción en una imagen escaneada.