Um modelo sem grounding responde de memória. Um modelo com grounding responde a partir da página que tem na frente.
Como funciona
A documentação do Vertex AI do Google define grounding como “the ability to connect model output to verifiable sources of information.” (tradução: a capacidade de ligar a saída do modelo a fontes de informação verificáveis). A fonte pode ser uma busca na web, os seus próprios documentos, um serviço de mapas ou um banco de dados. Seja qual for a fonte, o padrão tem três partes:
- Buscar evidências para a pergunta: trechos recuperados, um arquivo inteiro, a imagem de uma nota fiscal, linhas de SQL.
- Colocá-las no prompt com a instrução de responder só com base nelas.
- Tornar a resposta verificável com citações, marcadores de referência ou links para a fonte.
A geração aumentada por recuperação (RAG) é o método mais conhecido. Lewis e colegas combinaram um gerador com um “dense vector index of Wikipedia” (tradução: índice vetorial denso da Wikipédia), acessado por um recuperador neural, e relataram respostas mais específicas e mais factuais do que as de um modelo trabalhando só com seus parâmetros. Construir esse índice usa embeddings e, muitas vezes, um banco de dados vetorial.
Um prompt mínimo com grounding (fica em inglês: pede para responder só com base na política, citar a frase que sustenta a resposta e responder “Not in the policy.” se a política não responder):
Answer using only the policy below. Quote the sentence that supports your answer.
If the policy does not answer the question, reply "Not in the policy."
<policy>Refunds are available within 14 days of purchase.</policy>
Question: Can I get a refund after three weeks?
Uma resposta ancorada diz que não e cita a frase dos 14 dias. Um modelo sem grounding poderia chutar uma política de 30 dias que parece normal.
Para entradas longas, a Anthropic sugere uma etapa de citações primeiro: em documentos com mais de 20.000 tokens, peça ao modelo que extraia citações literais e depois responda só a partir delas.
Por que isso importa
- Menos fatos inventados. O Google aponta a redução de alucinações como um benefício central. Grounding é a correção mais direta para alucinações sobre os seus próprios dados.
- Informação atualizada. Os pesos do modelo ficam congelados no treinamento. Fontes de grounding podem mudar todo dia sem retreinar.
- Auditabilidade. Uma afirmação com citação pode ser checada por uma pessoa ou por código.
- Trade-off de custo. Evidência é token de entrada. Recuperar cinco trechos sai mais barato que enviar um manual inteiro, mas pode deixar de fora o trecho que importa. Prompts muito longos também correm o risco de perda de memória por lost-in-the-middle.
Na BroadNet Inference
A documentação da BroadNet não lista endpoint de embeddings, ferramenta de busca nem recurso de citações, então a recuperação roda no seu código. O que a API oferece é espaço para evidências: uma janela de contexto de 1.048.576 tokens no DeepSeek V4.1 Flash e no GLM 5.3, 262.144 no Qwen3.8 27B e entrada de imagens nos modelos cuja entrada na documentação indica imagens ou visão. Isso torna “colar o documento inteiro” uma opção real; contexto longo vs. RAG compara o custo de cada caminho, e o guia de faturas ancora a extração em uma imagem escaneada.