Un modello senza grounding risponde a memoria. Uno con grounding risponde dalla pagina che ha davanti.
Come funziona
La documentazione di Vertex AI di Google definisce il grounding come “the ability to connect model output to verifiable sources of information.” (traduzione: la capacità di collegare l’output del modello a fonti di informazione verificabili). La fonte può essere una ricerca web, i tuoi documenti, un servizio di mappe o un database. Qualunque sia la fonte, lo schema ha tre parti:
- Recuperare le prove per la domanda: passaggi recuperati, un file intero, l’immagine di una fattura, righe da SQL.
- Metterle nel prompt con l’istruzione di rispondere solo a partire da quelle.
- Rendere la risposta verificabile con citazioni, marcatori di riferimento o link alla fonte.
La retrieval-augmented generation è il metodo più noto. Lewis e colleghi hanno abbinato un generatore a un “dense vector index of Wikipedia” (traduzione: indice vettoriale denso di Wikipedia), interrogato da un retriever neurale, e hanno riportato risposte più specifiche e più fattuali di quelle di un modello che lavora solo con i propri parametri. Per costruire quell’indice servono gli embedding e spesso un database vettoriale.
Un prompt minimo con grounding (resta in inglese: chiede di rispondere solo in base alla policy, citare la frase che lo giustifica e rispondere “Not in the policy.” se la policy non risponde):
Answer using only the policy below. Quote the sentence that supports your answer.
If the policy does not answer the question, reply "Not in the policy."
<policy>Refunds are available within 14 days of purchase.</policy>
Question: Can I get a refund after three weeks?
Una risposta ancorata dice di no e cita la frase sui 14 giorni. Un modello senza grounding potrebbe inventare una policy di 30 giorni che suona normale.
Per input lunghi, Anthropic suggerisce un passaggio “prima le citazioni”: per documenti oltre i 20.000 token, fai estrarre al modello citazioni parola per parola, poi fallo rispondere solo a partire da quelle.
Perché è importante
- Meno fatti inventati. Google indica la riduzione delle allucinazioni come vantaggio principale. Il grounding è il rimedio più diretto alle allucinazioni sui tuoi dati.
- Informazioni aggiornate. I pesi di un modello sono congelati al momento dell’addestramento. Le fonti di grounding possono cambiare ogni giorno senza riaddestrare.
- Verificabilità. Un’affermazione con una citazione può essere controllata da una persona o dal codice.
- Compromesso sui costi. Le prove sono token di input. Recuperare cinque passaggi costa meno che inviare un manuale intero, ma può mancare il passaggio che conta. I prompt molto lunghi rischiano anche problemi di richiamo lost-in-the-middle.
Su BroadNet Inference
La documentazione di BroadNet non elenca un endpoint di embedding, uno strumento di ricerca o una funzione di citazione, quindi il recupero avviene nel tuo codice. Ciò che l’API ti dà è spazio per le prove: una context window da 1.048.576 token su DeepSeek V4.1 Flash e GLM 5.3, 262.144 su Qwen3.8 27B, e input di immagini sui modelli la cui voce nella documentazione indica immagini o visione. Questo rende “incolla tutto il documento” un’opzione concreta; contesto lungo o RAG confronta il costo delle due strade, e la guida alle fatture ancora l’estrazione a un’immagine scansionata.