Un modèle sans grounding répond de mémoire. Un modèle ancré répond à partir de la page qu’il a sous les yeux.
Comment ça marche
La documentation Vertex AI de Google définit le grounding comme « the ability to connect model output to verifiable sources of information » (traduction : « la capacité à relier la sortie du modèle à des sources d’information vérifiables »). La source peut être une recherche web, vos propres documents, un service de cartographie ou une base de données. Quelle que soit la source, le schéma comporte trois parties :
- Récupérer des éléments de preuve pour la question : passages récupérés, fichier entier, image d’une facture, lignes SQL.
- Les placer dans le prompt avec l’instruction de répondre uniquement à partir d’eux.
- Rendre la réponse vérifiable avec des citations, des marqueurs de référence ou des liens vers la source.
La génération augmentée par récupération est la méthode la plus connue. Lewis et ses collègues ont associé un générateur à un « dense vector index of Wikipedia » (traduction : « index vectoriel dense de Wikipédia »), interrogé par un retriever neuronal, et ont obtenu des réponses plus précises et plus factuelles que celles d’un modèle qui ne s’appuie que sur ses paramètres. Construire cet index fait appel aux embeddings et souvent à une base de données vectorielle.
Un prompt ancré minimal :
Answer using only the policy below. Quote the sentence that supports your answer.
If the policy does not answer the question, reply "Not in the policy."
<policy>Refunds are available within 14 days of purchase.</policy>
Question: Can I get a refund after three weeks?
Une réponse ancrée dit non et cite la phrase sur les 14 jours. Un modèle non ancré pourrait deviner une politique de 30 jours qui a l’air normale.
Pour les longues entrées, Anthropic suggère une étape « citations d’abord » : pour les documents de plus de 20 000 tokens, faites extraire au modèle des citations mot pour mot, puis faites-le répondre uniquement à partir de ces citations.
Pourquoi c’est important
- Moins de faits inventés. Google cite la réduction des hallucinations comme un avantage central. Le grounding est le remède le plus direct contre les hallucinations sur vos propres données.
- Des informations à jour. Les poids d’un modèle sont figés au moment de l’entraînement. Les sources d’ancrage peuvent changer chaque jour sans réentraînement.
- Auditabilité. Une affirmation accompagnée d’une citation peut être vérifiée par une personne ou par du code.
- Arbitrage de coût. Les éléments de preuve sont des tokens d’entrée. Récupérer cinq passages coûte moins cher qu’envoyer un manuel entier, mais peut manquer le passage décisif. Les prompts très longs exposent aussi au rappel dégradé du lost in the middle.
Sur BroadNet Inference
La documentation de BroadNet ne mentionne ni endpoint d’embeddings, ni outil de recherche, ni fonction de citations : la récupération se fait donc dans votre code. Ce que l’API vous offre, c’est de la place pour les éléments de preuve : une fenêtre de contexte de 1 048 576 tokens sur DeepSeek V4.1 Flash et GLM 5.3, 262 144 sur Qwen3.8 27B, et l’entrée d’images sur les modèles dont la fiche de documentation mentionne les images ou la vision. « Coller le document entier » devient ainsi une vraie option ; contexte long ou RAG compare le coût de chaque approche, et le guide des factures ancre l’extraction dans une image numérisée.