BroadRouter
Commencer

RAG (génération augmentée par récupération)

Mis à jour

Le RAG (retrieval-augmented generation, génération augmentée par récupération) est une approche dans laquelle une application récupère d’abord, dans une source externe comme un index de recherche ou un index vectoriel, les passages pertinents pour une question, puis les ajoute au prompt pour qu’un modèle de langage réponde à partir de ce texte et pas seulement de sa mémoire.

Aussi appelé : RAG, génération augmentée par récupération, génération augmentée de récupération, pipeline RAG, retrieval-augmented generation, retrieval augmented generation, RAG pipeline, retrieval-augmented LLM

Le RAG donne au modèle un livre ouvert : avant qu’il ne réponde, votre code cherche les bonnes pages et les place dans le prompt.

Comment ça marche

Le terme vient de Lewis et al. (2020). Ils ont associé un modèle générateur, la « parametric memory », à « a dense vector index of Wikipedia », la « non-parametric memory », interrogé par un retriever neuronal (traduction : « mémoire paramétrique », « un index vectoriel dense de Wikipédia », « mémoire non paramétrique »), et ont obtenu en question-réponse en domaine ouvert de meilleurs résultats que des modèles s’appuyant sur leurs seuls poids.

Un pipeline RAG moderne avec une API LLM ressemble généralement à ceci :

  1. Indexer. Découper les documents en chunks, convertir chacun en embeddings et les stocker dans une base de données vectorielle, souvent à côté d’un index par mots-clés.
  2. Récupérer. Calculer l’embedding de la question de l’utilisateur et récupérer les chunks les plus proches, par exemple 5 à 20.
  3. Générer. Placer ces chunks dans le prompt avec l’instruction de répondre uniquement à partir d’eux et de les citer. Envoyer le tout au modèle de chat.

Le modèle ne fait jamais de recherche lui-même. La qualité de la récupération fixe le plafond : si le bon passage n’est pas récupéré, le modèle ne peut pas l’utiliser.

Pourquoi c’est important

  • Fraîcheur. Les poids du modèle s’arrêtent à sa date de fin d’entraînement. Le RAG lui permet de répondre à partir de la grille tarifaire ou de la politique du jour.
  • Coût. Envoyer 10 chunks coûte bien moins de tokens d’entrée qu’envoyer tout le corpus à chaque question.
  • Traçabilité. Les réponses peuvent citer les passages dont elles proviennent, ce qui soutient l’ancrage et rend les hallucinations plus faciles à repérer.
  • L’ordre compte. Les modèles exploitent mieux le début et la fin d’un long prompt que le milieu. Placez les meilleurs passages en premier. Voir lost in the middle.

Sur BroadNet Inference

BroadNet couvre l’étape de génération. Sa documentation ne mentionne pas d’endpoint d’embeddings : le retriever a donc besoin d’un modèle d’embeddings séparé ou d’une recherche par mots-clés. DeepSeek V4.1 Flash et GLM 5.3 acceptent jusqu’à 1 048 576 tokens de contexte, ce qui rend praticable une récupération généreuse (ou aucune récupération pour les petits corpus). L’article long contexte ou RAG compare les deux en coût et en rappel, et la recherche RAG en arabe traite de la normalisation et de la récupération hybride pour l’arabe.

Erreurs fréquentes

  • Juger le modèle alors que le retriever est en cause. Journalisez les chunks récupérés pour chaque réponse.
  • Des chunks qui coupent des tableaux ou des phrases en deux.
  • Aucune instruction pour répondre « introuvable ». Sans elle, le modèle comble les lacunes avec ce qu’il a en mémoire.

Questions fréquentes

Le RAG est-il la même chose que le fine-tuning ?

Non. Le RAG ajoute des documents au prompt au moment de la requête et ne modifie rien dans le modèle. Le fine-tuning modifie les poids du modèle. Le RAG est plus facile à mettre à jour : vous réindexez un document au lieu de réentraîner.

Faut-il une base de données vectorielle pour faire du RAG ?

Pas toujours. Une recherche par mots-clés, une requête SQL ou un petit index en mémoire peuvent tous servir de retriever. Une base vectorielle est utile quand vous avez beaucoup de documents et besoin de correspondances sémantiques.

Une fenêtre de contexte de 1M tokens remplace-t-elle le RAG ?

Parfois. Si tout le corpus tient dans la fenêtre et qu’il est interrogé souvent avec mise en cache, vous pouvez tout envoyer. Pour un corpus volumineux ou qui change vite, la récupération reste moins chère et plus rapide par question.

Lire en MarkdownDemander à ChatGPTDemander à ClaudeDemander à Perplexity