BroadRouter
Başlayın

RAG (erişimle artırılmış üretim)

Güncellendi

RAG (retrieval-augmented generation, erişimle artırılmış üretim), bir uygulamanın önce bir soruyla ilgili pasajları arama veya vektör dizini gibi harici bir depodan getirdiği, ardından bunları isteme eklediği bir yöntemdir; böylece dil modeli yalnızca belleğine değil, bu metne dayanarak yanıt verebilir.

Diğer adları: RAG nedir, erişimle artırılmış üretim, geri getirmeyle artırılmış üretim, bilgi erişimi destekli üretim, RAG işlem hattı, retrieval-augmented generation, retrieval augmented generation, RAG pipeline, retrieval-augmented LLM

RAG modele açık kitap sınavı yaptırır: model yanıtlamadan önce kodunuz ilgili sayfaları bulup isteme koyar.

Nasıl çalışır

Terim Lewis ve arkadaşlarından (2020) gelir. Bir üretici modeli (“parametric memory”, parametrik bellek), sinirsel bir erişim modülüyle ulaşılan “a dense vector index of Wikipedia” (çeviri: Wikipedia’nın yoğun bir vektör dizini; “non-parametric memory”, parametrik olmayan bellek) ile eşleştirmiş ve açık alanlı soru yanıtlamada yalnızca ağırlıklarına dayanan modellerden daha iyi sonuçlar bildirmişlerdir.

LLM API’siyle kurulan modern bir RAG işlem hattı genellikle şöyle görünür:

  1. Dizinleme. Belgeleri parçalara bölün, her parçayı embedding’e çevirin ve çoğu zaman bir anahtar kelime dizininin yanında bir vektör veritabanında saklayın.
  2. Erişim. Kullanıcının sorusunu embedding’e çevirin ve en iyi eşleşen parçaları, örneğin 5 ile 20 arasını, getirin.
  3. Üretim. Bu parçaları, yalnızca onlara dayanarak yanıt vermesini ve kaynak göstermesini söyleyen bir talimatla isteme koyun. İstemi sohbet modeline gönderin.

Model kendi başına arama yapmaz. Tavanı erişimin kalitesi belirler: doğru pasaj getirilmezse model onu kullanamaz.

Neden önemli

  • Güncellik. Modelin ağırlıkları eğitim kesim tarihinde durur. RAG, modelin bugünkü fiyat listesinden veya politikadan yanıt vermesini sağlar.
  • Maliyet. 10 parça göndermek, her soruda tüm külliyatı göndermekten çok daha az girdi token’ı tutar.
  • İzlenebilirlik. Yanıtlar geldikleri pasajlara atıf yapabilir; bu da dayandırmayı (grounding) destekler ve halüsinasyonları fark etmeyi kolaylaştırır.
  • Sıra önemlidir. Modeller uzun bir istemin başını ve sonunu ortasından daha iyi kullanır. En iyi pasajları başa koyun. Ortada kaybolma (lost in the middle) maddesine bakın.

BroadNet Inference’ta

BroadNet üretim adımını karşılar. Belgelerinde bir embedding uç noktası listelenmez; bu yüzden erişim katmanı ayrı bir embedding modeline veya anahtar kelime aramasına ihtiyaç duyar. DeepSeek V4.1 Flash ve GLM 5.3 1.048.576 token’a kadar bağlam kabul eder; bu da cömert erişimi (küçük külliyatlarda hiç erişim yapmamayı) pratik hale getirir. Uzun bağlam ve RAG yazısı ikisini maliyet ve hatırlama açısından karşılaştırır; Arapça RAG araması ise Arapça için normalleştirmeyi ve hibrit erişimi ele alır.

Sık yapılan hatalar

  • Hata erişim katmanındayken modeli suçlamak. Her yanıt için hangi parçaların getirildiğini kaydedin.
  • Tabloları veya cümleleri ortadan bölen parçalar.
  • “Bulunamadı” demesi için talimat vermemek. Bu talimat olmadan model boşlukları belleğinden doldurur.

Sık sorulan sorular

RAG ile ince ayar (fine-tuning) aynı şey mi?

Hayır. RAG belgeleri istek anında isteme ekler ve modelde hiçbir şeyi değiştirmez. İnce ayar modelin ağırlıklarını değiştirir. RAG'ı güncellemek daha kolaydır; yeniden eğitmek yerine belgeyi yeniden dizinlersiniz.

RAG için vektör veritabanı gerekir mi?

Her zaman değil. Anahtar kelime araması, bir SQL sorgusu ya da bellekteki küçük bir dizin de erişim katmanı olarak iş görür. Çok sayıda belgeniz varsa ve anlamsal eşleşme gerekiyorsa vektör veritabanı yardımcı olur.

1M token'lık bağlam penceresi RAG'ın yerini alır mı?

Bazen. Tüm külliyat sığıyorsa ve önbellekle sık sorgulanıyorsa hepsini gönderebilirsiniz. Büyük veya hızla değişen külliyatlarda erişim, soru başına hâlâ daha ucuz ve daha hızlıdır.

Markdown olarak okuChatGPT asistanına sorClaude asistanına sorPerplexity asistanına sor