BroadRouter
Başlayın

Temellendirme (grounding)

Güncellendi

Temellendirme (grounding), bir dil modelinin çıktısını sağlanan belgeler, arama sonuçları veya veritabanı kayıtları gibi belirli, doğrulanabilir bilgi kaynaklarına bağlama ve modele bunlardan yanıt vermesini söyleme pratiğidir. Temellendirilmiş yanıtlar bir kaynağa kadar izlenebilir ve uydurma bilgi içerme olasılıkları daha düşüktür.

Diğer adları: temellendirme, grounding, kaynağa dayalı yanıt, kaynağa dayalı üretim, temellendirilmiş yanıt, grounded generation, source grounding, grounded answers

Temellendirilmemiş bir model hafızasından yanıt verir. Temellendirilmiş bir model ise önündeki sayfadan yanıt verir.

Nasıl çalışır

Google’ın Vertex AI belgeleri temellendirmeyi “the ability to connect model output to verifiable sources of information” (çeviri: model çıktısını doğrulanabilir bilgi kaynaklarına bağlama yeteneği) olarak tanımlar. Kaynak bir web araması, kendi belgeleriniz, bir harita hizmeti veya bir veritabanı olabilir. Kaynak ne olursa olsun kalıbın üç parçası vardır:

  1. Kanıt getirin: soru için getirilen pasajlar, bir dosyanın tamamı, bir fatura görseli, SQL’den satırlar.
  2. Kanıtı isteme koyun ve yalnızca ondan yanıt verilmesi talimatını ekleyin.
  3. Yanıtı kontrol edilebilir kılın: alıntılar, kaynak işaretleri veya kaynağa geri dönen bağlantılarla.

Retrieval-augmented generation (getirmeyle zenginleştirilmiş üretim) en bilinen yöntemdir. Lewis ve arkadaşları, bir üreticiyi sinirsel bir getiriciyle erişilen bir “dense vector index of Wikipedia” (çeviri: Wikipedia’nın yoğun vektör dizini) ile eşleştirdi ve yalnızca parametrelerinden çalışan bir modele göre daha spesifik ve daha olgusal yanıtlar bildirdi. Bu dizini oluşturmak embedding’ler ve çoğu zaman bir vektör veritabanı gerektirir.

En basit temellendirilmiş istem:

Answer using only the policy below. Quote the sentence that supports your answer.
If the policy does not answer the question, reply "Not in the policy."

<policy>Refunds are available within 14 days of purchase.</policy>

Question: Can I get a refund after three weeks?

Temellendirilmiş bir yanıt hayır der ve 14 günlük cümleyi alıntılar. Temellendirilmemiş bir model ise kulağa normal gelen 30 günlük bir politika tahmin edebilir.

Uzun girdiler için Anthropic önce alıntı adımı önerir: 20.000 token’ı aşan belgelerde modelin kelimesi kelimesine alıntılar çıkarmasını, sonra yalnızca bu alıntılardan yanıt vermesini sağlayın.

Neden önemli

  • Daha az uydurma bilgi. Google, azalan halüsinasyonları temel bir fayda olarak listeler. Temellendirme, kendi verileriniz hakkındaki halüsinasyona en doğrudan çözümdür.
  • Güncel bilgi. Model ağırlıkları eğitim anında donar. Temellendirilmiş kaynaklar yeniden eğitim olmadan her gün değişebilir.
  • Denetlenebilirlik. Alıntılı bir iddia bir insan ya da kod tarafından kontrol edilebilir.
  • Maliyet dengesi. Kanıt, girdi token’ıdır. Beş pasaj getirmek bütün bir kılavuzu göndermekten ucuzdur, ama önemli olan pasajı kaçırabilir. Çok uzun istemler ayrıca lost-in-the-middle hatırlama riskini taşır.

BroadNet Inference’ta

BroadNet’in belgeleri bir embedding uç noktası, bir arama aracı veya kaynak gösterme özelliği listelemez; bu yüzden getirme sizin kodunuzda çalışır. API’nin size verdiği şey kanıta yer açmaktır: DeepSeek V4.1 Flash ve GLM 5.3’te 1.048.576 token’lık bir bağlam penceresi, Qwen3.8 27B’de 262.144 token ve belge kaydında görsel (images) veya vision desteği yazan modellerde görsel girdi. Bu, “belgenin tamamını yapıştırmayı” gerçek bir seçenek hâline getirir; uzun bağlam ile RAG her birinin maliyetini karşılaştırır, fatura rehberi de çıkarmayı taranmış bir görsele dayandırır.

Sık sorulan sorular

Temellendirme, RAG ile aynı şey mi?

RAG, temellendirmenin bir yoludur. Pasajları getirir ve isteme ekler. Bir belgenin tamamını yapıştırarak, bir görsel ekleyerek ya da canlı arama veya veritabanı sonuçları ekleyerek de temellendirme yapabilirsiniz.

Temellendirme doğru yanıtı garanti eder mi?

Hayır. Model kaynağı yine de yanlış okuyabilir veya görmezden gelebilir. Alıntı veya kaynak isteyin ve her birinin kaynakta gerçekten bulunduğunu kontrol edin.

Bir LLM'in yalnızca kendi belgelerimden yanıt vermesini nasıl sağlarım?

Belgeleri sağlayın, modele yalnızca onları kullanmasını söyleyin, yanıtın orada olmadığını söylemesine izin verin ve her iddia için bir alıntı şartı koyun.

Markdown olarak okuChatGPT asistanına sorClaude asistanına sorPerplexity asistanına sor