बिना ग्राउंडिंग वाला मॉडल याद से जवाब देता है। ग्राउंडेड मॉडल सामने रखे पेज से जवाब देता है।
यह कैसे काम करती है
Google के Vertex AI डॉक्स ग्राउंडिंग को “the ability to connect model output to verifiable sources of information.” (अनुवाद: मॉडल आउटपुट को जानकारी के जाँचे जा सकने वाले स्रोतों से जोड़ने की क्षमता।) बताते हैं। स्रोत वेब सर्च, आपके अपने डॉक्यूमेंट, मैप सर्विस या डेटाबेस हो सकता है। स्रोत जो भी हो, पैटर्न के तीन हिस्से हैं:
- सबूत लाएँ सवाल के लिए: रिट्रीव किए पैसेज, पूरी फ़ाइल, इनवॉइस की इमेज, SQL की रो।
- उसे प्रॉम्प्ट में रखें और सिर्फ़ उसी से जवाब देने का निर्देश दें।
- जवाब को जाँचने लायक़ बनाएँ उद्धरण, साइटेशन मार्कर या स्रोत के लिंक से।
रिट्रीवल-ऑगमेंटेड जनरेशन सबसे जाना-माना तरीक़ा है। Lewis और साथियों ने एक जनरेटर को “dense vector index of Wikipedia” (अनुवाद: Wikipedia का डेंस वेक्टर इंडेक्स) से जोड़ा, जिस तक एक न्यूरल रिट्रीवर पहुँचता था, और बताया कि जवाब सिर्फ़ अपने पैरामीटर से काम करने वाले मॉडल की तुलना में ज़्यादा सटीक और ज़्यादा तथ्यपूर्ण थे। ऐसा इंडेक्स बनाने में एम्बेडिंग और अक्सर वेक्टर डेटाबेस लगता है।
एक न्यूनतम ग्राउंडेड प्रॉम्प्ट:
Answer using only the policy below. Quote the sentence that supports your answer.
If the policy does not answer the question, reply "Not in the policy."
<policy>Refunds are available within 14 days of purchase.</policy>
Question: Can I get a refund after three weeks?
ग्राउंडेड जवाब “नहीं” कहता है और 14 दिन वाला वाक्य उद्धृत करता है। बिना ग्राउंडिंग वाला मॉडल 30 दिन की कोई सामान्य-सी लगने वाली पॉलिसी अंदाज़े से बता सकता है।
लंबे इनपुट के लिए Anthropic पहले-उद्धरण वाला क़दम सुझाता है: 20,000 टोकन से बड़े डॉक्यूमेंट के लिए मॉडल से पहले शब्दशः उद्धरण निकलवाएँ, फिर सिर्फ़ उन्हीं उद्धरणों से जवाब दिलवाएँ।
यह क्यों मायने रखती है
- कम गढ़े हुए तथ्य. Google हैलुसिनेशन में कमी को मुख्य फ़ायदा बताता है। आपके अपने डेटा के बारे में हैलुसिनेशन का सबसे सीधा इलाज ग्राउंडिंग है।
- ताज़ा जानकारी. मॉडल के वेट ट्रेनिंग के समय जम जाते हैं। ग्राउंडेड स्रोत बिना दोबारा ट्रेनिंग के रोज़ बदल सकते हैं।
- ऑडिट की सुविधा. उद्धरण वाले दावे को कोई इंसान या कोड जाँच सकता है।
- लागत का समझौता. सबूत इनपुट टोकन हैं। पाँच पैसेज रिट्रीव करना पूरा मैनुअल भेजने से सस्ता है, लेकिन ज़रूरी पैसेज छूट सकता है। बहुत लंबे प्रॉम्प्ट में lost-in-the-middle वाली रिकॉल की समस्या का भी जोखिम है।
BroadNet Inference पर
BroadNet के डॉक्स में कोई एम्बेडिंग एंडपॉइंट, सर्च टूल या साइटेशन फ़ीचर नहीं है, इसलिए रिट्रीवल आपके कोड में चलता है। API आपको सबूत के लिए जगह देता है: DeepSeek V4.1 Flash और GLM 5.3 पर 1,048,576 टोकन की कॉन्टेक्स्ट विंडो, Qwen3.8 27B पर 262,144, और उन मॉडल पर इमेज इनपुट जिनकी डॉक्स एंट्री में इमेज या विज़न लिखा है। इससे “पूरा डॉक्यूमेंट चिपका दें” एक असली विकल्प बनता है; लंबा कॉन्टेक्स्ट बनाम RAG दोनों की लागत की तुलना करता है, और इनवॉइस गाइड स्कैन की गई इमेज पर एक्सट्रैक्शन को ग्राउंड करती है।