Model tanpa grounding menjawab daripada ingatan. Model yang di-ground menjawab daripada halaman di hadapannya.
Cara ia berfungsi
Dokumentasi Vertex AI Google mentakrifkan grounding sebagai “the ability to connect model output to verifiable sources of information.” (Terjemahan BroadRouter: “keupayaan untuk menghubungkan output model dengan sumber maklumat yang boleh disahkan.”) Sumbernya boleh jadi carian web, dokumen anda sendiri, perkhidmatan peta atau pangkalan data. Apa pun sumbernya, coraknya mempunyai tiga bahagian:
- Dapatkan bukti untuk soalan: petikan yang diambil, keseluruhan fail, imej invois, baris daripada SQL.
- Masukkan ke dalam prompt dengan arahan untuk menjawab berdasarkannya sahaja.
- Jadikan jawapan boleh disemak dengan petikan, penanda sitasi atau pautan kembali ke sumber.
Retrieval-augmented generation ialah kaedah yang paling terkenal. Lewis dan rakan-rakan menggandingkan penjana dengan “dense vector index of Wikipedia” (indeks vektor padat Wikipedia), yang dicapai melalui pengambil neural, dan melaporkan jawapan yang lebih spesifik dan lebih faktual berbanding model yang bergantung pada parameternya sahaja. Membina indeks itu menggunakan embedding dan selalunya pangkalan data vektor.
Prompt grounding yang minimum:
Answer using only the policy below. Quote the sentence that supports your answer.
If the policy does not answer the question, reply "Not in the policy."
<policy>Refunds are available within 14 days of purchase.</policy>
Question: Can I get a refund after three weeks?
Balasan yang di-ground akan berkata tidak dan memetik ayat tentang 14 hari. Model tanpa grounding mungkin meneka dasar 30 hari yang kedengaran biasa.
Untuk input yang panjang, Anthropic mencadangkan langkah petik dahulu: bagi dokumen melebihi 20,000 token, minta model mengekstrak petikan perkataan demi perkataan, kemudian menjawab daripada petikan itu sahaja.
Mengapa ia penting
- Kurang fakta rekaan. Google menyenaraikan pengurangan halusinasi sebagai manfaat utama. Grounding ialah penyelesaian paling langsung untuk halusinasi tentang data anda sendiri.
- Maklumat terkini. Pemberat model dibekukan pada masa latihan. Sumber grounding boleh berubah setiap hari tanpa latihan semula.
- Kebolehauditan. Dakwaan yang disertai petikan boleh disemak oleh manusia atau kod.
- Pertukaran kos. Bukti ialah token input. Mengambil lima petikan lebih murah daripada menghantar keseluruhan manual, tetapi mungkin terlepas petikan yang penting. Prompt yang sangat panjang juga berisiko mengalami masalah ingatan lost-in-the-middle.
Di BroadNet Inference
Dokumentasi BroadNet tidak menyenaraikan endpoint embedding, alat carian atau ciri sitasi, jadi pengambilan semula berjalan dalam kod anda. Apa yang diberikan API ialah ruang untuk bukti: tetingkap konteks 1,048,576 token pada DeepSeek V4.1 Flash dan GLM 5.3, 262,144 pada Qwen3.8 27B, dan input imej pada model yang entri dokumentasinya menyebut imej atau penglihatan. Ini menjadikan “tampal keseluruhan dokumen” pilihan yang benar-benar boleh digunakan; konteks panjang vs RAG membandingkan kos setiap satu, dan panduan invois melakukan grounding pengekstrakan pada imej yang diimbas.