BroadRouter
Mulakan

Grounding (penambatan pada sumber)

Dikemas kini

Grounding ialah amalan menghubungkan output model bahasa dengan sumber maklumat yang khusus dan boleh disahkan, seperti dokumen yang dibekalkan, hasil carian atau rekod pangkalan data, dan mengarahkannya menjawab berdasarkan sumber tersebut. Jawapan yang di-ground boleh dijejak kembali ke sumber dan kurang berkemungkinan mengandungi fakta rekaan.

Juga dikenali sebagai: grounding, penambatan sumber, jawapan berasaskan sumber, grounded generation, source grounding, grounded answers

Model tanpa grounding menjawab daripada ingatan. Model yang di-ground menjawab daripada halaman di hadapannya.

Cara ia berfungsi

Dokumentasi Vertex AI Google mentakrifkan grounding sebagai “the ability to connect model output to verifiable sources of information.” (Terjemahan BroadRouter: “keupayaan untuk menghubungkan output model dengan sumber maklumat yang boleh disahkan.”) Sumbernya boleh jadi carian web, dokumen anda sendiri, perkhidmatan peta atau pangkalan data. Apa pun sumbernya, coraknya mempunyai tiga bahagian:

  1. Dapatkan bukti untuk soalan: petikan yang diambil, keseluruhan fail, imej invois, baris daripada SQL.
  2. Masukkan ke dalam prompt dengan arahan untuk menjawab berdasarkannya sahaja.
  3. Jadikan jawapan boleh disemak dengan petikan, penanda sitasi atau pautan kembali ke sumber.

Retrieval-augmented generation ialah kaedah yang paling terkenal. Lewis dan rakan-rakan menggandingkan penjana dengan “dense vector index of Wikipedia” (indeks vektor padat Wikipedia), yang dicapai melalui pengambil neural, dan melaporkan jawapan yang lebih spesifik dan lebih faktual berbanding model yang bergantung pada parameternya sahaja. Membina indeks itu menggunakan embedding dan selalunya pangkalan data vektor.

Prompt grounding yang minimum:

Answer using only the policy below. Quote the sentence that supports your answer.
If the policy does not answer the question, reply "Not in the policy."

<policy>Refunds are available within 14 days of purchase.</policy>

Question: Can I get a refund after three weeks?

Balasan yang di-ground akan berkata tidak dan memetik ayat tentang 14 hari. Model tanpa grounding mungkin meneka dasar 30 hari yang kedengaran biasa.

Untuk input yang panjang, Anthropic mencadangkan langkah petik dahulu: bagi dokumen melebihi 20,000 token, minta model mengekstrak petikan perkataan demi perkataan, kemudian menjawab daripada petikan itu sahaja.

Mengapa ia penting

  • Kurang fakta rekaan. Google menyenaraikan pengurangan halusinasi sebagai manfaat utama. Grounding ialah penyelesaian paling langsung untuk halusinasi tentang data anda sendiri.
  • Maklumat terkini. Pemberat model dibekukan pada masa latihan. Sumber grounding boleh berubah setiap hari tanpa latihan semula.
  • Kebolehauditan. Dakwaan yang disertai petikan boleh disemak oleh manusia atau kod.
  • Pertukaran kos. Bukti ialah token input. Mengambil lima petikan lebih murah daripada menghantar keseluruhan manual, tetapi mungkin terlepas petikan yang penting. Prompt yang sangat panjang juga berisiko mengalami masalah ingatan lost-in-the-middle.

Di BroadNet Inference

Dokumentasi BroadNet tidak menyenaraikan endpoint embedding, alat carian atau ciri sitasi, jadi pengambilan semula berjalan dalam kod anda. Apa yang diberikan API ialah ruang untuk bukti: tetingkap konteks 1,048,576 token pada DeepSeek V4.1 Flash dan GLM 5.3, 262,144 pada Qwen3.8 27B, dan input imej pada model yang entri dokumentasinya menyebut imej atau penglihatan. Ini menjadikan “tampal keseluruhan dokumen” pilihan yang benar-benar boleh digunakan; konteks panjang vs RAG membandingkan kos setiap satu, dan panduan invois melakukan grounding pengekstrakan pada imej yang diimbas.

Soalan lazim

Adakah grounding sama dengan RAG?

RAG ialah satu cara grounding. Ia mengambil petikan dan menambahkannya ke dalam prompt. Anda juga boleh melakukan grounding dengan menampal keseluruhan dokumen, melampirkan imej, atau menambah hasil carian langsung atau pangkalan data.

Adakah grounding menjamin jawapan yang betul?

Tidak. Model masih boleh tersalah baca atau mengabaikan sumber. Minta petikan atau sitasi dan semak bahawa setiap satu benar-benar wujud dalam sumber.

Bagaimanakah saya membuat LLM menjawab hanya daripada dokumen saya?

Bekalkan dokumen, arahkan model menggunakan dokumen itu sahaja, benarkan ia menyatakan jawapan tiada di situ, dan wajibkan petikan bagi setiap dakwaan.

Baca sebagai MarkdownTanya ChatGPTTanya ClaudeTanya Perplexity