BroadRouter

Few-shot prompting (prompt dengan beberapa contoh)

Dikemas kini

Few-shot prompting ialah teknik di mana prompt mengandungi sebilangan kecil contoh pasangan input-output sebelum input sebenar, supaya model bahasa dapat menyimpulkan tugas dan format daripadanya. Pemberat model tidak berubah; zero-shot tidak menggunakan contoh dan one-shot menggunakan satu.

Juga dikenali sebagai: few-shot prompting, prompt beberapa contoh, few-shot learning, multishot prompting, in-context examples, contoh dalam konteks, one-shot prompting

Menunjukkan lebih berkesan daripada memberitahu. Beberapa contoh selalunya membetulkan format dan nada lebih cepat daripada satu perenggan peraturan.

Cara ia berfungsi

Kertas kajian GPT-3 oleh Brown dan rakan-rakan mempopularkan istilah ini. Ia menguji model 175 bilion parameter dengan tugas yang “specified purely via text interaction with the model” (Terjemahan BroadRouter: “ditetapkan semata-mata melalui interaksi teks dengan model”), tanpa kemas kini gradien atau fine-tuning, dan mendapati prestasi few-shot meningkat dengan ketara apabila saiz model bertambah. Kertas itu mentakrifkan tiga tetapan:

Tetapan Contoh dalam prompt
Zero-shot tiada, hanya arahan
One-shot satu
Few-shot beberapa, dihadkan oleh tetingkap konteks

Prompt few-shot untuk melabel tiket sokongan mungkin kelihatan begini:

Ticket: "My card was charged twice." -> billing
Ticket: "The app crashes on login." -> bug
Ticket: "Can you add dark mode?" -> feature_request
Ticket: "I was billed after cancelling." ->

Model menyambung corak itu. Panduan Anthropic menyifatkan contoh sebagai “one of the most reliable ways to steer” (Terjemahan BroadRouter: “salah satu cara paling boleh dipercayai untuk mengemudi”) format, nada dan struktur, dan meminta contoh yang relevan, pelbagai dan dibalut dalam tag supaya model dapat membezakannya daripada arahan.

Mengapa ia penting

  • Kawalan format. Contoh menunjukkan kes pinggir yang terlepas oleh peraturan, seperti cara menulis medan kosong. Untuk JSON yang ketat, gandingkan dengan output berstruktur.
  • Kos. Setiap contoh dihantar semula sebagai input pada setiap panggilan. Lima contoh 200 token menambah 1,000 token bagi setiap permintaan. Jika diletakkan dalam awalan tetap, ia boleh dicaj sebagai token input cache.
  • Penaakulan. Contoh yang menunjukkan langkah-langkah, bukan hanya jawapan, ialah prompt chain-of-thought.
  • Bila perlu berhenti. Jika anda memerlukan beratus-ratus contoh, fine-tuning mungkin lebih murah bagi setiap panggilan daripada menghantarnya setiap kali.

Di BroadNet Inference

Few-shot prompting tidak memerlukan ciri API khas; ia hanya teks biasa dalam messages. BroadNet melaporkan cached_tokens dalam usage, jadi anda boleh menyemak sama ada blok contoh anda dibaca daripada cache. Pada kunci PAYG, harga cache lebih rendah daripada harga input; pada DeepSeek V4.1 Flash, ia ialah $0.0055 berbanding $0.175 bagi setiap 1M token. Untuk tugas bahasa Arab, lihat kejuruteraan prompt bahasa Arab, dan untuk pengekstrakan dokumen dengan contoh, panduan invois bahasa Arab.

Kesilapan biasa

  • Menggunakan contoh yang semuanya berkongsi satu label atau panjang yang sama. Model meniru bias itu.
  • Menukar contoh bagi setiap permintaan. Ini merosakkan awalan cache dan menyukarkan perbandingan hasil.

Soalan lazim

Berapa banyak contoh yang patut ada dalam prompt few-shot?

Anthropic mencadangkan 3 hingga 5 untuk hasil terbaik. Lebih banyak contoh menelan lebih banyak token input pada setiap panggilan, jadi berhenti menambah apabila kualiti tidak lagi meningkat.

Adakah few-shot prompting sama dengan fine-tuning?

Tidak. Contoh few-shot berada dalam prompt dan dihantar semula pada setiap permintaan. Fine-tuning mengubah pemberat model sekali sahaja, jadi contoh tidak perlu dihantar lagi.

Patutkah contoh diletakkan dalam prompt sistem atau sebagai giliran chat?

Kedua-duanya boleh. Simpan contoh pada kedudukan tetap berhampiran permulaan supaya ia membentuk awalan yang stabil dan boleh di-cache.

Baca sebagai MarkdownTanya ChatGPTTanya ClaudeTanya Perplexity