Göstermek, anlatmaktan iyidir. Birkaç örnek, biçimi ve tonu çoğu zaman bir paragraf kuraldan daha hızlı düzeltir.
Nasıl çalışır
Terimi Brown ve arkadaşlarının GPT-3 makalesi yaygınlaştırdı. Makale 175 milyar parametreli bir modeli, gradyan güncellemesi veya ince ayar olmadan, “specified purely via text interaction with the model” (çeviri: tamamen modelle metin etkileşimi yoluyla belirtilen) görevlerle test etti ve few-shot performansının model boyutuyla güçlü biçimde arttığını buldu. Makale üç ayar tanımlar:
| Ayar | İstemdeki örnekler |
|---|---|
| Zero-shot | hiç yok, yalnızca bir talimat |
| One-shot | bir |
| Few-shot | birkaç, bağlam penceresiyle sınırlı |
Destek taleplerini etiketlemek için bir few-shot istem şöyle görünebilir:
Ticket: "My card was charged twice." -> billing
Ticket: "The app crashes on login." -> bug
Ticket: "Can you add dark mode?" -> feature_request
Ticket: "I was billed after cancelling." ->
Model kalıbı sürdürür. Anthropic’in rehberi örnekleri biçimi, tonu ve yapıyı “one of the most reliable ways to steer” (çeviri: yönlendirmenin en güvenilir yollarından biri) olarak niteler ve modelin onları talimatlardan ayırt edebilmesi için örneklerin ilgili, çeşitli ve etiketlerle sarılmış olmasını ister.
Neden önemli
- Biçim kontrolü. Örnekler, boş bir alanın nasıl yazılacağı gibi kuralların kaçırdığı uç durumları gösterir. Katı JSON için onları yapılandırılmış çıktı ile birlikte kullanın.
- Maliyet. Her örnek her çağrıda girdi olarak yeniden gönderilir. 200 token’lık beş örnek, istek başına 1.000 token ekler. Sabit bir öneke yerleştirilirlerse önbellekli girdi token’ları olarak faturalanabilirler.
- Akıl yürütme. Yalnızca yanıtı değil adımları da gösteren örnekler, chain-of-thought istemidir.
- Ne zaman durmalı. Yüzlerce örneğe ihtiyacınız varsa, ince ayar çağrı başına bunları her seferinde göndermekten daha ucuz olabilir.
BroadNet Inference’ta
Few-shot prompting özel bir API özelliği gerektirmez; messages içinde düz metindir. BroadNet usage içinde cached_tokens bildirir; böylece örnek bloğunuzun önbellekten okunup okunmadığını kontrol edebilirsiniz. Kullandıkça öde (PAYG) anahtarında önbellekli fiyat girdi fiyatından düşüktür; DeepSeek V4.1 Flash’ta bu, 1M token başına $0.0055 ve $0.175 karşılaştırmasıdır. Arapça görevler için Arapça istem mühendisliği yazısına, örneklerle belge çıkarma için de Arapça faturalar rehberine bakın.
Sık yapılan hatalar
- Hepsi aynı etiketi veya uzunluğu paylaşan örnekler kullanmak. Model bu yanlılığı kopyalar.
- Örnekleri her istekte değiştirmek. Bu, önbellekli öneki bozar ve sonuçları karşılaştırmayı zorlaştırır.