Показать лучше, чем объяснить. Несколько примеров часто исправляют формат и тон быстрее, чем абзац правил.
Как это работает
Термин стал общеупотребительным благодаря статье о GPT-3 от Brown и соавторов. В ней модель на 175 млрд параметров проверяли на задачах, “specified purely via text interaction with the model” (перевод: «заданных исключительно через текстовое взаимодействие с моделью»), без обновления градиентов и дообучения, и обнаружили, что качество в режиме few-shot сильно растёт с размером модели. Статья определяет три режима:
| Режим | Примеров в промпте |
|---|---|
| Zero-shot | ни одного, только инструкция |
| One-shot | один |
| Few-shot | несколько, сколько позволяет контекстное окно |
Few-shot промпт для разметки обращений в поддержку может выглядеть так:
Ticket: "My card was charged twice." -> billing
Ticket: "The app crashes on login." -> bug
Ticket: "Can you add dark mode?" -> feature_request
Ticket: "I was billed after cancelling." ->
Модель продолжает шаблон. Руководство Anthropic называет примеры “one of the most reliable ways to steer” (перевод: «одним из самых надёжных способов управлять») форматом, тоном и структурой и просит, чтобы они были релевантными, разнообразными и обёрнутыми в теги, чтобы модель могла отличить их от инструкций.
Почему это важно
- Контроль формата. Примеры показывают пограничные случаи, которые упускают правила, например как записывать пустое поле. Для строгого JSON сочетайте их со структурированным выводом.
- Стоимость. Каждый пример заново отправляется как вход в каждом вызове. Пять примеров по 200 токенов добавляют к каждому запросу 1000 токенов. Если поместить их в фиксированный префикс, они могут тарифицироваться как вход из кэша.
- Рассуждения. Примеры, которые показывают шаги, а не только ответ, — это промптинг chain-of-thought.
- Когда остановиться. Если нужны сотни примеров, дообучение может оказаться дешевле в расчёте на вызов, чем каждый раз отправлять их.
В BroadNet Inference
Few-shot промптингу не нужны особые функции API: это обычный текст в messages. BroadNet возвращает cached_tokens в usage, так что можно проверить, читается ли ваш блок примеров из кэша. На ключе с оплатой по факту цена входа из кэша ниже цены входа; у DeepSeek V4.1 Flash это $0.0055 против $0.175 за 1 млн токенов. Для задач на арабском см. промпт-инжиниринг для арабского, а для извлечения данных из документов с примерами — руководство по арабским счетам.
Частые ошибки
- Брать примеры с одной и той же меткой или длиной. Модель копирует этот перекос.
- Менять примеры от запроса к запросу. Это ломает кэшируемый префикс и затрудняет сравнение результатов.