BroadRouter

Промпт-инжиниринг (prompt engineering)

Обновлено

Промпт-инжиниринг — это процесс написания, структурирования и проверки инструкций для языковой модели, чтобы она стабильно выдавала результат, отвечающий вашим требованиям. Он включает роли сообщений, ясные инструкции, примеры, форматирование и оценку результатов на тестовых примерах.

Также называют: промптинг, инженерия промптов, составление промптов, написание промптов, prompt engineering, prompt design, prompting techniques

Промпт — это спецификация. Промпт-инжиниринг — умение хорошо её написать и проверить, что модель ей следует.

Как это работает

Руководство OpenAI определяет промпт-инжиниринг как “the process of writing effective instructions for a model” (перевод: «процесс написания эффективных инструкций для модели»), чтобы она “consistently generates content that meets your requirements” (перевод: «стабильно генерировала контент, отвечающий вашим требованиям»). Основные приёмы у разных компаний во многом совпадают:

Приём Что делать
Роли Правила — в системный промпт (или сообщение developer), запрос — в сообщение пользователя
Структура Стройте системный промпт в порядке «роль, инструкции, примеры, контекст»; отмечайте разделы заголовками Markdown и XML-тегами
Примеры Добавьте несколько пар «вход — выход» (few-shot prompting), которые покрывают разные случаи
Рассуждения Попросите рассуждать по шагам (chain of thought) или используйте модель с рассуждениями
Формат вывода Попросите фиксированный формат или используйте структурированный вывод, если API его поддерживает
Стабильность Закрепите версию модели, чтобы её поведение не менялось без вашего ведома

В обзоре Anthropic советуют начать с трёх вещей: ясных критериев успеха, способа проверки по ним и первого черновика промпта. На практике это значит набор для оценки (eval).

Короткий пример «до и после». Было: «Кратко изложи этот тикет». Стало: роль («ты кратко излагаешь тикеты поддержки для команды инженеров»), формат (3 пункта: проблема, влияние на клиента, следующий шаг) и правила (сообщения об ошибках приводить словами клиента, причины не угадывать):

Before: Summarize this ticket.

After:  You summarize support tickets for an engineering team.
        Write 3 bullet points: the problem, the customer impact, the next step.
        Use the customer's words for error messages. Do not guess at causes.
        <ticket>...</ticket>

У агентов промпт — лишь часть более широкого контекста. Статья Anthropic о контекст-инжиниринге отделяет промпт-инжиниринг, “methods for writing and organizing LLM instructions” (перевод: «методы написания и организации инструкций для LLM»), от контекст-инжиниринга, который управляет всем остальным, что видит модель.

Почему это важно

  • Качество без обучения. Улучшить промпт — самое дешёвое, что можно попробовать до дообучения или более крупной модели.
  • Стоимость. Системный промпт отправляется заново в каждом запросе. Убирайте то, что не влияет на результат; см. как сократить токены промпта.
  • Миграция. Промпт, настроенный под одну модель, может вести себя иначе на другой. При переходе заново прогоняйте свой набор для оценки.

В BroadNet Inference

Чат-модели BroadNet принимают стандартный список messages из Chat Completions, поэтому роли system, user и assistant и few-shot-примеры работают как обычно. Промпты можно опробовать в песочнице (playground) ещё до написания кода. Для ответов на арабском статья о промпт-инжиниринге для арабского разбирает стиль, диалекты, цифры и форматирование справа налево.

Структурированный вывод документирован для GLM 5.3 и Qwen3.8 27B. У DeepSeek V4.1 Flash, GLM 5.3 и Qwen3.8 27B рассуждения учитываются в max_tokens, поэтому промпту в духе «думай по шагам» тоже нужен запас в бюджете.

Вопросы и ответы

Нужен ли промпт-инжиниринг с новыми моделями?

Да, хотя приёмы меняются. Новые модели хорошо следуют простым и конкретным инструкциям, поэтому основная работа — ясно сформулировать требования, дать примеры и проверить промпт на реальных входных данных.

Когда лучше дообучить модель?

Когда хорошо проверенный промпт с примерами всё равно не справляется с заметной долей случаев или слишком длинный, чтобы отправлять его в каждом запросе. В документации Anthropic также отмечено, что некоторых целей, например меньшей задержки или цены, проще достичь выбором другой модели.

Писать ли промпт на арабском, если нужен ответ на арабском?

Подходят оба варианта. Укажите, какой нужен стиль или диалект и как обращаться с цифрами и смешанным текстом. Оба подхода сравниваются в статье о промпт-инжиниринге для арабского.

Открыть в MarkdownСпросить ChatGPTСпросить ClaudeСпросить Perplexity