---
title: "Нужно ли дообучать LLM? Чек-лист готовности к fine-tuning"
description: "Когда проблему решают промпт, RAG или оценка и дообучение не нужно, какие данные нужны для обучения и как проверить fine-tune, прежде чем его заказывать."
url: https://broadrouter.com/ru/blog/fine-tuning-readiness/
lang: ru
updated: 2026-11-15
publisher: BroadRouter (a BroadNet site); API by BroadNet Inference, https://inference.broadnet.ai
---

Переведено с английского с помощью ИИ. [Читать оригинал на английском](https://broadrouter.com/blog/fine-tuning-readiness/) (обновлён 2026-11-16).

# Перед дообучением LLM: сформулируйте, какую проблему решаете

Команда BroadNet Inference · 7 мин чтения · Опубликовано 2026-11-15 · Обновлено 2026-11-16

Дообучайте модель только после того, как оценка показала повторяющийся сбой, который не исправили лучшие промпты, примеры, поиск по документам и валидация. Недостающие знания обычно требуют RAG, а ошибки формата — структурированного вывода и проверок. Прежде чем заказывать свою модель, соберите размеченные примеры, которые вправе использовать, отложите тестовый набор и запишите результат, который нужно превзойти.

## Главное

-   Начните с набора для оценки. Без исходного результата вы не поймёте, помогло ли дообучение.
-   Отсутствующие или меняющиеся факты — задача для поиска по документам. Дообучение надёжнее учит поведению и стилю, чем фактам, которые меняются.
-   Собственное руководство OpenAI ставит оценку и промпт-инжиниринг перед дообучением и говорит, что промптов «may be all you need» (перевод: «может оказаться достаточно»).
-   Обучающим данным нужны права на использование, согласованность и отложенный тестовый набор, который никогда не попадает в обучение. Короткий скрипт находит дубликаты, противоречия и утечки.
-   В самообслуживаемом API BroadNet нет эндпоинта для дообучения. Её арабские fine-tune-модели доступны по запросу, на приватном эндпоинте с приватным ID модели.

**На этой странице**

1.  Какую проблему вы пытаетесь решить?
2.  Как доказать, что сбой повторяется?
3.  Какие простые изменения проверить сначала?
4.  Какие данные нужны и есть ли у вас право их использовать?
5.  Как честно оценить дообученную модель?
6.  Что меняется, если дообучать хостируемые модели нельзя?
7.  Где здесь BroadNet Inference

Дообучение (fine-tuning) — часто первое средство, за которое хватаются, когда модель ошибается, и часто неверное. Оно стоит сбора данных, разметки, обучающих прогонов и модели, которую теперь нужно поддерживать. Многие сбои исчезают с более чётким промптом, поиском нужного документа или проверкой ответа в коде. Эта статья о том, как понять, какой у вас случай, и что подготовить, если своя модель действительно нужна.

## Какую проблему вы пытаетесь решить?

Назовите сбой, прежде чем называть лекарство. Большинство сбоев LLM укладываются в несколько шаблонов, и у каждого есть более дешёвый первый шаг:

| Симптом | Сначала попробуйте | Дообучение помогает, когда |
| --- | --- | --- |
| Неверные или устаревшие факты | [Поиск по документам (RAG)](https://broadrouter.com/ru/glossary/rag/) | Редко; меняющимся фактам поиск нужен в любом случае |
| Неверный формат, сломанный JSON | [Структурированный вывод](https://broadrouter.com/ru/glossary/structured-output/), проверка по схеме, один повтор | Формат необычный, и примеров в промпте недостаточно |
| Непоследовательные метки или категории | Чёткие определения и [few-shot примеры](https://broadrouter.com/ru/glossary/few-shot-prompting/) | Набор меток большой или тонкий, и примеры не помещаются в промпт |
| Неверный тон или стиль | Руководство по стилю в [системном промпте](https://broadrouter.com/ru/glossary/system-prompt/) с примерами | Фирменный стиль должен выдерживаться в тысячах ответов |
| Предметные слова неверно расслышаны или написаны | Список терминов в промпте, исправление в коде после ответа | Модель распознавания речи раз за разом ошибается в одних и тех же именах, кодах или числах |
| Слишком медленно или дорого в масштабе | Модель поменьше, [кэширование промптов](https://broadrouter.com/ru/blog/prompt-structure-for-caching/), более короткие промпты | Маленькая дообученная модель может сравняться с большой на узкой задаче |
| Не тот язык или диалект | Инструкции на нужном языке; см. [промпт-инжиниринг на арабском](https://broadrouter.com/ru/blog/arabic-prompt-engineering/) | Модель понимает, но не пишет на нужном вам диалекте |

Собственное руководство OpenAI описывает тот же порядок: сначала напишите оценки, затем итерируйте промпты, а для некоторых сценариев дообучайте. В нём сказано, что процесса промпт-инжиниринга «may be all you need in order to get great results» (перевод: «может оказаться достаточно для отличных результатов»). Там же перечислено, что дообучение даёт сверх промптов: больше примеров, чем помещается в один промпт, более короткие промпты, экономящие токены, обучение на данных, которые вы не хотите отправлять в каждом запросе, и возможность сделать модель поменьше хорошей в одной задаче.

## Как доказать, что сбой повторяется?

С помощью набора для оценки. Соберите 100–200 реальных входных данных с заведомо правильными ответами, как в статье [оценка LLM перед переходом](https://broadrouter.com/ru/blog/evaluate-llm-before-switching/). Оцените текущий промпт. Затем пометьте каждый сбой короткой категорией: `wrong_label`, `missing_field`, `dialect`, `hallucinated_fact` и так далее.

Шаблон — кандидат на дообучение, только если верны все три условия:

1.  **Он частый.** На него приходится заметная доля сбоев, а не один-два странных случая.
2.  **Он переживает дешёвые исправления.** Вы попробовали более чёткие инструкции, примеры, поиск и валидацию, а категория никуда не делась.
3.  **Он согласован.** Люди сходятся в том, какой ответ правильный. Если двое ваших проверяющих размечают один и тот же случай по-разному, модель, обученная на их разметке, выучит это разногласие.

Запишите результат коротким утверждением, как в этом выдуманном примере: «На нашем наборе из 200 случаев арабской поддержки лучший промпт помечает 18% обращений об оплате как доставку; few-shot примеры снижают это до 15%». Это предложение — техническое задание для дообучения и число, которое нужно превзойти.

## Какие простые изменения проверить сначала?

Проверяйте их в порядке стоимости и переоценивайте после каждого:

1.  **Инструкции.** Определите каждую метку или поле. Скажите, что делать при неуверенности.
2.  **Примеры.** Добавьте от трёх до десяти реальных примеров, включая сложные случаи.
3.  **Поиск.** Если ответам нужны факты, находите нужный фрагмент. Варианты разобраны в статьях [поиск RAG на арабском](https://broadrouter.com/ru/blog/arabic-rag-search/) и [длинный контекст или RAG](https://broadrouter.com/ru/blog/long-context-vs-rag/).
4.  **Ограничения.** Используйте структурированный вывод, где модель его поддерживает, и проверяйте ответ в коде. Переспросите один раз, указав ошибку.
5.  **Другая модель.** Другая базовая модель, возможно, уже делает то, что нужно. Тот же набор для оценки покажет это за час.

Каждый шаг стоит часов, а не недель, и каждый оставляет более высокий исходный результат, который дообучению придётся превзойти, если оно всё же понадобится.

## Какие данные нужны и есть ли у вас право их использовать?

Прежде чем думать о качестве, проверьте права. Обучающие данные часто берутся из переписки с клиентами, документов или записей звонков. Нужно правовое основание и часто согласие или условие договора, которое покрывает обучение. Проверьте собственное уведомление о конфиденциальности и договоры с клиентами и удалите ненужные персональные данные. Не рассчитывайте, что их собирает за вас провайдер API: например, заявление BroadNet о конфиденциальности говорит, что она не хранит содержимое запросов к инференсу и не использует данные инференса для обучения, дообучения или оценки моделей.

Затем проверьте качество. Этот скрипт читает обучающий файл и файл для оценки в распространённом формате chat JSONL (по одному `{"messages": [...]}` на строку, последним идёт ответ ассистента) и сообщает о проблемах, которые незаметно портят дообучение: сломанные строки, дубликаты, один и тот же вход с разными ответами, элементы оценки, утёкшие в обучение, баланс меток и возможные персональные данные.

```python
import json, re, sys
from collections import Counter

DIAC = re.compile(r"[ً-ٰٟـ]")          # tashkeel, dagger alef, tatweel
PII = {"email": re.compile(r"[\w.+-]+@[\w-]+\.[\w.]+"),
       "phone": re.compile(r"(?:\+|00)\d[\d\s-]{7,}\d")}

def norm(s: str) -> str:
    s = DIAC.sub("", s.lower())
    s = re.sub("[إأآٱ]", "ا", s).replace("ى", "ي")
    return " ".join(s.split())

def load(path):
    rows, errors = [], []
    for i, line in enumerate(open(path, encoding="utf-8"), 1):
        try:
            ex = json.loads(line)
            roles = [m["role"] for m in ex["messages"]]
            if roles[-1] != "assistant" or "user" not in roles:
                raise ValueError(f"roles {roles}")
            rows.append(ex)
        except (ValueError, KeyError, IndexError, TypeError) as e:
            errors.append(f"line {i}: {e}")
    return rows, errors

def key(ex):     # the input side, normalised: what the model sees
    return norm(" ".join(m["content"] for m in ex["messages"] if m["role"] != "assistant"))

def check(train_path, eval_path):
    train, errs = load(train_path)
    evals, eval_errs = load(eval_path)
    keys = Counter(key(e) for e in train)
    labels = Counter(e["messages"][-1]["content"].strip() for e in train)
    leaked = {key(e) for e in evals} & set(keys)
    pii = Counter(k for e in train for m in e["messages"] for k, rx in PII.items() if rx.search(m["content"]))
    conflicts = Counter()
    seen = {}
    for e in train:
        k, a = key(e), e["messages"][-1]["content"].strip()
        if k in seen and seen[k] != a:
            conflicts[k] += 1
        seen.setdefault(k, a)
    return {"train_examples": len(train), "parse_errors": errs + eval_errs,
            "duplicate_inputs": sum(n - 1 for n in keys.values() if n > 1),
            "same_input_different_answer": len(conflicts),
            "eval_items_also_in_train": len(leaked),
            "answer_distribution": labels.most_common(5),
            "examples_with_possible_pii": dict(pii)}

if __name__ == "__main__":
    print(json.dumps(check(sys.argv[1], sys.argv[2]), ensure_ascii=False, indent=1))
```

Мы запустили его на игрушечном файле из семи строк с обращениями в поддержку на арабском, английском и испанском. Он нашёл одну строку без ответа ассистента, два дублирующихся входа (один отличался только диакритикой, которую нормализатор удаляет, как в статье [нормализация арабского текста](https://broadrouter.com/ru/blog/arabic-text-normalization-search/)), один вход с метками и `billing`, и `other`, один элемент оценки, который встречался и в обучении, и один номер телефона. Любая из этих проблем заставила бы дообучение выглядеть лучше или хуже, чем оно есть.

Для арабского нормализация важна. Без неё «متأخر» и «متأخِّر» считаются разными входами, и почти точная копия тестового элемента может проскочить в обучение.

## Как честно оценить дообученную модель?

Используйте тот же отложенный тестовый набор, что и для исходного результата, и не допускайте его в обучение. Затем сравнивайте:

-   **С лучшим промптом, а не с первым.** Дообучение, которое побеждает слабый промпт, ничего не доказывает.
-   **По категориям и по языкам.** Общий прирост может скрывать падение на арабском при улучшении на английском. Показывайте каждое.
-   **По общему поведению.** Добавьте 20–50 обычных запросов, с которыми модель раньше справлялась. Узкое обучение может ухудшить поведение за пределами задачи.
-   **По стоимости и задержке.** Дообучение часто оправдано тем, что работу делает модель поменьше. Измеряйте и токены, и время на запрос.

Решите, каким будет правило прохождения, прежде чем увидите числа, как в статье об оценке: например, «минимум на 5 пунктов лучше на метках оплаты, ни одна категория не хуже больше чем на 2 пункта, арабский и английский проходят оба».

## Что меняется, если дообучать хостируемые модели нельзя?

Самообслуживаемое дообучение предлагает меньше хостируемых API, чем можно ожидать. Страница устареваний OpenAI фиксирует изменения в её платформе самообслуживаемого дообучения: с 7 мая 2026 года организации, которые ещё не запускали дообучение, больше не могут создавать задания; с 2 июля 2026 года — и организации, которые за последние 60 дней не запускали инференс на дообученной модели; а с 6 января 2027 года и активные существующие клиенты больше не смогут создавать новые задания на дообучение. Уже дообученные модели остаются доступны для инференса, пока их базовые модели не будут выведены из эксплуатации.

Обычная альтернатива — [модель с открытыми весами](https://broadrouter.com/ru/glossary/open-weight-model/), обученная параметрически эффективным методом, например [LoRA](https://broadrouter.com/ru/glossary/lora/). Статья о LoRA (Hu et al.) сообщает, что по сравнению с полным дообучением GPT-3 175B с Adam LoRA может сократить число обучаемых параметров в 10 000 раз, а требования к памяти GPU — в 3 раза. Затем результат нужно где-то запускать — на своём оборудовании или у провайдера, который хостит собственные веса клиентов. Этот компромисс разобран в статье [модели с открытыми весами или закрытые](https://broadrouter.com/ru/blog/open-weight-vs-closed-models/).

## Где здесь BroadNet Inference

BroadRouter — собственный сайт BroadNet. В самообслуживаемом API BroadNet Inference нет эндпоинта для дообучения: её [справочник API](https://inference.broadnet.ai/docs?utm_source=broadrouter&utm_medium=referral&utm_campaign=ru-blog-fine-tuning-readiness&utm_content=body) описывает только chat completions и транскрибацию аудио. На той же странице сказано: «private endpoints, our Arabic fine-tunes and other models on request are reached with a private ID issued with the endpoint» (перевод: «приватные эндпоинты, наши арабские fine-tune-модели и другие модели по запросу доступны по приватному ID, выдаваемому вместе с эндпоинтом»). Страницы моделей BroadNet указывают дообученную BroadNet версию Cohere Transcribe Arabic для чисел, дат и имён в зашумлённом аудио как модель по запросу с приватным ID для каждого клиента и сообщают, что Gemma 4 VL 26B доступна на приватном эндпоинте «including our Arabic fine-tunes» (перевод: «включая наши арабские fine-tune-модели»). Это запросы через [страницу контактов](https://broadrouter.com/ru/contact/#private), а не то, что можно купить или обучить самостоятельно; что отправить, описано в статье [планирование приватного эндпоинта](https://broadrouter.com/ru/blog/private-endpoint-planning/).

Для всего, что предшествует этому шагу, публичных моделей достаточно, чтобы собрать набор для оценки и исходный результат: у [Qwen3.8 27B](https://broadrouter.com/ru/models/qwen3.8-27b/) и [GLM 5.3](https://broadrouter.com/ru/models/glm-5.3/) задокументирован структурированный вывод, [Gemma 4 VL 26B](https://broadrouter.com/ru/models/gemma-4-vl-26b/) работает на стартовом гранте $5, а [BroadNet Transcribe Arabic](https://broadrouter.com/ru/models/cohere-transcribe-arabic/) распознаёт речь по цене $0.0042 за минуту. Содержимое запросов к инференсу не хранится; необходимые метаданные аккаунта, оплаты и безопасности хранятся, как описано в заявлении BroadNet о конфиденциальности.

Бесплатные инструменты по теме (на английском)

-   [OpenAI to BroadNet migration helper](https://broadrouter.com/tools/openai-to-broadnet-migration/) Paste OpenAI SDK code; get base URL, key and model edits, a diff and the checks that remain.
-   [max\_tokens calculator for reasoning models](https://broadrouter.com/tools/reasoning-token-budget/) Answer length + reasoning budget + margin = a max\_tokens that does not cut the answer off.
-   [JSON schema generator for LLM structured output](https://broadrouter.com/tools/json-schema-generator/) Sample JSON to strict schema, Pydantic, Zod and a ready request.
-   [LLM JSON output validator](https://broadrouter.com/tools/llm-json-output-validator/) Parse errors by line and column, safe repairs, cut-off detection and JSON Schema checks for model output.

[Бесплатные инструменты (на английском)](https://broadrouter.com/tools/)

## Термины в этой статье

[Дообучение (fine-tuning)](https://broadrouter.com/ru/glossary/fine-tuning/)

Дообучение (fine-tuning) — это продолжение обучения предобученной языковой модели на меньшем наборе данных под конкретную задачу, например на примерах диалогов. Веса модели меняются, и она надёжнее выполняет эту задачу или держит стиль без длинных инструкций и примеров в каждом промпте.

[Eval (оценка LLM)](https://broadrouter.com/ru/glossary/eval/)

Eval (сокращение от evaluation, «оценка») — это воспроизводимый тест языковой модели или промпта: фиксированный набор входов, описание того, как выглядит хороший ответ, и оценщик (код, человек или другая модель), который выставляет оценку каждому ответу, чтобы версии можно было сравнивать.

[LoRA (низкоранговая адаптация)](https://broadrouter.com/ru/glossary/lora/)

LoRA (low-rank adaptation, низкоранговая адаптация) — это метод параметро-эффективного дообучения, который замораживает веса предобученной модели и обучает пару небольших низкоранговых матриц для выбранных слоёв. Выученное изменение можно хранить как небольшой адаптер или влить в веса, не добавляя задержки при инференсе.

[RAG (генерация, дополненная поиском)](https://broadrouter.com/ru/glossary/rag/)

RAG (retrieval-augmented generation, генерация, дополненная поиском) — это подход, при котором приложение сначала находит во внешнем хранилище, например поисковом или векторном индексе, фрагменты, относящиеся к вопросу, а затем добавляет их в промпт, чтобы языковая модель отвечала по этому тексту, а не только по памяти.

[Персональные данные (PII)](https://broadrouter.com/ru/glossary/pii/)

PII (personally identifiable information) — это информация, с помощью которой можно отличить или отследить личность человека, например имя, номер удостоверения или биометрические данные, а также другая информация, связанная или связываемая с ним. В GDPR используется более широкий термин «персональные данные». В работе с LLM маскирование PII удаляет их из промптов до того, как те покинут ваши системы.

[Токен (token)](https://broadrouter.com/ru/glossary/token/)

Токен — это единица текста, которую языковая модель читает и пишет: слово, часть слова, знак препинания или последовательность байтов, которую выдаёт токенизатор модели. LLM API считают, ограничивают и обычно тарифицируют использование в токенах.

[Few-shot промптинг (few-shot prompting)](https://broadrouter.com/ru/glossary/few-shot-prompting/)

Few-shot промптинг — это приём, при котором в промпт перед реальным входом добавляют несколько готовых примеров «вход — выход», чтобы языковая модель по ним поняла задачу и формат. Веса модели не меняются; в zero-shot примеров нет, в one-shot — один.

[Вход из кэша (cached input tokens)](https://broadrouter.com/ru/glossary/cached-input-tokens/)

Вход из кэша (cached input tokens) — это токены промпта, которые провайдер LLM недавно обработал и может взять из кэша, а не вычислять заново; обычно это повторяющийся префикс, например системный промпт или документ. Провайдеры тарифицируют их дешевле, чем новые входные токены.

## Вопросы и ответы

### Что выбрать — дообучение или RAG?

Используйте поиск по документам (RAG), когда модели не хватает фактов, особенно меняющихся: документов, цен, правил. Дообучение стоит рассматривать, когда информация у модели есть, но она стабильно ведёт себя неправильно — в формате, тоне, метках или предметной лексике, — а промпты с примерами это не исправили.

### Как понять, хватит ли промпт-инжиниринга?

Измерьте. Соберите набор для оценки из реальных входных данных, оцените текущий промпт, затем попробуйте более чёткие инструкции, few-shot примеры, структурированный вывод и валидацию. Если результат достиг цели, остановитесь. Если один тип сбоя сохраняется после всех этих изменений, это кандидат на дообучение.

### Сколько данных нужно для дообучения?

Универсальной цифры нет. Всё зависит от задачи, базовой модели и метода. Соберите достаточно размеченных согласованных примеров, чтобы покрыть каждый важный для вас случай, плюс отдельный отложенный тестовый набор, и проверяйте, растёт ли результат по мере добавления данных.

### Можно ли дообучить модель в BroadNet Inference?

Не в режиме самообслуживания. Справочник API BroadNet описывает chat completions и транскрибацию аудио, эндпоинта для обучения нет. Арабские fine-tune-модели, например дообученную Cohere Transcribe Arabic, BroadNet указывает как модели по запросу, которые работают на приватном эндпоинте с приватным ID модели.

### Обучает ли BroadNet модели на моём трафике через API?

В заявлении BroadNet о конфиденциальности сказано, что она не использует данные инференса для обучения, дообучения или оценки моделей и не хранит содержимое запросов. Если вы хотите дообучить модель на своём трафике, собирайте и храните эти данные сами, имея право их использовать.

## Читайте также

-   [Как оценить LLM перед сменой провайдера](https://broadrouter.com/ru/blog/evaluate-llm-before-switching/)
-   [Промпт-инжиниринг для арабского: регистр, RTL, цифры и смешанный текст](https://broadrouter.com/ru/blog/arabic-prompt-engineering/)
-   [RAG на арабском: нормализация, чанкинг и поиск, который работает](https://broadrouter.com/ru/blog/arabic-rag-search/)
-   [Длинный контекст или RAG: когда 1 млн токенов заменяет векторную БД](https://broadrouter.com/ru/blog/long-context-vs-rag/)
-   [JSON mode или json\_schema: надёжный структурированный вывод LLM](https://broadrouter.com/ru/blog/structured-output-json-schema/)
-   [Открытые или закрытые модели ИИ для бизнеса: цена, контроль, риски](https://broadrouter.com/ru/blog/open-weight-vs-closed-models/)
-   [Приватный эндпоинт начинается с чётко описанной нагрузки](https://broadrouter.com/ru/blog/private-endpoint-planning/)
-   [GPU-парк и подход к инференсу BroadNet — по описанию самой BroadNet](https://broadrouter.com/ru/blog/broadnet-gpu-fleet-and-serving/)
-   [Кэширование ответов LLM API: кэш точных совпадений на Python](https://broadrouter.com/ru/blog/cache-llm-responses-cut-cost/)
-   [Руководство: API распознавания арабской речи: пошаговое руководство](https://broadrouter.com/ru/guides/arabic-speech-to-text-api/)
-   [Руководство: OpenAI Python SDK и BroadNet Inference](https://broadrouter.com/ru/guides/openai-python-sdk/)

Проверьте на своей реальной нагрузке. Новые аккаунты получают стартовый грант US$5 на Gemma и распознавание речи. Для DeepSeek, GLM и Qwen3.8 нужно пополнить баланс.

[Начать](https://inference.broadnet.ai/account/?utm_source=broadrouter&utm_medium=referral&utm_campaign=ru-blog-fine-tuning-readiness&utm_content=page-cta) ·

**Источники**

-   [OpenAI, руководство Model optimization: оценки, промпт-инжиниринг и дообучение (дата обращения 2026-11-15)](https://platform.openai.com/docs/guides/fine-tuning)
-   [OpenAI, Deprecations: изменения в самообслуживаемом дообучении от 7 мая 2026, 2 июля 2026 и 6 января 2027 (дата обращения 2026-11-15)](https://platform.openai.com/docs/deprecations)
-   [Hu et al., LoRA: Low-Rank Adaptation of Large Language Models, arXiv 2106.09685 (дата обращения 2026-11-15)](https://arxiv.org/abs/2106.09685)
-   [Справочник BroadNet Inference API: эндпоинты и «our Arabic fine-tunes», доступные по приватному ID (дата обращения 2026-11-15) (на английском)](https://inference.broadnet.ai/docs?utm_source=broadrouter&utm_medium=referral&utm_campaign=ru-blog-fine-tuning-readiness&utm_content=sources)
-   [Страница модели BroadNet, дообученная BroadNet Cohere Transcribe Arabic: по запросу, приватный ID для каждого клиента (дата обращения 2026-11-15) (на английском)](https://www.broadnet.ai/inference/models/cohere-transcribe-arabic-broadnet)
-   [Страница модели BroadNet, Gemma 4 VL 26B: приватный эндпоинт «including our Arabic fine-tunes» (дата обращения 2026-11-15) (на английском)](https://www.broadnet.ai/inference/models/gemma-4-vl-26b)
-   [Заявление BroadNet Inference о конфиденциальности: данные инференса не используются для обучения, дообучения или оценки моделей (дата обращения 2026-11-15) (на английском)](https://www.broadnet.ai/inference-privacy)
