---
title: "Что такое model fallback? Переключение на резервную LLM"
description: "Model fallback отправляет запрос резервной модели или провайдеру, если первый не ответил. Как это делают шлюзы LiteLLM и OpenRouter и как собрать такое самому."
url: https://broadrouter.com/ru/glossary/model-fallback/
lang: ru
updated: 2026-11-16
publisher: BroadRouter (a BroadNet site); API by BroadNet Inference, https://inference.broadnet.ai
---

Переведено с английского с помощью ИИ. [Читать оригинал на английском](https://broadrouter.com/glossary/model-fallback/) (обновлён 2026-11-16).

# Резервная модель (model fallback)

Обновлено 2026-11-16

Model fallback (переключение на резервную модель) — это паттерн надёжности, при котором неудавшийся запрос к LLM повторяется на другой модели или у другого провайдера из упорядоченного списка. Поводом может быть ошибка, лимит запросов, превышение длины контекста или отказ по контент-политике. Он работает в вашем клиенте или в шлюзе перед API.

Также называют: fallback модели, резервная модель, переключение на резервную модель, фолбэк LLM, отказоустойчивость LLM API, резервный провайдер, model fallback, fallback model, model failover, provider fallback

У любого API бывают плохие минуты. Fallback нужен для того, чтобы плохая минута у одного провайдера не превращалась в простой вашего приложения.

## Как это работает

Вы держите упорядоченный список моделей. Когда вызов не удался — после собственных повторов, — тот же запрос получает следующая модель в списке.

Два шлюза из источников:

| Шлюз | Как работает fallback |
| --- | --- |
| Прокси LiteLLM | `fallbacks` перечисляет группы моделей, которые пробуются “in-order” (перевод: «по порядку»). Отдельные `context_window_fallbacks` и `content_policy_fallbacks` обрабатывают ошибки этих типов. `num_retries` повторяет вызов группы перед переключением; `allowed_fails` и `cooldown_time` выводят сбоящее развёртывание из работы на время. |
| OpenRouter | Массив `models`. “If the first model returns an error, OpenRouter will automatically try the next model in the list.” (перевод: «Если первая модель возвращает ошибку, OpenRouter автоматически пробует следующую модель в списке».) Сработать может любая ошибка, включая длину контекста, модерацию, лимиты запросов и недоступность. Если не справилась и последняя модель, возвращается её ошибка. |

Минимальный вариант на стороне клиента:

```python
from openai import APITimeoutError, InternalServerError, RateLimitError

CHAIN = [("broadnet", "broadnet/glm-5.3"), ("other", "backup-model")]

def chat_with_fallback(clients, msgs):
    for client_name, model in CHAIN:
        try:
            return clients[client_name].chat.completions.create(model=model, messages=msgs)
        except (RateLimitError, APITimeoutError, InternalServerError):
            continue
    raise RuntimeError("all models failed")
```

## Почему это важно

-   **Доступность.** Второй провайдер прикрывает инциденты и [лимиты запросов](https://broadrouter.com/ru/glossary/rate-limit/) у первого.
-   **Другие ответы.** Резервная модель пишет иначе, по-другому работает с инструментами и может стоить дороже. Прогоняйте свой [eval](https://broadrouter.com/ru/glossary/eval/) на каждой модели цепочки, а не только на первой.
-   **Не переключайтесь из-за собственных багов.** 400 или 422 означают, что запрос составлен неверно; на следующей модели он тоже не пройдёт. Переключайтесь при 429, тайм-аутах и 5xx после ограниченной [экспоненциальной задержки](https://broadrouter.com/ru/glossary/exponential-backoff/).

## В BroadNet Inference

BroadNet не маршрутизирует запросы автоматически и не переключается между моделями. BroadRouter, этот сайт, — информационный сайт BroadNet, и он тоже не маршрутизирует запросы. Fallback вы реализуете сами: в клиенте, как показано выше ([пошаговое руководство по failover для LLM API](https://broadrouter.com/ru/blog/llm-api-failover-fallback/) добавляет circuit breaker и сопоставление ID моделей), или в шлюзе; как добавить BroadNet в качестве провайдера, смотрите в статье [LLM-роутер](https://broadrouter.com/ru/glossary/llm-router/) и в [руководстве по прокси LiteLLM](https://broadrouter.com/ru/guides/litellm-proxy-custom-provider/). [Справочник API](https://inference.broadnet.ai/docs?utm_source=broadrouter&utm_medium=referral&utm_campaign=ru-glossary-model-fallback&utm_content=body) BroadNet советует повторять 5xx с ограниченной экспоненциальной задержкой, а при 429 опираться на детали ответа и ограниченную задержку. Все статусы перечислены в [руководстве по ошибкам и повторам](https://broadrouter.com/ru/guides/errors-and-retries/).

## Частые ошибки

-   Переключаться на резерв при ошибках 401 или 402: так скрывается проблема с оплатой или ключом.
-   Не логировать, какая модель обслужила каждый ответ: тогда изменения качества трудно отследить.

## Вопросы и ответы

### Что делать сначала: повторять запрос или переключаться на резерв?

При кратковременных сбоях, например 503, сначала повторяйте. Так работает LiteLLM: на другую группу моделей он переключается только после того, как вызов не удался num\_retries раз.

### За какую модель я плачу после переключения на резерв?

В OpenRouter — за ту, которая обслужила запрос: там сказано, что запросы "are priced using the model that was ultimately used" (перевод: «тарифицируются по модели, которая в итоге была использована»), и она указывается в поле model ответа.

### Делает ли BroadNet маршрутизацию или fallback автоматически?

Нет. BroadNet не предлагает автоматической маршрутизации, а BroadRouter — информационный сайт BroadNet, а не роутер. Реализуйте fallback в своём клиенте или поставьте перед API шлюз вроде LiteLLM.

## См. также

-   [LLM-роутер (LLM router)](https://broadrouter.com/ru/glossary/llm-router/) (термин)
-   [Экспоненциальная задержка (exponential backoff)](https://broadrouter.com/ru/glossary/exponential-backoff/) (термин)
-   [Лимит запросов (rate limit)](https://broadrouter.com/ru/glossary/rate-limit/) (термин)
-   [Тайм-аут запроса (request timeout)](https://broadrouter.com/ru/glossary/request-timeout/) (термин)
-   [Провайдер инференса (inference provider)](https://broadrouter.com/ru/glossary/inference-provider/) (термин)
-   [LiteLLM и BroadNet Inference: SDK и прокси](https://broadrouter.com/ru/guides/litellm-proxy-custom-provider/) (руководство)
-   [Коды ошибок BroadNet Inference и когда повторять запрос](https://broadrouter.com/ru/guides/errors-and-retries/) (руководство)
-   [Отказоустойчивость LLM API: резервный провайдер в вашем коде](https://broadrouter.com/ru/blog/llm-api-failover-fallback/) (статья)
-   [OpenRouter или фиксированный тариф для ИИ-агентов: что дешевле?](https://broadrouter.com/ru/blog/openrouter-alternative-flat-rate/) (статья)
-   [Как выбрать провайдера LLM API: чек-лист из 20 пунктов](https://broadrouter.com/ru/blog/choose-llm-api-provider-checklist/) (статья)
-   [Как оценить LLM перед сменой провайдера](https://broadrouter.com/ru/blog/evaluate-llm-before-switching/) (статья)

Проверьте на своей реальной нагрузке. Новые аккаунты получают стартовый грант US$5 на Gemma и распознавание речи. Для DeepSeek, GLM и Qwen3.8 нужно пополнить баланс.

[Начать](https://inference.broadnet.ai/account/?utm_source=broadrouter&utm_medium=referral&utm_campaign=ru-glossary-model-fallback&utm_content=page-cta) ·

**Источники**

-   [Документация LiteLLM, надёжность прокси: повторы и fallback (проверено 2026-11-15)](https://docs.litellm.ai/docs/proxy/reliability)
-   [Документация OpenRouter, резервные модели (проверено 2026-11-15)](https://openrouter.ai/docs/guides/routing/model-fallbacks)
-   [Справочник API BroadNet Inference, ошибки и повторы (проверено 2026-11-15) (на английском)](https://inference.broadnet.ai/docs?utm_source=broadrouter&utm_medium=referral&utm_campaign=ru-glossary-model-fallback&utm_content=sources)
