---
title: "モデルフォールバックとは？予備の LLM への切り替え | BroadRouter"
description: "モデルフォールバックは、最初のモデルやプロバイダーが失敗したときに、予備のモデルやプロバイダーへリクエストを送る仕組みです。LiteLLM や OpenRouter の実装と、自作の方法を解説します。"
url: https://broadrouter.com/ja/glossary/model-fallback/
lang: ja
updated: 2026-11-16
publisher: BroadRouter (a BroadNet site); API by BroadNet Inference, https://inference.broadnet.ai
---

このページは英語の原文を AI の支援を受けて翻訳したものです。 [英語の原文を読む](https://broadrouter.com/glossary/model-fallback/) (2026-11-16 更新).

# モデルフォールバック（model fallback）

更新日 2026-11-16

モデルフォールバックとは、失敗した LLM リクエストを順序付きリストの別のモデルやプロバイダーで再試行する手法です。きっかけはエラー、レート制限、コンテキスト長エラー、ポリシーによる拒否などで、クライアントか前段のゲートウェイで実行します。

別名： モデルフォールバック、フォールバック、予備モデル、フェイルオーバー、プロバイダーの切り替え、model fallback、fallback model、model failover、provider fallback

どの API にも調子の悪い数分間があります。フォールバックがあれば、あるプロバイダーの不調な数分間が、アプリの障害にはなりません。

## 仕組み

順序付きのモデルのリストを用意します。ある呼び出しが、それ自体のリトライの後も失敗したら、リストの次のモデルに同じリクエストを送ります。

出典にある 2 つのゲートウェイは次のとおりです。

| ゲートウェイ | フォールバックの仕組み |
| --- | --- |
| LiteLLM プロキシ | `fallbacks` にモデルグループを並べ、“in-order”（訳：順番に）試します。`context_window_fallbacks` と `content_policy_fallbacks` がそれぞれのエラーを別に扱います。`num_retries` はフォールバック前に同じグループでリトライし、`allowed_fails` と `cooldown_time` は失敗が続くデプロイメントをしばらく外します。 |
| OpenRouter | `models` 配列を使います。“If the first model returns an error, OpenRouter will automatically try the next model in the list.”（訳：最初のモデルがエラーを返したら、OpenRouter は自動的にリストの次のモデルを試す）。コンテキスト長、モデレーション、レート制限、ダウンタイムなど、どのエラーでも発動します。最後のモデルも失敗したら、そのエラーが返ります。 |

クライアント側の最小限の実装です。

```python
from openai import APITimeoutError, InternalServerError, RateLimitError

CHAIN = [("broadnet", "broadnet/glm-5.3"), ("other", "backup-model")]

def chat_with_fallback(clients, msgs):
    for client_name, model in CHAIN:
        try:
            return clients[client_name].chat.completions.create(model=model, messages=msgs)
        except (RateLimitError, APITimeoutError, InternalServerError):
            continue
    raise RuntimeError("all models failed")
```

## なぜ重要か

-   **稼働率。** 2 つ目のプロバイダーが、1 つ目の障害や[レート制限](https://broadrouter.com/ja/glossary/rate-limit/)をカバーします。
-   **出力が変わる。** 予備のモデルは書き方もツールの扱い方も違い、料金が高いこともあります。最初のモデルだけでなく、チェーン内のすべてのモデルで[評価](https://broadrouter.com/ja/glossary/eval/)を実行してください。
-   **自分のバグでフォールバックしない。** 400 や 422 はリクエスト自体が誤っていることを意味し、次のモデルでも失敗します。フォールバックは、429、タイムアウト、5xx に対して、上限付きの[指数バックオフ](https://broadrouter.com/ja/glossary/exponential-backoff/)を経てから行ってください。

## BroadNet Inference の場合

BroadNet はリクエストを自動でルーティングせず、モデル間のフォールバックもありません。このサイト BroadRouter は BroadNet の情報サイトで、こちらもリクエストをルーティングしません。フォールバックは自分で実装します。上記のようにクライアントで行うか（[LLM API のフェイルオーバー実践ガイド](https://broadrouter.com/ja/blog/llm-api-failover-fallback/)ではサーキットブレーカーとモデル ID の対応付けを加えています）、ゲートウェイで行ってください。BroadNet をプロバイダーとして追加する方法は、[LLM ルーター](https://broadrouter.com/ja/glossary/llm-router/)と [LiteLLM プロキシのガイド](https://broadrouter.com/ja/guides/litellm-proxy-custom-provider/)を参照してください。BroadNet の [API リファレンス](https://inference.broadnet.ai/docs?utm_source=broadrouter&utm_medium=referral&utm_campaign=ja-glossary-model-fallback&utm_content=body)は、5xx は上限付きの指数バックオフでリトライし、429 では応答の詳細と上限付きのバックオフを使うよう求めています。各ステータスの一覧は[エラーとリトライのガイド](https://broadrouter.com/ja/guides/errors-and-retries/)にあります。

## よくある間違い

-   401 や 402 のエラーでフォールバックし、請求やキーの問題を隠してしまう。
-   どのモデルが各返答を処理したかを記録せず、品質の変化を追えなくなる。

## よくある質問

### リトライとフォールバックはどちらを先にすべきですか？

503 のような短時間の障害には、まずリトライしてください。LiteLLM もこの方式で、呼び出しが num\_retries 回失敗した後で初めて別のモデルグループにフォールバックします。

### フォールバックの後は、どのモデルで課金されますか？

OpenRouter では、実際にリクエストを処理したモデルです。リクエストは "are priced using the model that was ultimately used"（訳：最終的に使われたモデルで料金が決まる）とされ、そのモデルは応答の model フィールドに示されます。

### BroadNet は自動でルーティングやフォールバックをしますか？

いいえ。BroadNet は自動ルーティングを提供しておらず、BroadRouter は BroadNet の情報サイトで、ルーターではありません。フォールバックはクライアントに組み込むか、LiteLLM のようなゲートウェイを前段に置いてください。

## 関連項目

-   [LLM ルーター（LLM router）](https://broadrouter.com/ja/glossary/llm-router/) (用語)
-   [指数バックオフ（exponential backoff）](https://broadrouter.com/ja/glossary/exponential-backoff/) (用語)
-   [レート制限（rate limit）](https://broadrouter.com/ja/glossary/rate-limit/) (用語)
-   [リクエストタイムアウト（request timeout）](https://broadrouter.com/ja/glossary/request-timeout/) (用語)
-   [推論プロバイダー（inference provider）](https://broadrouter.com/ja/glossary/inference-provider/) (用語)
-   [LiteLLM から BroadNet Inference にルーティングする（SDK とプロキシ）](https://broadrouter.com/ja/guides/litellm-proxy-custom-provider/) (ガイド)
-   [BroadNet Inference のエラーコードとリトライすべき場合](https://broadrouter.com/ja/guides/errors-and-retries/) (ガイド)
-   [LLM API のフェイルオーバー：自前のコードで別プロバイダーへ切り替える](https://broadrouter.com/ja/blog/llm-api-failover-fallback/) (記事)
-   [AI エージェントには OpenRouter か定額プランか：安いのはどちら？](https://broadrouter.com/ja/blog/openrouter-alternative-flat-rate/) (記事)
-   [LLM API プロバイダーの選び方：20 項目のチェックリスト](https://broadrouter.com/ja/blog/choose-llm-api-provider-checklist/) (記事)
-   [プロバイダーを乗り換える前に LLM を評価する方法](https://broadrouter.com/ja/blog/evaluate-llm-before-switching/) (記事)

実際のワークロードで試してください。 新規アカウントには US$5 の初回クレジットがあり、Gemma、文字起こし に使えます。DeepSeek、GLM、Qwen3.8 はチャージが必要です。

[始める](https://inference.broadnet.ai/account/?utm_source=broadrouter&utm_medium=referral&utm_campaign=ja-glossary-model-fallback&utm_content=page-cta) ·

**出典**

-   [LiteLLM ドキュメント、プロキシの信頼性：リトライとフォールバック（2026-11-15 確認）](https://docs.litellm.ai/docs/proxy/reliability)
-   [OpenRouter ドキュメント、モデルフォールバック（2026-11-15 確認）](https://openrouter.ai/docs/guides/routing/model-fallbacks)
-   [BroadNet Inference API リファレンス、エラーとリトライ（2026-11-15 確認） （英語）](https://inference.broadnet.ai/docs?utm_source=broadrouter&utm_medium=referral&utm_campaign=ja-glossary-model-fallback&utm_content=sources)
