---
title: "LLM のバッチ API とは？非同期ジョブを半額で処理 | BroadRouter"
description: "バッチ API は、多数の LLM リクエストをまとめたファイルを受け取り、決められた時間枠の中で非同期に処理して結果をまとめて返します。通常は割引価格です。"
url: https://broadrouter.com/ja/glossary/batch-api/
lang: ja
updated: 2026-11-16
publisher: BroadRouter (a BroadNet site); API by BroadNet Inference, https://inference.broadnet.ai
---

このページは英語の原文を AI の支援を受けて翻訳したものです。 [英語の原文を読む](https://broadrouter.com/glossary/batch-api/) (2026-11-16 更新).

# バッチ API（Batch API）

更新日 2026-11-16

バッチ API とは、多数のリクエストを通常はファイルとして一度に受け付け、すぐにではなく決められた時間枠の中で処理し、結果をまとめて返す非同期の LLM エンドポイントです。OpenAI や Anthropic などの事業者は、バッチリクエストを標準 API より割り引いた価格にしています。

別名： バッチ API、バッチ処理 API、バッチ推論、一括処理、非同期バッチ、Batch API、batch processing API、Message Batches API、OpenAI Batch API、batch inference、async batch requests

LLM のジョブの多くは、今すぐ答えが必要なわけではありません。バッチ API は、応答の速さと引き換えに、より安い価格とより大きな処理量を提供します。

## しくみ

多数のリクエストを用意してまとめて送信し、結果は後で受け取ります。ドキュメントが最も整っている 2 つの例です。

|  | OpenAI Batch API | Anthropic Message Batches API |
| --- | --- | --- |
| 入力 | `.jsonl` ファイル、1 行に 1 リクエスト | Messages リクエストのリスト |
| 価格 | “50% cost discount compared to synchronous APIs”（訳：同期 API と比べて 50% の割引） | “50 percent discount on all usage”（訳：すべての利用量が 50% 割引） |
| 完了までの時間 | “Each batch completes within 24 hours (and often more quickly)“（訳：各バッチは 24 時間以内に完了し、多くの場合はそれより早い） | ほとんどが 1 時間以内、24 時間以内に終わらなければ期限切れ |
| サイズ上限 | 50,000 リクエスト、入力ファイル 200 MB | 1 バッチあたり 100,000 リクエストまたは 256 MB |
| レート制限 | モデルごとの上限とは別枠 | キューに入ったバッチリクエストにも適用 |

OpenAI では、ファイルをアップロードし、`completion_window: "24h"` を指定してバッチを作成し、ステータスをポーリングして出力ファイルをダウンロードします。結果は入力と異なる順序で返ることがあるため、どちらの API もリクエストごとに一意の `custom_id` を必要とします。Anthropic は結果を 29 日間保持し、バッチの割引と[プロンプトキャッシュ](https://broadrouter.com/ja/glossary/cached-input-tokens/)の割引は併用できます。

## なぜ重要か

向いているのは、評価、大規模データセットの分類、一括の要約、過去データの埋め戻しです。OpenAI のガイドも、評価の実行と大規模データセットの分類を典型的な用途に挙げています。ユーザーが結果を待っているものには向きません。

節約効果は本物ですが、限りがあります。これらの事業者ではバッチでトークン単価が半分になりますが、送る[入力トークンと出力トークン](https://broadrouter.com/ja/glossary/input-and-output-tokens/)の量が減るわけではありません。プロンプトを削ることは引き続き重要です。

バッチは[レート制限](https://broadrouter.com/ja/glossary/rate-limit/)の問題も回避します。429 とバックオフを自分で管理する代わりに、事業者が処理をスケジュールします。

## BroadNet Inference の場合

BroadNet のドキュメントには、バッチ API、ファイルのエンドポイント、バッチ割引のいずれも記載されていません。BroadNet で大量の処理をするには、キーの上限の範囲で同期リクエストを並列に実行します。従量課金キーなら、1 分あたり 30 リクエスト、同時実行 4 件です。[エラーとリトライのガイド](https://broadrouter.com/ja/guides/errors-and-retries/)にあるとおり、429 と 5xx の応答は上限付きの指数バックオフで処理してください。

DeepSeek V4.1 Flash での長いジョブなら、定額プランのセッションは一度に 1 リクエストを処理し、トークンの計量がないので、コストは量ではなく時間で決まります。ジョブの規模に応じた両者の比較には[定額とトークン課金の計算ツール](https://broadrouter.com/tools/flat-rate-vs-per-token-calculator/)を、上限の範囲での実行時間や締め切りに必要なセッション数には [LLM バッチジョブ計画ツール](https://broadrouter.com/tools/llm-batch-job-planner/)を使ってください。

## よくある質問

### バッチ API はどのくらい安いですか？

OpenAI と Anthropic はどちらも、標準 API と比べて 50% の割引をドキュメントに記載しています。Anthropic の割引は、入力・出力・特殊トークンのすべてに適用されます。

### バッチの処理にはどのくらい時間がかかりますか？

OpenAI は、各バッチが 24 時間以内に、多くの場合はそれより早く完了するとしています。Anthropic は、ほとんどのバッチが 1 時間以内に終わり、24 時間以内に処理が終わらなければ期限切れになるとしています。

### BroadNet にバッチ API はありますか？

BroadNet のドキュメントには記載がありません。キーの上限の範囲でリクエストを並列に送るか、DeepSeek V4.1 Flash の定額プランを使えば、大量のジョブを処理できます。

## 関連項目

-   [レート制限（rate limit）](https://broadrouter.com/ja/glossary/rate-limit/) (用語)
-   [同時実行数（concurrency）](https://broadrouter.com/ja/glossary/concurrency/) (用語)
-   [スループット（throughput）](https://broadrouter.com/ja/glossary/throughput/) (用語)
-   [従量課金（pay-as-you-go）](https://broadrouter.com/ja/glossary/pay-as-you-go/) (用語)
-   [入力トークンと出力トークン（input and output tokens）](https://broadrouter.com/ja/glossary/input-and-output-tokens/) (用語)
-   [BroadNet Inference のエラーコードとリトライすべき場合](https://broadrouter.com/ja/guides/errors-and-retries/) (ガイド)
-   [LLM API の 429 エラー対処法：バックオフ、ジッター、同時実行制限](https://broadrouter.com/ja/blog/handle-llm-api-429-rate-limits/) (記事)
-   [機能リリース前に LLM API のコストを見積もる方法](https://broadrouter.com/ja/blog/estimate-llm-api-cost-before-launch/) (記事)
-   [Batch API なしで LLM を一括処理する：再開できるランナー](https://broadrouter.com/ja/blog/llm-batch-processing-without-batch-api/) (記事)

実際のワークロードで試してください。 新規アカウントには US$5 の初回クレジットがあり、Gemma、文字起こし に使えます。DeepSeek、GLM、Qwen3.8 はチャージが必要です。

[始める](https://inference.broadnet.ai/account/?utm_source=broadrouter&utm_medium=referral&utm_campaign=ja-glossary-batch-api&utm_content=page-cta) ·

**出典**

-   [OpenAI、Batch API ガイド（2026-11-16 確認）](https://developers.openai.com/api/docs/guides/batch)
-   [Anthropic、Message Batches API によるバッチ処理（2026-11-16 確認）](https://platform.claude.com/docs/en/build-with-claude/batch-processing)
-   [BroadNet Inference API リファレンス（2026-11-16 確認） （英語）](https://inference.broadnet.ai/docs?utm_source=broadrouter&utm_medium=referral&utm_campaign=ja-glossary-batch-api&utm_content=sources)
