---
title: "Qu’est-ce qu’une API batch LLM ? Moitié prix, en différé"
description: "Une API batch reçoit un fichier de nombreuses requêtes LLM, les traite en asynchrone dans un délai donné et renvoie tous les résultats, souvent avec remise."
url: https://broadrouter.com/fr/glossary/batch-api/
lang: fr
updated: 2026-11-16
publisher: BroadRouter (a BroadNet site); API by BroadNet Inference, https://inference.broadnet.ai
---

Traduit de l’anglais avec l’aide de l’IA. [Lire l’original en anglais](https://broadrouter.com/glossary/batch-api/) (mis à jour le 2026-11-16).

# API batch (traitement par lots)

Mis à jour 2026-11-16

Une API batch est un endpoint LLM asynchrone qui accepte de nombreuses requêtes d’un coup, généralement sous forme de fichier, les traite dans une fenêtre définie plutôt qu’immédiatement et renvoie les résultats ensemble. Des fournisseurs comme OpenAI et Anthropic facturent les requêtes batch avec une remise par rapport à leurs API standard.

Aussi appelé : API batch, traitement par lots, API de traitement par lots, inférence par lots, requêtes batch asynchrones, batch API, batch processing API, Message Batches API, OpenAI Batch API, batch inference, async batch requests

Beaucoup de traitements LLM n’ont pas besoin d’une réponse immédiate. Une API batch échange la rapidité de réponse contre un prix plus bas et un volume plus élevé.

## Comment ça marche

Vous préparez de nombreuses requêtes, les soumettez ensemble et récupérez les résultats plus tard. Les deux versions les mieux documentées :

|  | OpenAI Batch API | Anthropic Message Batches API |
| --- | --- | --- |
| Entrée | Un fichier `.jsonl`, une requête par ligne | Une liste de requêtes Messages |
| Prix | « 50% cost discount compared to synchronous APIs » (traduction : « 50 % de remise par rapport aux API synchrones ») | « 50 percent discount on all usage » (traduction : « 50 % de remise sur toute l’utilisation ») |
| Délai | « Each batch completes within 24 hours (and often more quickly) » (traduction : « chaque batch se termine en moins de 24 heures (et souvent plus vite) ») | La plupart en moins d’une heure ; expire s’il n’est pas fini sous 24 heures |
| Taille maximale | 50 000 requêtes, fichier d’entrée de 200 Mo | 100 000 requêtes ou 256 Mo par batch |
| Limites de débit | Séparées des limites par modèle | S’appliquent aussi aux requêtes batch en file d’attente |

Avec OpenAI, vous téléversez le fichier, créez un batch avec `completion_window: "24h"`, interrogez son statut puis téléchargez le fichier de sortie. Les deux API exigent un `custom_id` unique par requête, car les résultats peuvent revenir dans un autre ordre que l’entrée. Anthropic conserve les résultats 29 jours, et ses remises batch et de [prompt caching](https://broadrouter.com/fr/glossary/cached-input-tokens/) peuvent se cumuler.

## Pourquoi c’est important

Les bons cas d’usage : évaluations, classification d’un grand jeu de données, résumés en masse et rattrapage de données existantes. Le guide d’OpenAI cite l’exécution d’évaluations et la classification de grands jeux de données comme usages typiques. Les mauvais : tout ce qu’un utilisateur attend.

Les économies sont réelles mais bornées. Un batch divise par deux le prix du token chez ces fournisseurs ; il ne réduit pas le nombre de [tokens d’entrée et de sortie](https://broadrouter.com/fr/glossary/input-and-output-tokens/) que vous envoyez. Raccourcir les prompts reste utile.

Un batch contourne aussi le problème de la [limite de débit](https://broadrouter.com/fr/glossary/rate-limit/). Au lieu de gérer vous-même les 429 et le backoff, vous laissez le fournisseur planifier le travail.

## Sur BroadNet Inference

La documentation de BroadNet ne mentionne ni API batch, ni endpoint de fichiers, ni remise batch. Sur BroadNet, un traitement en masse passe par des requêtes synchrones lancées en parallèle dans les limites de votre clé : 30 requêtes par minute et 4 en cours simultanément avec une clé à l’usage. Gérez les réponses 429 et 5xx avec un backoff exponentiel borné, comme le montre le [guide des erreurs et nouvelles tentatives](https://broadrouter.com/fr/guides/errors-and-retries/).

Pour les longs traitements sur DeepSeek V4.1 Flash, une session de forfait exécute une requête à la fois, sans compteur de tokens : le coût dépend alors du temps et non du volume. Utilisez le [calculateur forfait ou paiement au token](https://broadrouter.com/tools/flat-rate-vs-per-token-calculator/) pour comparer les deux selon la taille de votre traitement, et le [planificateur de traitements batch LLM](https://broadrouter.com/tools/llm-batch-job-planner/) pour la durée d’exécution dans vos limites et le nombre de sessions qu’exige une échéance.

## Questions fréquentes

### Combien coûte de moins une API batch ?

OpenAI et Anthropic documentent tous deux une remise de 50 % par rapport à leurs API standard. Chez Anthropic, la remise s’applique aux tokens d’entrée, de sortie et spéciaux.

### Combien de temps prend un batch ?

OpenAI indique que chaque batch se termine en moins de 24 heures, souvent plus tôt. Anthropic indique que la plupart des batchs se terminent en moins d’une heure et expirent si le traitement n’est pas fini sous 24 heures.

### BroadNet propose-t-il une API batch ?

La documentation de BroadNet n’en mentionne pas. Vous pouvez lancer des traitements en masse en envoyant des requêtes en parallèle dans les limites de votre clé, ou avec un forfait pour DeepSeek V4.1 Flash.

## Voir aussi

-   [Limite de débit (rate limit)](https://broadrouter.com/fr/glossary/rate-limit/) (terme)
-   [Concurrence (requêtes simultanées)](https://broadrouter.com/fr/glossary/concurrency/) (terme)
-   [Débit (throughput)](https://broadrouter.com/fr/glossary/throughput/) (terme)
-   [Paiement à l’usage (pay-as-you-go)](https://broadrouter.com/fr/glossary/pay-as-you-go/) (terme)
-   [Tokens d’entrée et de sortie](https://broadrouter.com/fr/glossary/input-and-output-tokens/) (terme)
-   [Codes d’erreur de BroadNet Inference : quand réessayer ?](https://broadrouter.com/fr/guides/errors-and-retries/) (guide)
-   [Gérer les erreurs 429 d’une API LLM : backoff, jitter et limiteurs](https://broadrouter.com/fr/blog/handle-llm-api-429-rate-limits/) (article)
-   [Estimer le coût d’une API LLM avant de lancer une fonctionnalité](https://broadrouter.com/fr/blog/estimate-llm-api-cost-before-launch/) (article)
-   [Traitement par lots LLM sans Batch API : un exécuteur reprenable](https://broadrouter.com/fr/blog/llm-batch-processing-without-batch-api/) (article)

Essayez-le sur votre vraie charge de travail. Les nouveaux comptes démarrent avec USD 5 de crédit pour Gemma et transcription. DeepSeek, GLM et Qwen3.8 nécessitent une recharge.

[Commencer](https://inference.broadnet.ai/account/?utm_source=broadrouter&utm_medium=referral&utm_campaign=fr-glossary-batch-api&utm_content=page-cta) ·

**Sources**

-   [OpenAI, guide de la Batch API (vérifié le 2026-11-16)](https://developers.openai.com/api/docs/guides/batch)
-   [Anthropic, traitement par lots avec la Message Batches API (vérifié le 2026-11-16)](https://platform.claude.com/docs/en/build-with-claude/batch-processing)
-   [Référence de l’API BroadNet Inference (vérifié le 2026-11-16) (en anglais)](https://inference.broadnet.ai/docs?utm_source=broadrouter&utm_medium=referral&utm_campaign=fr-glossary-batch-api&utm_content=sources)
