BroadRouter

Limites de débit des API LLM par fournisseur : RPM, TPM, simultanéité

Par l’équipe BroadNet Inference · 8 min de lecture · Publié · Mis à jour

Les limites de débit des API LLM diffèrent par leur nature, pas seulement par leur taille. OpenAI, Anthropic et Gemini plafonnent les requêtes et les tokens par minute selon le niveau d’usage. DeepSeek et DeepInfra plafonnent les requêtes simultanées. Les offres gratuites de Groq et Cerebras ajoutent des plafonds journaliers. Aux premiers niveaux payants, OpenAI et Anthropic autorisent des milliers de requêtes par minute ; les clés BroadNet à l’usage en autorisent 30.

Cherchez « limites de débit API LLM » et vous trouverez des tableaux de blog qui se contredisent, souvent parce qu’ils recopient d’anciens chiffres. Cette page relève chaque valeur dans la documentation du fournisseur lui-même le 15 novembre 2026, précise le niveau et le modèle concernés, et laisse la case vide quand le fournisseur ne publie rien. Les mêmes données sous forme de jeu de données téléchargeable, avec les crédits gratuits et les conditions d’usage des données, sont dans Offres gratuites et limites de débit des API LLM. BroadRouter est le site de BroadNet, et les limites de BroadNet figurent aussi dans le tableau.

Que signifient RPM, TPM, RPD et simultanéité ?

Une limite de débit plafonne ce que vous pouvez envoyer sur une fenêtre de temps. Les fournisseurs comptent des choses différentes :

Limite Ce qu’elle compte Pénalise surtout quand
RPM, requêtes par minute Requêtes lancées en une minute Vous envoyez beaucoup d’appels courts (classification, boucles façon embeddings)
RPS, requêtes par seconde La même chose, sur une seconde Vous envoyez des rafales, même si la moyenne par minute est basse
TPM, tokens par minute Tokens traités en une minute, parfois entrée (ITPM) et sortie (OTPM) séparément Vous envoyez des prompts longs ou de longs documents
RPD / TPD, par jour Requêtes ou tokens sur une journée Vous lancez un traitement par lots sur une offre gratuite
Simultanéité Requêtes en cours au même instant Les requêtes sont lentes : raisonnement, longues sorties, agents

Celle qui vous bloque dépend de la forme de vos requêtes. Avec une limite de simultanéité, le débit dépend de la durée des requêtes : la documentation de DeepInfra donne l’exemple de 200 requêtes simultanées d’une seconde en moyenne, soit environ 12 000 RPM. Une requête de raisonnement de 30 secondes à la même simultanéité n’en donne qu’une fraction.

La plupart des fournisseurs appliquent aussi leurs limites sur des fenêtres plus courtes que celles qu’ils publient. Anthropic indique qu’une limite de 60 RPM « might be enforced as 1 request per second » (traduction : « peut être appliquée sous la forme d’une requête par seconde »), et xAI déduit sa limite par seconde du budget par minute (« RPM / 48, with a minimum of 2 » ; traduction : « RPM / 48, avec un minimum de 2 »).

Comment fonctionnent les niveaux d’usage ?

Les grands fournisseurs de modèles fermés relèvent vos limites à mesure que vous dépensez :

Fournisseur Niveaux (vérifiés le 2026-11-15) Comment monter
OpenAI Free, Build, Launch, Grow Free : l’utilisateur doit se trouver dans une zone géographique autorisée ; limite d’usage mensuelle de 100 USD (un plafond de dépense, pas un crédit). Ensuite, achats de crédit cumulés de 5 USD, 100 USD et 500 USD, avec des limites d’usage mensuelles de 500 USD, 5 000 USD et 200 000 USD
Anthropic Evaluation, Start, Build, Scale, Custom Automatique, selon l’historique d’usage et la situation du compte. Plafonds de dépense mensuels : Start 500 USD, Build 1 000 USD, Scale 200 000 USD
API Google Gemini Free, Tier 1, Tier 2, Tier 3 Le Tier 1 exige un compte de facturation associé ; le Tier 2, un paiement de 100 USD plus 3 jours ; le Tier 3, 1 000 USD plus 30 jours. Google qualifie les limites indiquées de « not guaranteed » (traduction : « non garanties ») et n’offre « no guarantees » (traduction : « aucune garantie ») sur les demandes d’augmentation
Fireworks AI Tier 1 à Tier 4 Moyen de paiement pour le Tier 1, puis 50 USD, 500 USD et 5 000 USD de dépense ou de crédits. Les niveaux relèvent le TPM, pas le RPM
xAI Tier 0 à Tier 4, Enterprise Dépense cumulée depuis le 1er janvier 2026 : 0, 50, 250, 1 000 et 5 000 USD

Deux détails comptent en pratique. Le plafond de dépense d’Anthropic renvoie HTTP 429 sans en-tête retry-after lorsqu’il est atteint : les relances automatiques échouent donc jusqu’à la réinitialisation du mois ou un changement de niveau. Et la limite d’entrée d’Anthropic ne compte que l’entrée hors cache : les lectures en cache ne comptent pas, donc un taux de cache élevé augmente votre débit réel.

Limites de débit des API LLM par fournisseur : le niveau d’entrée

Valeurs de l’offre gratuite ou du premier niveau payant de chaque fournisseur, tirées de sa propre page sur les limites. Un tiret signifie que la page ne publie aucun chiffre pour cette limite ; il ne signifie pas « illimité ».

Fournisseur Niveau et modèle RPM TPM Par jour Simultanéité
OpenAI Build ; Astra, Sol, Terra 5 000 1 000 000 – –
OpenAI Build ; Luna 5 000 2 000 000 – –
Anthropic Start ; Sonnet 5.5, Opus 5.5, Haiku 5.5 4 000 2 000 000 en entrée (hors cache), 400 000 en sortie – –
API Google Gemini Free ; Gemini Decision 1 (seul modèle avec des chiffres gratuits sur la page) 200 50 000 10 000 requêtes –
API Google Gemini Tier 1 ; Gemini Decision 1 1 500 1 000 000 50 000 requêtes –
Groq Tableau du Free Plan ; openai/gpt-oss-120b, qwen/qwen3.8-27b 30 8 000 1 000 requêtes, 200 000 tokens –
Groq Tableau du Developer Plan ; openai/gpt-oss-120b, qwen/qwen3.8-27b 1 000 250 000 500 000 requêtes –
Cerebras Free Trial ; gpt-oss-120b 5 30 000 hors cache (90 000 au total) 1 000 000 tokens –
Cerebras Developer (paiement à l’usage) ; gpt-oss-120b 1 000 500 000 hors cache (1 500 000 au total) Pas de plafond –
Fireworks AI Sans moyen de paiement ni crédits ; tout le compte 10 – – –
Fireworks AI Avec moyen de paiement et crédits ; tout le compte 6 000 Fixé par le niveau de dépense – –
DeepInfra Par défaut ; par modèle public – – – 200
DeepSeek Par défaut ; deepseek-flash (DeepSeek-V4.1-Flash-1017), par compte – – – 2 500
DeepSeek Par défaut ; deepseek-v4-pro (DeepSeek-V4-Pro-0813), par compte – – – 500
xAI Tier 0 ; grok-4.7 (150 RPS) – 50 000 000 – –
OpenRouter Modèles :free, moins de 10 USD de crédits achetés 20 – 50 requêtes –
OpenRouter Modèles :free, 10 USD de crédits achetés ou plus 20 – 1 000 requêtes –
Cohere Clé d’essai ; Command A 20 – 1 000 appels par mois –
Cohere Clé de production ; Command A 500 – – –
BroadNet Inference Clé à l’usage ; tout modèle 30 – – 4
BroadNet Inference Clé horaire ; Gemma 4 VL 26B 120 300,000 – 1 flux
BroadNet Inference Session de forfait ; DeepSeek V4.1 Flash – Pas de compteur de tokens – 1 requête à la fois

Remarques sur les lignes :

  • Groq. La page comporte deux onglets, « Free Plan Limits » (ouvert par défaut) et « Developer Plan Limits ». La phrase au-dessus présente les chiffres comme « the base limits for the Developer plan » (traduction : « les limites de base du forfait Developer »), ce qui ne vaut que pour le second onglet ; le tableau ci-dessus donne les deux. Les limites exactes de votre organisation figurent sur sa page des limites.
  • Google. Les limites s’appliquent par projet, pas par clé d’API. Les chiffres de la plupart des modèles n’apparaissent que dans AI Studio. Gemini Decision 1 est un modèle de classification pour la Decisions API de Google : il renvoie des probabilités, pas du texte, donc ses limites disent peu de chose des modèles de chat Gemini.
  • Mistral et Together AI ne publient pas de chiffres. Mistral affiche vos limites dans sa console au lieu de publier un tableau, et n’offre pas d’accès gratuit à l’API (« It doesn’t include API access » ; traduction : « Elle n’inclut pas l’accès à l’API »). Together indique qu’il « may limit requests » (traduction : « peut limiter les requêtes ») en cas de forte demande et peut fixer des limites spécifiques sur les modèles populaires.
  • OpenRouter. Les variantes payantes des modèles n’ont « no platform-level request cap » (traduction : « aucun plafond de requêtes au niveau de la plateforme »), mais les fournisseurs derrière chaque modèle ont toujours leurs propres limites.
  • DeepSeek. En période de charge, DeepSeek garde la connexion ouverte avec des lignes vides ou des commentaires : keep-alive, et la ferme si l’inférence n’a pas commencé dans les 10 minutes. Réglez le timeout de votre client en conséquence.

Comment se situent honnêtement les limites de BroadNet ?

Elles sont basses pour un travail à fort volume. Une clé BroadNet à l’usage autorise 30 requêtes par minute et 4 en cours, alors que les premiers niveaux payants d’OpenAI et d’Anthropic autorisent des milliers de requêtes par minute et que Fireworks en autorise 6 000 dès qu’une carte est enregistrée. Si vous devez faire passer des milliers de requêtes courtes par minute par une seule clé, le niveau payant d’un grand fournisseur convient mieux.

Ces limites conviennent à d’autres profils :

  • Agents et chat. Un agent envoie une requête à la fois et attend. 4 requêtes en cours suffisent pour quelques agents par clé ; une clé par application ou par membre de l’équipe répartit la charge.
  • Forfaits. Une session Full Moon, Orbit ou Meteor n’a ni compteur de tokens ni plafond journalier ou hebdomadaire, mais traite une requête à la fois, à une vitesse typique de environ 100 tokens par seconde. Pour faire tourner des agents en parallèle, achetez une session par agent. Combien de sessions il vous faut.
  • Clé horaire. Pour $0.50 de l’heure, vous obtenez un flux Gemma 4 VL 26B à 120 requêtes et 300,000 tokens par minute.

Toutes les limites de BroadNet renvoient HTTP 429. La référence de l’API ne donne pas de délai retry-after : utilisez un backoff borné avec jitter.

Comment planifier autour d’une limite de débit ?

  1. Trouvez votre limite contraignante. Calculez les requêtes par minute, les tokens par minute et les requêtes en cours de votre trafic de pointe. Le calculateur de limites de débit LLM le fait à partir de la taille des requêtes et de la latence.
  2. Régulez côté client. Un token bucket calé sur la limite publiée évite la plupart des 429. Anthropic utilise le même algorithme côté serveur.
  3. Lisez les en-têtes. Anthropic renvoie des en-têtes anthropic-ratelimit-* ; Groq renvoie des en-têtes x-ratelimit-*, dont l’en-tête des requêtes « always refers to Requests Per Day » (traduction : « désigne toujours les requêtes par jour »). Utilisez retry-after lorsqu’il est présent.
  4. Relancez avec backoff et jitter, et plafonnez les relances. Gérer les erreurs 429 contient du code fonctionnel, et erreurs et relances couvre les codes de statut de BroadNet.
  5. Mettez en cache les préfixes stables. Chez Anthropic, l’entrée en cache ne compte pas dans la limite d’entrée. Partout, elle réduit le coût.
  6. Étalez les traitements de masse. Anthropic applique aussi des limites de montée en charge : un pic soudain de trafic peut renvoyer 429 sous votre limite. Démarrez les traitements par lots progressivement. Sans Batch API, un exécuteur de lots reprenable maintient un traitement dans ses limites.
  7. Demandez davantage. DeepSeek, DeepInfra, Mistral et Anthropic décrivent tous une procédure pour obtenir des limites plus élevées.

Où se situe BroadNet Inference

BroadRouter est le site de BroadNet : pesez cette section en conséquence. BroadNet Inference n’est pas la solution pour des débits de requêtes très élevés sur une seule clé : ses limites publiées par clé sont bien inférieures aux niveaux payants d’OpenAI, d’Anthropic, de Fireworks ou de Cerebras. Il convient aux charges d’agents et de chat qui envoient quelques requêtes à la fois, surtout avec un forfait, où un agent très actif n’a ni compteur de tokens ni plafond journalier. Les nouveaux comptes reçoivent un crédit de départ de $5 pour Gemma 4 VL 26B, les deux modèles de transcription et les clés horaires Gemma ; DeepSeek, GLM et Qwen nécessitent une recharge. L’offre en libre-service n’a pas de SLA. Lire les limites de l’API ou comparer les forfaits.

Questions fréquentes

Quelles sont les limites de débit de l’API OpenAI au premier niveau payant ?

D’après le guide des limites de débit d’OpenAI (vérifié le 15 novembre 2026), le niveau Build s’obtient avec 5 USD d’achats de crédit cumulés, avec une limite d’usage mensuelle de 500 USD. Build autorise 5 000 RPM et 1 000 000 TPM sur Astra, Sol et Terra, et 5 000 RPM et 2 000 000 TPM sur Luna. Les limites s’appliquent par organisation et par projet.

Quelles sont les limites de débit de l’API Anthropic ?

Au niveau Start, Claude Sonnet 5.5, Opus 5.5 et Haiku 5.5 autorisent chacun 4 000 RPM, 2 000 000 tokens d’entrée par minute et 400 000 tokens de sortie par minute (vérifié le 15 novembre 2026). Seule l’entrée hors cache compte dans la limite d’entrée. Les nouvelles organisations peuvent démarrer à un niveau Evaluation inférieur.

Quelles sont les limites gratuites de Groq ?

Le tableau publié par Groq (vérifié le 15 novembre 2026) indique 30 requêtes par minute, 1 000 requêtes par jour, 8 000 tokens par minute et 200 000 tokens par jour pour openai/gpt-oss-120b et qwen/qwen3.8-27b. Groq précise que les limites exactes de votre organisation figurent sur sa page des limites. Son tableau du Developer Plan indique 1 000 requêtes par minute, 500 000 requêtes par jour et 250 000 tokens par minute pour les mêmes modèles.

L’API DeepSeek a-t-elle des limites de débit ?

Oui, sous forme de simultanéité. DeepSeek autorise 2 500 requêtes simultanées par compte sur deepseek-flash et 500 sur deepseek-v4-pro, et renvoie HTTP 429 au-delà. Des limites plus élevées sont disponibles sur demande, sans surcoût (vérifié le 15 novembre 2026).

Quelle différence entre RPM, TPM et simultanéité ?

Le RPM compte les requêtes lancées par minute. Le TPM compte les tokens traités par minute, parfois en séparant entrée et sortie. La simultanéité compte les requêtes en cours au même instant : les requêtes longues l’épuisent donc même avec un RPM faible.

Quelles sont les limites de débit de BroadNet Inference ?

Une clé à l’usage autorise 30 requêtes par minute et 4 en cours. Une clé horaire autorise 120 requêtes par minute, 300,000 tokens par minute et 1 flux sur Gemma 4 VL 26B. Une session de forfait traite une requête à la fois. Toutes renvoient HTTP 429 en cas de dépassement.

Lire en MarkdownDemander à ChatGPTDemander à ClaudeDemander à Perplexity