BroadRouter

SLA des API LLM : ce que promettent Azure, Bedrock, Google et OpenAI

Par l’équipe BroadNet Inference · 7 min de lecture · Publié · Mis à jour

La plupart des API LLM ne promettent aucune disponibilité en paiement à l’usage. Les SLA écrits viennent avec les contrats cloud ou la capacité réservée : Azure Foundry Models et Amazon Bedrock créditent sous 99,9 % de disponibilité mensuelle, l’inférence en ligne Gemini de Google sous 99,5 %, et le Scale Tier d’OpenAI offre 99,9 % aux clients Enterprise. Anthropic (Commercial Terms) et BroadNet (libre-service) n’en prévoient aucun. Le recours est un crédit sur facture.

Cherchez « SLA API LLM » et vous tomberez sur des tableaux qui se contredisent. Cet article laisse ces tableaux de côté et lit la source : la page SLA ou les conditions de chaque fournisseur, consultées le 15 novembre 2026. Pour chacun, nous notons l’objectif de disponibilité, ce qui compte comme panne, le crédit de service, l’éventuel objectif de latence et le niveau couvert. BroadRouter est le site web de BroadNet : BroadNet figure donc dans la liste, et c’est l’un des fournisseurs sans SLA en libre-service.

Que promet réellement un SLA d’API LLM ?

Un SLA est un objectif écrit assorti d’un recours. Il ne maintient pas l’API en marche. Il dit ce qui se passe sur votre facture quand elle tombe. Chaque SLA ci-dessous comporte les mêmes quatre éléments :

  1. Un objectif. En général un pourcentage de disponibilité mensuelle par région, projet ou ressource.
  2. Une définition du temps d’arrêt. Presque toujours uniquement les erreurs serveur : des réponses 500 ou 5XX à des requêtes valides. Une limite de débit 429 n’est pas une panne. Une réponse lente ou fausse non plus.
  3. Un recours. Un pourcentage de la facture du mois pour le service concerné, crédité sur les factures futures et plafonné.
  4. Une procédure de réclamation. Vous demandez le crédit, avec vos propres journaux, dans un délai imparti.

Pour un mois de 30 jours, soit 43 200 minutes, les pourcentages se traduisent ainsi en minutes :

Disponibilité mensuelle Temps d’arrêt permis
99,9 % environ 43 minutes
99,5 % 216 minutes
99,0 % 432 minutes
95,0 % 36 heures

Quelles API LLM publient un SLA ?

Toutes les lignes proviennent de la page du fournisseur lui-même, lue le 15 novembre 2026. « Non trouvé » signifie que la page consultée n’indique aucun SLA ; cela n’exclut pas un contrat privé.

Fournisseur et service Objectif de disponibilité Ce qui compte comme panne Crédits SLA de latence Qui est couvert
Microsoft Azure, Foundry Models (incluant les modèles Azure OpenAI) 99,9 % Requêtes renvoyant un code d’erreur, moyenne par minute 10 % sous 99,9 %, 25 % sous 99 % Oui, pour les déploiements Provisioned Managed et Priority Processing Foundry Models sold by Azure ; niveau Developer exclu
Amazon Bedrock 99,9 % (les crédits commencent en dessous) Requêtes qui renvoient un code d’erreur 500, par intervalle de 5 minutes, par région 10 %, 25 % sous 99,0 %, 100 % sous 95,0 % Aucun dans le SLA Bedrock dans chaque région AWS
Google, API d’inférence en ligne Gemini 99,5 % (95 % pour les modèles à disponibilité plus courte) Plus de 5 % d’erreurs 5XX pendant 5 minutes consécutives ou plus 10 %, 25 % sous 99,0 %, 50 % sous 95,0 % Oui, avec Provisioned Throughput sur l’endpoint global generateContent et streamGenerateContent
OpenAI, Scale Tier 99,9 % Non défini sur la page publique Non indiqué sur la page publique 99 % du temps au-dessus d’un plancher de tokens par seconde par modèle Clients Enterprise, unités de tokens achetées pour au moins 30 jours
OpenAI, paiement à l’usage standard Non trouvé – – – –
API Anthropic Non trouvé ; les conditions disent « as is » et « as available » – – – –
Fireworks AI, Reserved Throughput Conditions de 99,9 % de disponibilité Non indiqué sur la page de prix Non indiqué SLA de débit Capacité réservée uniquement ; dépassement non couvert
Together AI Serverless : aucun indiqué. « Provisioned Throughput: Token-based capacity with SLAs » (traduction : « capacité à base de tokens avec SLA » ; conditions non publiées sur la page) – – – Demander les conditions du SLA aux ventes
BroadNet Inference, libre-service Aucun : « no availability commitment » (aucun engagement de disponibilité) – – – Niveaux de service uniquement dans un accord écrit distinct

En quoi les SLA des hyperscalers diffèrent-ils ?

Microsoft Azure. La page Learn de Microsoft indique que les Foundry Models sold by Azure « include all Azure OpenAI models » (incluent tous les modèles Azure OpenAI) et sont « covered by Azure service-level agreements » (couverts par les SLA Azure). Le SLA consolidé (édition d’octobre 2026) définit un taux d’erreur par minute et le pourcentage de disponibilité comme 100 % moins le taux d’erreur moyen. Les crédits sont de 10 % sous 99,9 % et de 25 % sous 99 %. Ils ne s’appliquent qu’aux Foundry Models sold by Azure, et « The Developer tier of the Foundry Models service is not covered by this SLA. » (traduction : « Le niveau Developer du service Foundry Models n’est pas couvert par ce SLA. ») Pour les déploiements Provisioned Managed et Priority Processing, un second SLA mesure les tokens par seconde par rapport à un objectif par modèle défini dans la documentation produit, avec un crédit de 10 % si le taux d’atteinte passe sous 99 %.

Amazon Bedrock. AWS s’engage à des « commercially reasonable efforts » (efforts commercialement raisonnables) pour respecter le tableau de disponibilité. La disponibilité est « the percentage of Requests processed by Amazon Bedrock that do not fail with Errors » (traduction : « le pourcentage de requêtes traitées par Amazon Bedrock qui n’échouent pas avec des erreurs »), et une erreur est « any Request that returns a 500 error code » (traduction : « toute requête qui renvoie un code d’erreur 500 »). Elle est calculée par région, et les intervalles sans requête comptent comme entièrement disponibles. Les exclusions comprennent des actions du client comme le « scaling of provisioned throughput » (mise à l’échelle du débit provisionné) et un logiciel de modèle provoquant des « repeated model crashes or an inoperable model » (plantages répétés du modèle ou modèle inopérant). Le SLA ne comporte aucun objectif de latence.

Google Cloud. Le SLA de l’inférence en ligne Gemini est le plus strict sur ce qui compte. Une panne suppose plus de 5 % d’erreurs 5XX, sur « five or more consecutive minutes » (cinq minutes consécutives ou plus). Les crédits sont plafonnés à 50 % de la facture du mois pour le service, vous devez prévenir le support dans les 30 jours avec des fichiers journaux, et le SLA est votre « sole and exclusive remedy » (seul et unique recours). Le grounding avec la recherche Google, les erreurs de quota et les délais plus courts que la valeur par défaut du serveur sont exclus. Avec Provisioned Throughput, un SLA de latence couvre certains modèles Gemini 2.5 sur l’endpoint global, mesuré comme le p50 des tokens par seconde par intervalle de 5 minutes. Si vous déployez plutôt votre propre modèle ouvert sur Vertex AI, le SLA distinct de Vertex AI Platform couvre la prédiction en ligne des modèles personnalisés à 99,5 %, mais uniquement « for models deployed on 2 or more nodes » (pour les modèles déployés sur 2 nœuds ou plus).

Et OpenAI et Anthropic en direct ?

OpenAI. La page du Scale Tier indique : « Scale Tier traffic offers a 99.9% uptime SLA and prioritized compute. » (traduction : « Le trafic Scale Tier offre un SLA de disponibilité de 99,9 % et une puissance de calcul prioritaire. ») Son tableau y associe un SLA de latence par modèle, par exemple « 99% > 50 tokens per second » (99 % > 50 tokens par seconde), calculé comme la latence p50 des requêtes par tranche de 5 minutes. La page indique « This offering is available to Enterprise customers » (traduction : « Cette offre est disponible pour les clients Enterprise »), que chaque unité de tokens s’achète « for a minimum of 30 days » (pour 30 jours minimum) et que le Scale Tier couvre les modèles sortis avant GPT-5.6, le Reserved Tier prenant le relais pour les suivants. Nous n’avons trouvé aucun SLA de disponibilité associé à l’usage standard en paiement à l’usage. (openai.com a bloqué notre outil de récupération ; nous avons donc lu la page dans la capture de l’Internet Archive du 7 novembre 2026.)

Anthropic. Les Commercial Terms publiques (en vigueur depuis le 17 juin 2025) ne contiennent ni SLA ni crédits de service. La section L.2 fournit les services « AS IS » et « AS AVAILABLE » (en l’état et selon disponibilité) et exclut toute garantie que l’usage « WILL BE UNINTERRUPTED » (sera ininterrompu). Les accords Enterprise peuvent différer, mais ils ne sont pas publics.

Qu’est-ce qu’un SLA ne vous garantit pas ?

  • La disponibilité elle-même. Un crédit est versé après la panne. Vos utilisateurs l’ont subie quand même.
  • La capacité. La limitation (429) sort de toutes les définitions de disponibilité ci-dessus. Google exclut explicitement les « quotas applied by the system » (quotas appliqués par le système). Voir comment gérer les erreurs 429.
  • La vitesse. Seuls les niveaux provisionnés ou réservés ont un objectif en tokens par seconde. Sur le trafic standard, une réponse lente est une réponse réussie. Les métriques de latence expliquées.
  • La qualité. Une réponse 200 au contenu faux n’est une panne nulle part.
  • Beaucoup d’argent. Les crédits sont une part de la facture mensuelle d’un service, souvent plafonnée, et vous devez les réclamer avec vos propres journaux.

Comment construire sur une API sans SLA ?

La plupart des équipes construisent sur des API en paiement à l’usage sans SLA. Cela fonctionne si l’application s’attend aux pannes :

  1. Fixez des timeouts. Streamez les longues réponses et fixez un timeout client par requête, pour qu’un appel bloqué échoue vite. Guide du streaming.
  2. Réessayez avec backoff et jitter sur les 429 et 5XX, en plafonnant les nouvelles tentatives. Erreurs et nouvelles tentatives.
  3. Gardez un second fournisseur configuré. Avec des API compatibles OpenAI, un secours se résume à une seconde URL de base, une clé et un ID de modèle. Comment basculer entre API LLM.
  4. Journalisez les ID de requête, les horodatages et les codes de statut. Il vous les faut pour toute réclamation au titre d’un SLA, et pour connaître votre vrai taux d’erreur.
  5. Achetez un contrat là où il en faut un. Si la disponibilité est une exigence ferme, utilisez un niveau de fournisseur avec SLA écrit, ou un déploiement privé avec des niveaux de service convenus. Ce qu’il faut prévoir avant un endpoint privé.

La place de BroadNet Inference

BroadRouter est le site web de BroadNet. L’API en libre-service de BroadNet, en paiement à l’usage comme avec les forfaits, n’a pas de SLA. Ses conditions d’utilisation (§7.4) indiquent : « We aim to keep the API available and publish what we measure, but self-serve has no availability commitment. » (traduction : « Nous visons à garder l’API disponible et publions ce que nous mesurons, mais le libre-service n’a aucun engagement de disponibilité. ») Et : « Service levels exist only in a separate written agreement. » (traduction : « Les niveaux de service n’existent que dans un accord écrit distinct. ») Sur ce point, Azure, AWS et Google offrent davantage : un objectif de disponibilité écrit assorti de crédits. Une clé BroadNet en paiement à l’usage autorise 30 requêtes par minute et 4 en cours simultanément. La description que BroadNet donne de son infrastructure de service se trouve dans le matériel GPU et l’approche de service de BroadNet, que nous rapportons comme le récit de BroadNet, pas comme un engagement.

Si votre charge de travail peut tourner avec des nouvelles tentatives et un secours, l’endpoint compatible OpenAI de BroadNet est une URL de base de plus à configurer : https://inference.broadnet.ai/v1. Si vous avez besoin de niveaux de service contractuels, interrogez BroadNet sur un accord écrit avant de vous y fier. Lire la référence de l’API ou créer un compte.

Questions fréquentes

Quel est le SLA d’Azure OpenAI ?

Les modèles Azure OpenAI sont des Foundry Models sold by Azure, que Microsoft déclare couverts par les SLA Azure. Le SLA consolidé d’octobre 2026 accorde aux Foundry Models un crédit de service de 10 % sous 99,9 % de disponibilité mensuelle et de 25 % sous 99 %. Le niveau Developer n’est pas couvert. Les déploiements Provisioned Managed et Priority Processing ajoutent un SLA de latence en tokens par seconde, avec un crédit de 10 % si le taux d’atteinte passe sous 99 %.

L’API OpenAI a-t-elle un SLA de disponibilité ?

OpenAI publie un SLA de disponibilité de 99,9 % et un SLA de latence pour le Scale Tier, qu’il décrit comme « available to Enterprise customers » (disponible pour les clients Enterprise) et vend en unités de tokens pour au moins 30 jours. Pour GPT-5.6 et les modèles ultérieurs, il renvoie au Reserved Tier. Nous n’avons trouvé aucun SLA de disponibilité pour l’usage standard de l’API en paiement à l’usage.

Quel est le SLA d’Amazon Bedrock ?

AWS crédite 10 % des frais Bedrock de la région quand la disponibilité mensuelle passe sous 99,9 %, 25 % sous 99,0 % et 100 % sous 95,0 %. La disponibilité est mesurée par région sur des intervalles de 5 minutes, et une erreur est une requête qui renvoie un code d’erreur 500.

Anthropic propose-t-il un SLA pour l’API Claude ?

Pas dans ses Commercial Terms publiques. Celles-ci fournissent les services « as is » et « as available » et excluent toute garantie d’usage ininterrompu. Les contrats Enterprise négociés ne sont pas publics : demandez donc à Anthropic, ou utilisez Claude via un cloud dont le SLA le couvre.

Combien de temps d’arrêt permet une disponibilité de 99,9 % ?

Environ 43 minutes sur un mois de 30 jours : 0,1 % de 43 200 minutes. 99,5 % permet 216 minutes et 99 % permet 432 minutes. La façon de mesurer le temps d’arrêt compte autant que le pourcentage.

BroadNet Inference a-t-il un SLA ?

Pas en libre-service. Les conditions de BroadNet indiquent « self-serve has no availability commitment » (le libre-service n’a aucun engagement de disponibilité) et « Service levels exist only in a separate written agreement » (les niveaux de service n’existent que dans un accord écrit distinct), par exemple pour un endpoint privé.

Lire en MarkdownDemander à ChatGPTDemander à ClaudeDemander à Perplexity

Sources