Cherchez « SLA API LLM » et vous tomberez sur des tableaux qui se contredisent. Cet article laisse ces tableaux de côté et lit la source : la page SLA ou les conditions de chaque fournisseur, consultées le 15 novembre 2026. Pour chacun, nous notons l’objectif de disponibilité, ce qui compte comme panne, le crédit de service, l’éventuel objectif de latence et le niveau couvert. BroadRouter est le site web de BroadNet : BroadNet figure donc dans la liste, et c’est l’un des fournisseurs sans SLA en libre-service.
Que promet réellement un SLA d’API LLM ?
Un SLA est un objectif écrit assorti d’un recours. Il ne maintient pas l’API en marche. Il dit ce qui se passe sur votre facture quand elle tombe. Chaque SLA ci-dessous comporte les mêmes quatre éléments :
- Un objectif. En général un pourcentage de disponibilité mensuelle par région, projet ou ressource.
- Une définition du temps d’arrêt. Presque toujours uniquement les erreurs serveur : des réponses 500 ou 5XX à des requêtes valides. Une limite de débit 429 n’est pas une panne. Une réponse lente ou fausse non plus.
- Un recours. Un pourcentage de la facture du mois pour le service concerné, crédité sur les factures futures et plafonné.
- Une procédure de réclamation. Vous demandez le crédit, avec vos propres journaux, dans un délai imparti.
Pour un mois de 30 jours, soit 43 200 minutes, les pourcentages se traduisent ainsi en minutes :
| Disponibilité mensuelle | Temps d’arrêt permis |
|---|---|
| 99,9 % | environ 43 minutes |
| 99,5 % | 216 minutes |
| 99,0 % | 432 minutes |
| 95,0 % | 36 heures |
Quelles API LLM publient un SLA ?
Toutes les lignes proviennent de la page du fournisseur lui-même, lue le 15 novembre 2026. « Non trouvé » signifie que la page consultée n’indique aucun SLA ; cela n’exclut pas un contrat privé.
| Fournisseur et service | Objectif de disponibilité | Ce qui compte comme panne | Crédits | SLA de latence | Qui est couvert |
|---|---|---|---|---|---|
| Microsoft Azure, Foundry Models (incluant les modèles Azure OpenAI) | 99,9 % | Requêtes renvoyant un code d’erreur, moyenne par minute | 10 % sous 99,9 %, 25 % sous 99 % | Oui, pour les déploiements Provisioned Managed et Priority Processing | Foundry Models sold by Azure ; niveau Developer exclu |
| Amazon Bedrock | 99,9 % (les crédits commencent en dessous) | Requêtes qui renvoient un code d’erreur 500, par intervalle de 5 minutes, par région | 10 %, 25 % sous 99,0 %, 100 % sous 95,0 % | Aucun dans le SLA | Bedrock dans chaque région AWS |
| Google, API d’inférence en ligne Gemini | 99,5 % (95 % pour les modèles à disponibilité plus courte) | Plus de 5 % d’erreurs 5XX pendant 5 minutes consécutives ou plus | 10 %, 25 % sous 99,0 %, 50 % sous 95,0 % | Oui, avec Provisioned Throughput sur l’endpoint global | generateContent et streamGenerateContent |
| OpenAI, Scale Tier | 99,9 % | Non défini sur la page publique | Non indiqué sur la page publique | 99 % du temps au-dessus d’un plancher de tokens par seconde par modèle | Clients Enterprise, unités de tokens achetées pour au moins 30 jours |
| OpenAI, paiement à l’usage standard | Non trouvé | – | – | – | – |
| API Anthropic | Non trouvé ; les conditions disent « as is » et « as available » | – | – | – | – |
| Fireworks AI, Reserved Throughput | Conditions de 99,9 % de disponibilité | Non indiqué sur la page de prix | Non indiqué | SLA de débit | Capacité réservée uniquement ; dépassement non couvert |
| Together AI | Serverless : aucun indiqué. « Provisioned Throughput: Token-based capacity with SLAs » (traduction : « capacité à base de tokens avec SLA » ; conditions non publiées sur la page) | – | – | – | Demander les conditions du SLA aux ventes |
| BroadNet Inference, libre-service | Aucun : « no availability commitment » (aucun engagement de disponibilité) | – | – | – | Niveaux de service uniquement dans un accord écrit distinct |
En quoi les SLA des hyperscalers diffèrent-ils ?
Microsoft Azure. La page Learn de Microsoft indique que les Foundry Models sold by Azure « include all Azure OpenAI models » (incluent tous les modèles Azure OpenAI) et sont « covered by Azure service-level agreements » (couverts par les SLA Azure). Le SLA consolidé (édition d’octobre 2026) définit un taux d’erreur par minute et le pourcentage de disponibilité comme 100 % moins le taux d’erreur moyen. Les crédits sont de 10 % sous 99,9 % et de 25 % sous 99 %. Ils ne s’appliquent qu’aux Foundry Models sold by Azure, et « The Developer tier of the Foundry Models service is not covered by this SLA. » (traduction : « Le niveau Developer du service Foundry Models n’est pas couvert par ce SLA. ») Pour les déploiements Provisioned Managed et Priority Processing, un second SLA mesure les tokens par seconde par rapport à un objectif par modèle défini dans la documentation produit, avec un crédit de 10 % si le taux d’atteinte passe sous 99 %.
Amazon Bedrock. AWS s’engage à des « commercially reasonable efforts » (efforts commercialement raisonnables) pour respecter le tableau de disponibilité. La disponibilité est « the percentage of Requests processed by Amazon Bedrock that do not fail with Errors » (traduction : « le pourcentage de requêtes traitées par Amazon Bedrock qui n’échouent pas avec des erreurs »), et une erreur est « any Request that returns a 500 error code » (traduction : « toute requête qui renvoie un code d’erreur 500 »). Elle est calculée par région, et les intervalles sans requête comptent comme entièrement disponibles. Les exclusions comprennent des actions du client comme le « scaling of provisioned throughput » (mise à l’échelle du débit provisionné) et un logiciel de modèle provoquant des « repeated model crashes or an inoperable model » (plantages répétés du modèle ou modèle inopérant). Le SLA ne comporte aucun objectif de latence.
Google Cloud. Le SLA de l’inférence en ligne Gemini est le plus strict sur ce qui compte. Une panne suppose plus de 5 % d’erreurs 5XX, sur « five or more consecutive minutes » (cinq minutes consécutives ou plus). Les crédits sont plafonnés à 50 % de la facture du mois pour le service, vous devez prévenir le support dans les 30 jours avec des fichiers journaux, et le SLA est votre « sole and exclusive remedy » (seul et unique recours). Le grounding avec la recherche Google, les erreurs de quota et les délais plus courts que la valeur par défaut du serveur sont exclus. Avec Provisioned Throughput, un SLA de latence couvre certains modèles Gemini 2.5 sur l’endpoint global, mesuré comme le p50 des tokens par seconde par intervalle de 5 minutes. Si vous déployez plutôt votre propre modèle ouvert sur Vertex AI, le SLA distinct de Vertex AI Platform couvre la prédiction en ligne des modèles personnalisés à 99,5 %, mais uniquement « for models deployed on 2 or more nodes » (pour les modèles déployés sur 2 nœuds ou plus).
Et OpenAI et Anthropic en direct ?
OpenAI. La page du Scale Tier indique : « Scale Tier traffic offers a 99.9% uptime SLA and prioritized compute. » (traduction : « Le trafic Scale Tier offre un SLA de disponibilité de 99,9 % et une puissance de calcul prioritaire. ») Son tableau y associe un SLA de latence par modèle, par exemple « 99% > 50 tokens per second » (99 % > 50 tokens par seconde), calculé comme la latence p50 des requêtes par tranche de 5 minutes. La page indique « This offering is available to Enterprise customers » (traduction : « Cette offre est disponible pour les clients Enterprise »), que chaque unité de tokens s’achète « for a minimum of 30 days » (pour 30 jours minimum) et que le Scale Tier couvre les modèles sortis avant GPT-5.6, le Reserved Tier prenant le relais pour les suivants. Nous n’avons trouvé aucun SLA de disponibilité associé à l’usage standard en paiement à l’usage. (openai.com a bloqué notre outil de récupération ; nous avons donc lu la page dans la capture de l’Internet Archive du 7 novembre 2026.)
Anthropic. Les Commercial Terms publiques (en vigueur depuis le 17 juin 2025) ne contiennent ni SLA ni crédits de service. La section L.2 fournit les services « AS IS » et « AS AVAILABLE » (en l’état et selon disponibilité) et exclut toute garantie que l’usage « WILL BE UNINTERRUPTED » (sera ininterrompu). Les accords Enterprise peuvent différer, mais ils ne sont pas publics.
Qu’est-ce qu’un SLA ne vous garantit pas ?
- La disponibilité elle-même. Un crédit est versé après la panne. Vos utilisateurs l’ont subie quand même.
- La capacité. La limitation (429) sort de toutes les définitions de disponibilité ci-dessus. Google exclut explicitement les « quotas applied by the system » (quotas appliqués par le système). Voir comment gérer les erreurs 429.
- La vitesse. Seuls les niveaux provisionnés ou réservés ont un objectif en tokens par seconde. Sur le trafic standard, une réponse lente est une réponse réussie. Les métriques de latence expliquées.
- La qualité. Une réponse 200 au contenu faux n’est une panne nulle part.
- Beaucoup d’argent. Les crédits sont une part de la facture mensuelle d’un service, souvent plafonnée, et vous devez les réclamer avec vos propres journaux.
Comment construire sur une API sans SLA ?
La plupart des équipes construisent sur des API en paiement à l’usage sans SLA. Cela fonctionne si l’application s’attend aux pannes :
- Fixez des timeouts. Streamez les longues réponses et fixez un timeout client par requête, pour qu’un appel bloqué échoue vite. Guide du streaming.
- Réessayez avec backoff et jitter sur les 429 et 5XX, en plafonnant les nouvelles tentatives. Erreurs et nouvelles tentatives.
- Gardez un second fournisseur configuré. Avec des API compatibles OpenAI, un secours se résume à une seconde URL de base, une clé et un ID de modèle. Comment basculer entre API LLM.
- Journalisez les ID de requête, les horodatages et les codes de statut. Il vous les faut pour toute réclamation au titre d’un SLA, et pour connaître votre vrai taux d’erreur.
- Achetez un contrat là où il en faut un. Si la disponibilité est une exigence ferme, utilisez un niveau de fournisseur avec SLA écrit, ou un déploiement privé avec des niveaux de service convenus. Ce qu’il faut prévoir avant un endpoint privé.
La place de BroadNet Inference
BroadRouter est le site web de BroadNet. L’API en libre-service de BroadNet, en paiement à l’usage comme avec les forfaits, n’a pas de SLA. Ses conditions d’utilisation (§7.4) indiquent : « We aim to keep the API available and publish what we measure, but self-serve has no availability commitment. » (traduction : « Nous visons à garder l’API disponible et publions ce que nous mesurons, mais le libre-service n’a aucun engagement de disponibilité. ») Et : « Service levels exist only in a separate written agreement. » (traduction : « Les niveaux de service n’existent que dans un accord écrit distinct. ») Sur ce point, Azure, AWS et Google offrent davantage : un objectif de disponibilité écrit assorti de crédits. Une clé BroadNet en paiement à l’usage autorise 30 requêtes par minute et 4 en cours simultanément. La description que BroadNet donne de son infrastructure de service se trouve dans le matériel GPU et l’approche de service de BroadNet, que nous rapportons comme le récit de BroadNet, pas comme un engagement.
Si votre charge de travail peut tourner avec des nouvelles tentatives et un secours, l’endpoint compatible OpenAI de BroadNet est une URL de base de plus à configurer : https://inference.broadnet.ai/v1. Si vous avez besoin de niveaux de service contractuels, interrogez BroadNet sur un accord écrit avant de vous y fier. Lire la référence de l’API ou créer un compte.
