« Hautement disponible » est un espoir. Un SLA est un chiffre dans un contrat, avec une compensation définie quand ce chiffre n’est pas tenu.
Comment ça marche
Un SLA définit quatre choses : ce qui est couvert, comment l’indisponibilité est mesurée, ce que vous obtenez si l’objectif est manqué, et comment réclamer. Le SLA de Google pour l’API d’inférence en ligne Gemini sur sa Gemini Enterprise Agent Platform en est un exemple réel et clair :
- Objectif. 99,5 % de Monthly Uptime Percentage pour les méthodes
generateContentetstreamGenerateContent(95 % pour les modèles désignés pour une disponibilité plus courte). - Indisponibilité. « more than a five percent Error Rate » (traduction : « un taux d’erreur supérieur à cinq pour cent »), les erreurs étant des réponses HTTP 5XX à des requêtes valides, comptées uniquement sur des périodes de « five or more consecutive minutes » (traduction : « cinq minutes consécutives ou plus »).
- Crédits.
| Disponibilité mensuelle | Crédit sur la facture mensuelle du service |
|---|---|
| 99,0 % à moins de 99,5 % | 10 % |
| 95,0 % à moins de 99,0 % | 25 % |
| Moins de 95,0 % | 50 % |
- Réclamation. Le client « must notify Google technical support within 30 days » (traduction : « doit prévenir le support technique de Google dans les 30 jours ») et fournir des fichiers de logs montrant les périodes d’indisponibilité. Les crédits sont plafonnés à 50 % de la facture du mois pour le service.
- Exclusions. Ne sont pas couverts : les fonctionnalités pré-GA, Grounding with Google Search, les erreurs dues au logiciel du client, les délais plus courts que la valeur par défaut du serveur et les erreurs de quota.
Le même SLA ajoute un objectif de latence pour certains modèles sous Provisioned Throughput, mesuré en tokens de sortie par seconde. Pour Azure, Amazon Bedrock, OpenAI, Anthropic et d’autres côte à côte, voir les SLA des API LLM comparés.
Pourquoi c’est important
- Disponibilité n’est pas débit. Un SLA qui ne compte que les erreurs 5XX ne dit rien des rate limits (429) ni des réponses lentes, sauf s’il comporte un objectif de latence.
- Les crédits sont faibles. Un crédit de 10 % couvre rarement ce qu’une panne coûte à votre produit. Prévoyez la défaillance quoi qu’il arrive : retries avec backoff, timeouts et un modèle de repli ou un autre fournisseur. Voir le guide des erreurs et retries.
- Lisez les exclusions. Le SLA de Google exclut les fonctionnalités pré-GA et des services nommés ; cherchez des exceptions similaires dans tout SLA.
- Gardez vos propres logs. Une réclamation exige des preuves. Journalisez les ID de requête, les horodatages et les codes de statut.
Sur BroadNet Inference
L’API en libre-service de BroadNet, en paiement à l’usage comme en forfait, n’a pas de SLA. Ses conditions d’utilisation (§7.4) disent : « We aim to keep the API available and publish what we measure, but self-serve has no availability commitment. » (traduction : « Nous nous efforçons de garder l’API disponible et publions ce que nous mesurons, mais le libre-service n’a aucun engagement de disponibilité. ») Elles ajoutent que « Service levels exist only in a separate written agreement » (traduction : « des niveaux de service n’existent que dans un accord écrit distinct ») et que les endpoints privés et la capacité réservée relèvent de cet accord. Si vous avez besoin d’une disponibilité contractuelle, interrogez BroadNet sur un endpoint privé ; notre article sur la planification d’un endpoint privé détaille ce qu’il faut prévoir. En libre-service, prévoyez un repli : la checklist de choix d’un fournisseur note que nous n’avons trouvé ni SLA, ni page de statut, ni politique de dépréciation dans la documentation de BroadNet.