«Alta disponibilità» è una speranza. Uno SLA è un numero in un contratto, con un rimedio definito quando quel numero non viene raggiunto.
Come funziona
Uno SLA definisce quattro cose: cosa è coperto, come si misura il downtime, cosa ottieni quando l’obiettivo non viene rispettato e come fare reclamo. Lo SLA di Google per l’API di inferenza online di Gemini sulla sua Gemini Enterprise Agent Platform è un esempio reale e chiaro:
- Obiettivo. 99,5% di Monthly Uptime Percentage per i metodi
generateContentestreamGenerateContent(95% per i modelli designati per una disponibilità più breve). - Downtime. “more than a five percent Error Rate” (traduzione: un Error Rate superiore al cinque per cento), dove gli errori sono risposte HTTP 5XX a richieste valide, contati solo in periodi di “five or more consecutive minutes” (traduzione: cinque o più minuti consecutivi).
- Crediti.
| Uptime mensile | Credito sulla fattura mensile del servizio |
|---|---|
| Dal 99,0% a meno del 99,5% | 10% |
| Dal 95,0% a meno del 99,0% | 25% |
| Meno del 95,0% | 50% |
- Reclamo. Il cliente “must notify Google technical support within 30 days” (traduzione: deve avvisare il supporto tecnico di Google entro 30 giorni) e fornire file di log che mostrino i periodi di downtime. I crediti hanno un tetto del 50% della fattura mensile del servizio.
- Esclusioni. Non sono coperti le funzionalità pre-GA, il Grounding with Google Search, gli errori del software del cliente, le scadenze più brevi del valore predefinito del server e gli errori di quota.
Lo stesso SLA aggiunge un obiettivo di latenza per alcuni modelli con Provisioned Throughput, misurato in token di output al secondo. Per Azure, Amazon Bedrock, OpenAI, Anthropic e altri a confronto, vedi gli SLA delle API LLM a confronto.
Perché è importante
- Uptime non è throughput. Uno SLA che conta solo gli errori 5XX non dice nulla su rate limit (429) o risposte lente, a meno che non abbia un obiettivo di latenza.
- I crediti sono piccoli. Un credito del 10% raramente copre quanto costa un’interruzione al tuo prodotto. Progetta comunque per i guasti: retry con backoff, timeout e un modello di fallback o un provider alternativo. Vedi la guida a errori e retry.
- Leggi le esclusioni. Lo SLA di Google esclude le funzionalità pre-GA e alcuni servizi indicati per nome; cerca eccezioni simili in qualsiasi SLA.
- Tieni i tuoi log. I reclami richiedono prove. Registra ID delle richieste, timestamp e codici di stato.
Su BroadNet Inference
L’API self-service di BroadNet, sia a pagamento a consumo sia con i piani, non ha SLA. I suoi Termini di servizio (§7.4) dicono: «We aim to keep the API available and publish what we measure, but self-serve has no availability commitment.» (traduzione di BroadRouter: puntiamo a mantenere l’API disponibile e pubblichiamo ciò che misuriamo, ma il self-service non ha alcun impegno di disponibilità.) Aggiungono che «Service levels exist only in a separate written agreement» (traduzione di BroadRouter: i livelli di servizio esistono solo in un accordo scritto separato) e che endpoint privati e capacità riservata seguono quell’accordo. Se ti serve un uptime contrattuale, chiedi a BroadNet un endpoint privato; il nostro articolo sulla pianificazione di un endpoint privato spiega cosa prevedere. Per il self-service, pianifica un fallback: la checklist per scegliere un provider segnala che nella documentazione di BroadNet non abbiamo trovato né SLA, né pagina di stato, né policy di deprecazione.