“Alta disponibilidad” es un deseo. Un SLA es un número en un contrato, con una compensación definida cuando ese número no se cumple.
Cómo funciona
Un SLA define cuatro cosas: qué cubre, cómo se mide la caída, qué recibe usted cuando no se alcanza el objetivo y cómo reclamarlo. El SLA de Google para la API de inferencia en línea de Gemini en su Gemini Enterprise Agent Platform es un ejemplo real claro:
- Objetivo. 99.5 % de Monthly Uptime Percentage para los métodos
generateContentystreamGenerateContent(95 % para modelos designados con disponibilidad más corta). - Caída. “more than a five percent Error Rate” (traducción: una tasa de errores superior al cinco por ciento), donde los errores son respuestas HTTP 5XX a solicitudes válidas, contadas solo en periodos de “five or more consecutive minutes” (traducción: cinco o más minutos consecutivos).
- Créditos.
| Uptime mensual | Crédito sobre la factura mensual del servicio |
|---|---|
| De 99.0 % a menos de 99.5 % | 10 % |
| De 95.0 % a menos de 99.0 % | 25 % |
| Menos de 95.0 % | 50 % |
- Reclamación. El cliente “must notify Google technical support within 30 days” (traducción: debe notificar al soporte técnico de Google en un plazo de 30 días) y aportar archivos de log que muestren los periodos de caída. Los créditos tienen un tope del 50 % de la factura del mes por el servicio.
- Exclusiones. No se cubren las funciones previas a GA, Grounding with Google Search, los errores del propio software del cliente, los plazos más cortos que el valor predeterminado del servidor ni los errores de cuota.
El mismo SLA añade un objetivo de latencia para algunos modelos con Provisioned Throughput, medido en tokens de salida por segundo. Para comparar Azure, Amazon Bedrock, OpenAI, Anthropic y otros lado a lado, vea SLA de APIs de LLM comparados.
Por qué importa
- Uptime no es capacidad. Un SLA que solo cuenta errores 5XX no dice nada sobre límites de frecuencia (429) ni sobre respuestas lentas, salvo que tenga un objetivo de latencia.
- Los créditos son pequeños. Un crédito del 10 % rara vez iguala lo que una caída le cuesta a su producto. Diseñe para el fallo de todos modos: reintentos con backoff, timeouts y un modelo de respaldo o proveedor alternativo. Vea la guía de errores y reintentos.
- Lea las exclusiones. El SLA de Google excluye funciones previas a GA y servicios concretos; busque excepciones similares en cualquier SLA.
- Conserve sus propios logs. Las reclamaciones requieren pruebas. Registre los IDs de solicitud, las marcas de tiempo y los códigos de estado.
En BroadNet Inference
La API de autoservicio de BroadNet, tanto de pago por uso como con planes, no tiene SLA. Sus Términos del servicio (§7.4) dicen: “We aim to keep the API available and publish what we measure, but self-serve has no availability commitment.” (traducción: Procuramos mantener la API disponible y publicamos lo que medimos, pero el autoservicio no tiene compromiso de disponibilidad.) Añaden que “Service levels exist only in a separate written agreement” (traducción: los niveles de servicio solo existen en un acuerdo escrito aparte) y que los endpoints privados y la capacidad reservada siguen ese acuerdo. Si necesita disponibilidad contractual, pregunte a BroadNet por un endpoint privado; nuestro artículo sobre la planificación de un endpoint privado explica qué prever. En autoservicio, planifique un respaldo: la lista de verificación para elegir proveedor indica que no encontramos en la documentación de BroadNet ningún SLA, página de estado ni política de retirada de modelos.