Pesquise “SLA de API de LLM” e você encontra tabelas que se contradizem. Este post deixa as tabelas de lado e lê a fonte: a página de SLA ou de termos de cada provedor, consultada em 15 de novembro de 2026. Para cada um anotamos a meta de uptime, o que conta como indisponibilidade, o crédito de serviço, qualquer meta de latência e qual tier está coberto. O BroadRouter é o site da BroadNet, então a BroadNet está na lista, e ela é um dos provedores sem SLA no self-service.
O que o SLA de uma API de LLM realmente promete?
Um SLA é uma meta escrita com uma compensação. Ele não mantém a API no ar. Ele diz o que acontece com a sua fatura quando ela cai. Todo SLA abaixo tem as mesmas quatro partes:
- Uma meta. Normalmente uma porcentagem de uptime mensal por região, projeto ou recurso.
- Uma definição de indisponibilidade. Quase sempre só erros de servidor: respostas 500 ou 5XX a requisições válidas. Um 429 de limite de taxa não é indisponibilidade. Nem uma resposta lenta ou errada.
- Uma compensação. Uma porcentagem da fatura daquele mês para o serviço afetado, creditada em faturas futuras e com teto.
- Um processo de solicitação. Você pede o crédito, com os seus próprios logs, dentro de um prazo.
As porcentagens viram minutos assim, num mês de 30 dias com 43.200 minutos:
| Uptime mensal | Indisponibilidade permitida |
|---|---|
| 99,9% | cerca de 43 minutos |
| 99,5% | 216 minutos |
| 99,0% | 432 minutos |
| 95,0% | 36 horas |
Quais APIs de LLM publicam SLA?
Todas as linhas foram lidas na página do próprio provedor em 15 de novembro de 2026. “Não encontrado” significa que a página verificada não informa SLA; isso não descarta um contrato privado.
| Provedor e serviço | Meta de uptime | O que conta como indisponibilidade | Créditos | SLA de latência | Quem está coberto |
|---|---|---|---|---|---|
| Microsoft Azure, Foundry Models (inclui os modelos do Azure OpenAI) | 99,9% | Requisições que devolvem código de erro, em média por minuto | 10% abaixo de 99,9%, 25% abaixo de 99% | Sim, para deployments Provisioned Managed e Priority Processing | Foundry Models vendidos pelo Azure; tier Developer excluído |
| Amazon Bedrock | 99,9% (os créditos começam abaixo disso) | Requisições que devolvem código de erro 500, por intervalo de 5 minutos, por região | 10%, 25% abaixo de 99,0%, 100% abaixo de 95,0% | Nenhum no SLA | Bedrock em cada região da AWS |
| Google, API de inferência online do Gemini | 99,5% (95% para modelos com disponibilidade mais curta) | Taxa de erros 5XX acima de 5% por 5 ou mais minutos seguidos | 10%, 25% abaixo de 99,0%, 50% abaixo de 95,0% | Sim, com Provisioned Throughput no endpoint global | generateContent e streamGenerateContent |
| OpenAI, Scale Tier | 99,9% | Não definido na página pública | Não informados na página pública | 99% do tempo acima de um piso de tokens por segundo por modelo | Clientes Enterprise, unidades de tokens compradas por pelo menos 30 dias |
| OpenAI, pagamento por uso padrão | Não encontrado | – | – | – | – |
| API da Anthropic | Não encontrado; os termos dizem “as is” e “as available” | – | – | – | – |
| Fireworks AI, Reserved Throughput | Termos de uptime de 99,9% | Não informado na página de preços | Não informados | SLA de throughput | Só capacidade reservada; excedente não coberto |
| Together AI | Serverless: nenhum informado. “Provisioned Throughput: Token-based capacity with SLAs” (tradução: capacidade baseada em tokens com SLAs; termos não publicados na página) | – | – | – | Pergunte ao time comercial pelos termos do SLA |
| BroadNet Inference, self-service | Nenhum: “no availability commitment” (tradução: nenhum compromisso de disponibilidade) | – | – | – | Níveis de serviço só num acordo escrito separado |
Como os SLAs dos hyperscalers diferem?
Microsoft Azure. A página do Learn da Microsoft diz que os Foundry Models vendidos pelo Azure “include all Azure OpenAI models” (tradução: incluem todos os modelos do Azure OpenAI) e são “covered by Azure service-level agreements” (tradução: cobertos pelos SLAs do Azure). O SLA consolidado (edição de outubro de 2026) define a Error Rate por minuto e a Uptime Percentage como 100% menos a taxa média de erros. Os créditos são de 10% abaixo de 99,9% e de 25% abaixo de 99%. Os créditos valem só para Foundry Models vendidos pelo Azure, e “The Developer tier of the Foundry Models service is not covered by this SLA.” (tradução: o tier Developer do serviço Foundry Models não está coberto por este SLA). Para deployments Provisioned Managed e Priority Processing, um segundo SLA mede tokens por segundo contra uma meta por modelo indicada na documentação do produto, com crédito de 10% se o cumprimento ficar abaixo de 99%.
Amazon Bedrock. A AWS se compromete a “commercially reasonable efforts” (tradução: esforços comercialmente razoáveis) para cumprir a tabela de uptime. Disponibilidade é “the percentage of Requests processed by Amazon Bedrock that do not fail with Errors” (tradução: a porcentagem de requisições processadas pelo Amazon Bedrock que não falham com erros), e um erro é “any Request that returns a 500 error code” (tradução: qualquer requisição que devolve código de erro 500). O cálculo é por região, e intervalos sem requisições contam como totalmente disponíveis. As exclusões incluem ações do cliente como “scaling of provisioned throughput” (tradução: escalonamento do throughput provisionado) e software do modelo que cause “repeated model crashes or an inoperable model” (tradução: falhas repetidas do modelo ou um modelo inoperante). O SLA não tem meta de latência.
Google Cloud. O SLA de inferência online do Gemini é o mais rígido sobre o que conta. Para haver indisponibilidade é preciso mais de 5% de respostas 5XX, durando “five or more consecutive minutes” (tradução: cinco ou mais minutos consecutivos). Os créditos têm teto de 50% da fatura do mês para o serviço, você precisa avisar o suporte em até 30 dias com arquivos de log, e o SLA é a sua “sole and exclusive remedy” (tradução: única e exclusiva compensação). Ficam de fora o grounding com a Pesquisa Google, erros de cota e prazos mais curtos que o padrão do servidor. Com Provisioned Throughput, um SLA de latência cobre alguns modelos Gemini 2.5 no endpoint global, medido como p50 de tokens por segundo por intervalo de 5 minutos. Se em vez disso você fizer deploy do seu próprio modelo aberto na Vertex AI, o SLA separado da Vertex AI Platform cobre predição online de modelos personalizados a 99,5%, mas só “for models deployed on 2 or more nodes” (tradução: para modelos implantados em 2 ou mais nós).
E a OpenAI e a Anthropic diretamente?
OpenAI. A página do Scale Tier diz: “Scale Tier traffic offers a 99.9% uptime SLA and prioritized compute.” (tradução: o tráfego do Scale Tier oferece um SLA de 99,9% de uptime e computação prioritária). A tabela dela combina isso com um SLA de latência por modelo, como “99% > 50 tokens per second” (tradução: 99% acima de 50 tokens por segundo), calculado como latência p50 das requisições a cada 5 minutos. A página diz que “This offering is available to Enterprise customers” (tradução: esta oferta está disponível para clientes Enterprise), que cada unidade de tokens é comprada “for a minimum of 30 days” (tradução: por um mínimo de 30 dias) e que o Scale Tier cobre modelos lançados antes do GPT-5.6, com o Reserved Tier para os posteriores. Não encontramos SLA de uptime ligado ao uso padrão com pagamento por uso. (O openai.com bloqueou o nosso coletor, então lemos a página na captura do Internet Archive de 7 de novembro de 2026.)
Anthropic. Os Commercial Terms públicos (em vigor desde 17 de junho de 2025) não contêm SLA nem créditos de serviço. A seção L.2 fornece os serviços “AS IS” e “AS AVAILABLE” (tradução: no estado em que se encontram e conforme disponíveis) e não garante que o uso “WILL BE UNINTERRUPTED” (tradução: será ininterrupto). Acordos enterprise podem ser diferentes, mas não são públicos.
O que um SLA não compra?
- O uptime em si. O crédito vem depois da queda. Seus usuários viram a queda mesmo assim.
- Capacidade. Throttling (429) está fora de todas as definições de uptime acima. O Google exclui explicitamente “quotas applied by the system” (tradução: cotas aplicadas pelo sistema). Veja como tratar erros 429.
- Velocidade. Só os tiers provisionados ou reservados têm meta de tokens por segundo. No tráfego padrão, uma resposta lenta é uma resposta bem-sucedida. Métricas de latência explicadas.
- Qualidade. Uma resposta 200 com conteúdo errado não é indisponibilidade em lugar nenhum.
- Muito dinheiro. Créditos são uma fração da fatura mensal de um serviço, muitas vezes com teto, e você precisa solicitá-los com seus próprios logs.
Como construir sobre uma API sem SLA?
A maioria dos times constrói sobre APIs de pagamento por uso sem SLA. Isso funciona se a aplicação conta com falhas:
- Defina timeouts. Use streaming nas respostas longas e defina um timeout no client por requisição, para que uma chamada travada falhe rápido. Guia de streaming.
- Tente de novo com backoff e jitter em 429 e 5XX, com limite de tentativas. Erros e novas tentativas.
- Deixe um segundo provedor configurado. Com APIs compatíveis com a OpenAI, um fallback é uma segunda base URL, chave e ID de modelo. Como fazer failover entre APIs de LLM.
- Registre IDs de requisição, horários e códigos de status. Você precisa deles para qualquer solicitação de SLA e para ver sua taxa de erro real.
- Compre um contrato onde precisar. Se uptime é um requisito rígido, use um tier de provedor com SLA escrito, ou um deployment privado com níveis de serviço acordados. O que planejar antes de um endpoint privado.
Onde a BroadNet Inference se encaixa
O BroadRouter é o site da própria BroadNet. A API self-service da BroadNet, tanto no pagamento por uso quanto nos planos, não tem SLA. Os Termos de Serviço dela (§7.4) dizem: “We aim to keep the API available and publish what we measure, but self-serve has no availability commitment.” (tradução: buscamos manter a API disponível e publicamos o que medimos, mas o self-service não tem compromisso de disponibilidade). E: “Service levels exist only in a separate written agreement.” (tradução: níveis de serviço só existem num acordo escrito separado). Nesse ponto, Azure, AWS e Google oferecem mais: uma meta de uptime escrita com créditos. Uma chave de pagamento por uso da BroadNet permite 30 requisições por minuto e 4 em andamento. A descrição que a própria BroadNet faz da sua infraestrutura de serving está em hardware de GPU e abordagem de serving da BroadNet, que relatamos como relato da BroadNet, não como compromisso.
Se a sua carga de trabalho aguenta rodar com novas tentativas e um fallback, o endpoint compatível com a OpenAI da BroadNet é mais uma base URL para configurar: https://inference.broadnet.ai/v1. Se você precisa de níveis de serviço contratados, pergunte à BroadNet sobre um acordo escrito antes de depender de um. Leia a referência da API ou crie uma conta.
