BroadRouter

Como escolher um provedor de API de LLM: checklist de 20 pontos

Pela equipe da BroadNet Inference · 5 min de leitura · Publicado em · Atualizado em

Escolha um provedor de API de LLM dando nota a ele em seis áreas: custo total da sua carga real, limites de taxa e de concorrência, compatibilidade com a OpenAI, termos de retenção de dados e treinamento, os modelos e tamanhos de contexto de que você precisa, e suporte e confiabilidade. Depois, faça um teste de uma semana com o seu próprio tráfego antes de fechar. Preço por token, sozinho, é um mau guia.

A chess knight and queen on a board, with the text "The right model. For the next move."

Para escolher um provedor de API de LLM, dê nota a cada candidato em seis áreas: o custo mensal da sua carga real, limites de taxa e de concorrência, compatibilidade com a OpenAI, termos de retenção de dados e treinamento, os modelos de que você precisa, e suporte e confiabilidade. Depois, teste os dois primeiros com uma semana de tráfego real. Abaixo: 20 perguntas, uma planilha de pontuação e o plano de teste.

Depois de escolher, o checklist de migração cobre a troca em si, e como avaliar um LLM antes de trocar aprofunda os testes de qualidade.

Quanto vai custar de verdade? (perguntas 1 a 4)

  1. Quanto custa por mês a minha carga real? Calcule separadamente entrada, entrada em cache e saída; a calculadora gratuita de custo de API de LLM faz isso por modelo. Agentes reenviam o mesmo contexto, então a entrada em cache costuma dominar. Nosso guia de preços explica cada linha.
  2. Tokens de raciocínio são cobrados como saída? Modelos de raciocínio podem gastar mais tokens pensando do que respondendo.
  3. Existe opção de preço fixo? Para agentes sempre ligados, um plano de preço fixo pode sair mais barato que a cobrança por token. Veja a conta do ponto de equilíbrio.
  4. Os preços são legíveis por máquina e datados? Um arquivo JSON de preços permite acompanhar mudanças e montar alertas de custo.

Nosso dataset aberto de planos gratuitos e rate limits de API de LLM compara o que 14 provedores publicam sobre acesso gratuito, rate limits iniciais, exigência de cartão e treinamento com dados do plano gratuito, com fonte e data para cada valor.

Quais limites você vai atingir primeiro? (perguntas 5 a 7)

  1. Quais são os limites de requisições por minuto e de concorrência? A concorrência (requisições em andamento) é o que trava agentes em paralelo e jobs em lote. Veja rate limit e concorrência, e dimensione o seu tráfego contra um limite com a calculadora de rate limit.
  2. Existe teto de tokens, janela móvel ou cota semanal? Planos “ilimitados” muitas vezes têm. Leia o que ilimitado significa de verdade.
  3. Qual é a janela de contexto, e ela é cortada? Confira o máximo real por requisição e se o provedor corta prompts longos em silêncio.

Quão compatível ela é com o seu código? (perguntas 8 a 10)

  1. É compatível com a OpenAI, e até que ponto? Trocar a base URL deveria bastar. Depois, teste streaming com usage, tool calls, saída estruturada e códigos de erro. O checklist de migração lista o que quebra.
  2. Funciona com as minhas ferramentas? SDKs, frameworks de agentes, assistentes de IDE. Confira os guias de integração do provedor.
  3. Os IDs de modelo são estáveis? Você quer IDs versionados e aviso antes de um modelo ser descontinuado.

O que acontece com os seus dados? (perguntas 11 a 13)

  1. Prompts e saídas ficam armazenados, e por quanto tempo? Muitos provedores guardam o conteúdo da API por até 30 dias por padrão. Compare os textos oficiais em retenção de dados em APIs de LLM comparada.
  2. Meus dados são usados para treinamento? Confira o padrão do seu plano, por escrito.
  3. Posso assinar um DPA, ver os suboperadores e restringir chaves? Use o checklist de GDPR se você trata dados pessoais da UE, e peça allow-lists de IP.

Ele tem os modelos de que você precisa? (perguntas 14 a 16)

  1. O provedor tem os tamanhos de modelo e as capacidades de que preciso? Visão, tool calling, raciocínio, contexto longo, voz.
  2. Como cada modelo se sai nas minhas tarefas? Monte de 30 a 50 casos de teste reais e dê nota. Benchmarks são um primeiro filtro; onde comparar LLMs lista os rankings e o que cada um mede. O guia de avaliação mostra como montar o conjunto e evitar viés do juiz.
  3. Open-weight ou fechado? Modelos open-weight podem ser servidos por vários provedores, o que reduz o lock-in. Veja modelos open-weight vs fechados.

Ele vai ficar no ar, e quem responde? (perguntas 17 a 20)

  1. Existe página de status e histórico de incidentes?
  2. Existe SLA por escrito para produção?
  3. Quem opera as GPUs? Hardware próprio, uma nuvem ou capacidade revendida de outra API. Cada opção adiciona uma parte ao caminho dos dados e da confiabilidade.
  4. Como falo com uma pessoa? Tempos de resposta, canais e se o suporte consegue ver o conteúdo das suas requisições.

Como comparar provedores com pontuação?

Dê a cada pergunta 0 (não ou desconhecido), 1 (em parte) ou 2 (sim, por escrito). Pondere os grupos pelo seu caso de uso:

Grupo Perguntas Peso para um agente Peso para um app regulado
Preço 1 a 4 Alto Médio
Limites 5 a 7 Alto Médio
Compatibilidade 8 a 10 Médio Médio
Privacidade 11 a 13 Médio Alto
Modelos 14 a 16 Alto Alto
Suporte e confiabilidade 17 a 20 Médio Alto

Um “desconhecido” vale 0 por um motivo: se o provedor não sabe responder, você não pode contar com ele.

Como testar um provedor em uma semana?

  1. Escolha os dois primeiros provedores da planilha de pontuação.
  2. Encaminhe uma parte do tráfego real para cada um pelo mesmo SDK da OpenAI, com IDs de modelo e base URLs na configuração.
  3. Registre por requisição: modelo, tokens do prompt, tokens em cache, tokens de completion, latência, código de status. Nunca registre o conteúdo.
  4. Provoque o seu pico: rode o job em lote ou os agentes em paralelo e fique de olho nos 429. O guia de erros e retentativas mostra o back-off correto.
  5. Multiplique os tokens da semana por cerca de 4,3 e calcule o mês para cada provedor.
  6. Dê nota às saídas no seu conjunto de teste.

Como a BroadNet Inference responde ao checklist

# BroadNet Inference
1, 4 Preços por token publicados em pricing.json, sincronizados 2026-11-14
3 Planos de preço fixo para o DeepSeek V4.1 Flash: $60 por mês, $15 por semana ou $1 por hora por sessão
5 Pagamento por uso: 30 requisições por minuto, 4 em andamento; as sessões de plano executam uma requisição por vez
6 Planos: sem medidor de tokens, sem janela móvel, sem teto semanal
7 Até 1.048.576 tokens no DeepSeek V4.1 Flash e no GLM 5.3; a página de planos diz que o contexto nunca é cortado
8 Compatível com a OpenAI em https://inference.broadnet.ai/v1
11, 12 Nenhum prompt ou saída retido; não usados para treinar, fazer fine-tuning ou avaliar modelos
13 Allow-lists de IP com até 32 entradas; lista de suboperadores sob pedido; peça um DPA
14 Quatro modelos de chat mais dois modelos de speech-to-text
19 A declaração de privacidade da BroadNet diz que os modelos próprios e os open-weight hospedados rodam em hardware nos EUA próprio ou alugado pela BroadNet, com capacidade de parceiros como reserva; modelos servidos por parceiros, como o DeepSeek V4.1 Flash, rodam com parceiros de inferência nos EUA sob termos de ZDR

O que não encontramos na documentação nem nas páginas de planos da BroadNet (conferidas em 14 de novembro de 2026): SLA, página de status ou política de descontinuação de modelos. Peça esses itens se forem importantes para você, e mantenha um segundo provedor para os caminhos críticos. O catálogo também é menor que o de um agregador: se você precisa de modelos GPT, Claude ou Gemini, a BroadNet não é o provedor para esse tráfego. O crédito inicial de $5 basta para o passo 3 do plano de teste com uma carga leve, mas, entre os modelos de chat que ele cobre, só no Gemma 4 VL 26B (ele também cobre os dois modelos Transcribe); os outros modelos de chat exigem uma recarga.

Perguntas frequentes

O que devo avaliar num provedor de API de LLM?

Custo total para a sua carga, limites de taxa e de concorrência, compatibilidade com a OpenAI, termos de retenção de dados e treinamento, os modelos e tamanhos de contexto de que você precisa, e suporte e confiabilidade. Dê nota a cada item e depois teste com tráfego real.

A API de LLM mais barata é a melhor escolha?

Nem sempre. Preço de entrada em cache, tokens de raciocínio, retentativas causadas por rate limit e o tempo de engenharia para contornar recursos que faltam podem pesar mais do que um preço de tabela menor. Compare a conta mensal da sua carga real.

Como evito vendor lock-in com uma API de LLM?

Use uma API compatível com a OpenAI por meio de um SDK padrão, mantenha IDs de modelo e base URLs na configuração, evite recursos exclusivos de um provedor no caminho principal e mantenha um segundo provedor testado.

Por quanto tempo devo testar uma API de LLM antes de fechar?

Cerca de uma semana de tráfego real basta para ver uso de tokens, taxa de acerto de cache, latência, taxa de erros e comportamento com rate limit. Multiplique a semana por cerca de 4,3 para estimar um mês.

Que uptime um provedor de API de LLM deve oferecer?

Peça uma página de status pública, histórico de incidentes e, para uso em produção, um SLA por escrito. Se o provedor não tiver nada disso, planeje um provedor de fallback para os seus caminhos críticos.

Ler em MarkdownPerguntar ao ChatGPTPerguntar ao ClaudePerguntar ao Perplexity