BroadRouter

Como reduzir o custo de API de LLM: checklist de 10 passos, em ordem

Pela equipe da BroadNet Inference · 8 min de leitura · Publicado em

Para reduzir o custo de API de LLM, registre os tokens de cada requisição e siga esta ordem: prefixo do prompt estável para entrar em cache, prompts mais enxutos, limites para saída e raciocínio, o menor modelo que passa nos seus testes, batch ou adiamento do que pode esperar, cache de respostas repetidas, novas tentativas limitadas e plano de preço fixo quando o uso passar do ponto de equilíbrio.

A maioria das listas do tipo “corte 70% da sua conta de LLM” mistura bons conselhos com números que ninguém mediu. Este checklist está na ordem do que fazer primeiro, e cada número vem de um arquivo de preços ou da documentação do próprio provedor. Quando um passo tem um post mais detalhado neste site, há um link para ele. Os preços da BroadNet abaixo vêm do arquivo de preços dela, sincronizado em 2026-11-14.

O que define a conta de uma API de LLM?

Quatro números decidem quase toda fatura:

  1. Tokens de entrada novos. O prompt, menos a parte lida do cache.
  2. Tokens de entrada em cache. O prefixo repetido, cobrado por uma tarifa menor.
  3. Tokens de saída. A resposta, mais os tokens de raciocínio nos modelos que pensam.
  4. Número de requisições. Cada chamada, inclusive cada nova tentativa, é cobrada separadamente.

A unidade cara é a saída. Nos modelos de chat da BroadNet, por 1M de tokens:

Modelo Entrada Entrada em cache Saída
DeepSeek V4.1 Flash $0.175 $0.0055 $0.52
Qwen3.8 27B $0.175 $0.0435 $2.17
GLM 5.3 $0.78 $0.173 $3.46
Gemma 4 VL 26B $0.10 não publicado $0.22

As alavancas, então, são: enviar menos tokens novos, ler mais do cache, gerar menos e fazer menos chamadas. Como funciona o preço de API de LLM explica cada unidade em detalhe.

O checklist em resumo

Passo O que você muda O que reduz Esforço
1. Medir Só o registro de logs Nada ainda; mostra onde cortar Baixo
2. Colocar o prefixo em cache Ordem do prompt Preço da entrada Baixo
3. Enxugar o prompt Conteúdo do prompt Tokens de entrada Médio
4. Limitar saída e raciocínio Configurações da requisição Tokens de saída Baixo
5. Ajustar o tamanho do modelo Escolha do modelo Todos os preços Médio
6. Usar batch ou adiar trabalho Agendamento Preço por token, onde houver Médio
7. Guardar respostas em cache Código do app Requisições inteiras Médio
8. Limitar novas tentativas e loops Código do app Requisições desperdiçadas Baixo
9. Definir limites de gasto Conta e chaves Contas fora de controle Baixo
10. Verificar o equilíbrio do preço fixo Modelo de cobrança Conta total em alto volume Baixo

1. Por que medir antes de cortar qualquer coisa?

Porque a fatura esconde a causa. Duas requisições que parecem iguais podem ter uma diferença de dez vezes em tokens. Toda chat completion devolve um bloco usage com prompt_tokens, completion_tokens e, quando o provedor informa, os tokens em cache. Registre esses números por recurso e por usuário, sem o texto do prompt. Depois de uma semana você sabe qual recurso gasta mais e se o peso está na entrada, nas perdas de cache ou na saída.

Registro de uso com dados pessoais ocultados mostra um schema de log. Para dimensionar um recurso antes de lançar, use a calculadora de custo de API de LLM ou o método de estimar o custo antes do lançamento.

2. Como o cache de prompt reduz o custo?

Os provedores guardam em cache o início de um prompt que se repete exatamente igual. A chamada seguinte lê esse prefixo pelo preço de cache. A OpenAI ativa o cache por padrão nos modelos compatíveis, a partir de 1.024 tokens, e diz que a entrada em cache tem “discounted up to 95%” (tradução: desconto de até 95%) (conferido em 2026-11-15). Na BroadNet, o DeepSeek V4.1 Flash cobra a entrada em cache a $0.0055 por 1M, contra $0.175 da entrada nova.

A regra: conteúdo estático primeiro, conteúdo que muda por último. Prompt de sistema, depois schemas das ferramentas, depois documentos compartilhados, depois histórico e, por fim, a pergunta nova. Um timestamp ou uma lista de ferramentas embaralhada no topo quebra o cache de tudo o que vem depois.

3. Quais cortes no prompt são seguros?

Corte o que o modelo não usa. Os ganhos mais comuns: prompts de sistema longos escritos em prosa, mais exemplos few-shot do que a tarefa precisa, schemas de ferramentas que aquele passo nunca chama, JSON verboso onde uma tabela compacta resolveria e histórico completo do chat onde um resumo bastaria. O retrieval também incha: enviar dez chunks quando dois respondem à pergunta é um problema de custo e de qualidade.

Teste cada corte com um conjunto fixo de entradas, para que um prompt mais barato não quebre respostas sem ninguém perceber. Reduzir tokens do prompt traz cortes medidos para cada um desses casos. O idioma também pesa: na maioria dos tokenizadores, texto em árabe usa mais tokens por palavra que o inglês; veja tokens por palavra em árabe e em inglês.

4. Como limitar a saída e o raciocínio?

Peça menos e coloque um limite. Peça campos JSON em vez de prosa, um limite de palavras em vez de “explique” e nada de repetir a pergunta. Depois defina max_tokens para que uma resposta descontrolada pare.

Modelos que pensam exigem cuidado. A documentação da BroadNet diz que o raciocínio conta para max_tokens, então um limite baixo pode devolver uma resposta vazia. Mantenha 1.000 tokens ou mais e defina reasoning_effort como low nos passos simples. Nas chaves por token, o raciocínio é cobrado como saída. Tokens de raciocínio: por que você paga por mais do que vê e a correção para respostas vazias cobrem os dois lados.

5. Como escolher um modelo mais barato sem perder qualidade?

Compare o custo por tarefa concluída, não o preço por token. Monte de 50 a 100 entradas reais com as saídas esperadas, rode cada candidato e divida o gasto pelos acertos. Um modelo mais barato por token que falha em um terço das vezes pode custar mais quando você soma as novas tentativas e a revisão humana.

Confira os recursos primeiro. Na BroadNet, ferramentas e saída estruturada estão documentadas apenas para o GLM 5.3 e o Qwen3.8 27B. O Gemma 4 VL 26B é o modelo menor da BroadNet para texto e imagem; para tarefas simples, veja o preço dele na tabela acima. Muitos apps usam um modelo pequeno nos passos fáceis e um maior nos difíceis; quem escolhe o modelo é o seu próprio código. Como avaliar um LLM antes de trocar traz um plano de testes.

Não espere o seu modelo atual ficar mais barato. Os provedores raramente cortam o preço de um modelo existente; a economia costuma vir com uma versão nova. Veja o histórico de preços das APIs da OpenAI, da Anthropic e do Google e os maiores cortes de preço de API de LLM.

6. Dá para usar batch ou adiar o trabalho que pode esperar?

Onde o provedor oferece, sim, e os descontos são grandes. Tudo conferido em 2026-11-15:

Provedor Desconto Porém
OpenAI Batch API 50% em relação a chamadas síncronas Conclui em até 24 horas; rate limits separados
Anthropic Message Batches API 50% Assíncrona; a maioria dos batches termina em menos de uma hora
API da DeepSeek, fora do pico As tarifas fora do pico são metade das de pico O pico vai das 01:00 às 04:00 e das 06:00 às 10:00 UTC, de segunda a sexta

A BroadNet Inference não tem Batch API nem preço fora do pico. Para jobs noturnos na BroadNet, rode-os com um executor retomável no endpoint normal, dentro dos limites da sua chave. Processamento em lote com LLM sem Batch API traz o código. Se o job roda por horas, uma sessão de preço fixo pode custar menos que os tokens (passo 10).

7. Quando vale guardar respostas inteiras em cache?

Quando a mesma pergunta chega de novo com as mesmas entradas. Bots de FAQ, classificação de itens repetidos e novas execuções de um pipeline depois de uma falha repetem trabalho. Um cache de correspondência exata, com chave em modelo, prompt e configurações, devolve a resposta guardada e pula a chamada. Defina uma expiração para que as respostas não fiquem desatualizadas. Cache de respostas de LLM em Python mostra uma implementação pequena.

8. Como novas tentativas e loops desperdiçam dinheiro?

Uma requisição repetida é uma nova inferência e é cobrada de novo nas chaves por token. Tente de novo só em erros 429 e 5xx, com backoff exponencial e jitter, e limite as tentativas. Nunca repita um 400: a mesma requisição errada falha do mesmo jeito.

Agentes trazem um segundo risco: um loop que continua chamando o modelo. Limite os passos por tarefa e pare quando a mesma chamada de ferramenta se repetir. Como lidar com erros 429 e 10 formas de reduzir o custo de agentes de código cobrem os dois casos.

9. Como impedir que a conta saia do controle?

Alertas avisam depois do fato. Limites impedem. Use saldo pré-pago, uma chave por app (assim você revoga uma sem parar as outras) e uma lista de IPs permitidos nas chaves de servidor. No código, defina um orçamento por job e pare quando ele acabar. Controle de gastos com API de LLM organiza as camadas, da conta à requisição.

10. Quando um plano de preço fixo vence o preço por token?

Quando um agente roda durante a maior parte do dia. A BroadNet vende o DeepSeek V4.1 Flash por token ou por sessão: Full Moon a $60 por mês, Orbit a $15 por semana ou Meteor a $1 por hora, sem medidor de tokens. Uma sessão roda uma requisição por vez.

Os cenários calculados pela BroadNet com cobrança por token:

Carga de trabalho Por token, por mês Opção mais barata
Projeto pessoal $14.23 o pagamento por uso
Assistente diário $42.67 o pagamento por uso
Agente de código em tempo integral $65.40 Full Moon
Agente sempre ligado $196.20 Full Moon

Com 80% de acertos de cache e 20 tokens de entrada para cada token de saída, o ponto de equilíbrio fica em cerca de 917 milhões de tokens de entrada e 46 milhões de de saída por mês. Com uso leve, pagar por token continua mais barato. A conta completa do ponto de equilíbrio, ou teste os seus volumes na calculadora de preço fixo vs. por token.

Quais passos vale pular?

Alguns conselhos populares custam mais do que economizam:

  • Comprimir prompts até eles quebrarem. A economia na entrada se perde se a qualidade das respostas cai e os usuários tentam de novo.
  • Resumir o histórico a cada turno. Cada resumo é uma chamada extra e muda o prefixo, então o cache erra. Resuma raramente e acrescente o resto no final.
  • Correr atrás apenas do menor preço por token. Rate limits, recursos que faltam e taxas de falha também somam custo.
  • Hospedar por conta própria uma carga pequena. GPUs cobram por hora, ocupadas ou não. Self-hosting vs. custo de API mostra onde fica o ponto de equilíbrio.

Onde a BroadNet Inference se encaixa

O BroadRouter é o site da própria BroadNet, então leve isso em conta ao ler esta seção. A BroadNet Inference é uma API compatível com a OpenAI com quatro modelos de chat cobrados por token, entrada em cache em três deles e um plano de preço fixo do DeepSeek V4.1 Flash para uso constante por agentes. Ela não oferece Batch API nem tarifas fora do pico, então, para jobs grandes que podem esperar, os descontos de batch da OpenAI ou da Anthropic, ou o horário fora do pico da DeepSeek, podem sair mais baratos. Contas novas recebem $5 de crédito inicial, que cobre o Gemma 4 VL 26B, os dois modelos Transcribe e as chaves por hora do Gemma; DeepSeek, GLM e Qwen exigem recarga. O self-service não tem SLA. Veja os preços ou compare os planos.

Perguntas frequentes

Qual é o jeito mais rápido de reduzir o custo de uma API de LLM?

Comece pelo cache de prompt. Coloque o prompt de sistema, os schemas das ferramentas e os documentos compartilhados no início e mantenha tudo idêntico, byte a byte, entre as chamadas. A entrada em cache é cobrada por uma fração da entrada nova, e você não muda nem modelo nem recurso. Depois limite a saída, porque tokens de saída custam mais que tokens de entrada.

Uma Batch API realmente corta o preço pela metade?

Na OpenAI e na Anthropic, sim. A Batch API da OpenAI dá 50% de desconto com uma janela de conclusão de 24 horas, e a Message Batches API da Anthropic reduz o custo em 50 por cento (ambas conferidas em 2026-11-15). A BroadNet Inference não tem Batch API, então rode os jobs com um executor retomável nos endpoints normais.

Os tokens de raciocínio entram na minha conta?

Sim, nas chaves cobradas por token. O raciocínio é informado nos tokens de completion e cobrado pelo preço de saída. Defina reasoning_effort como low nos passos simples, mas mantenha max_tokens em 1.000 ou mais para a resposta não ser cortada.

Um modelo menor sempre sai mais barato?

Por token, normalmente sim. Por tarefa, nem sempre. Um modelo menor que precisa de duas novas tentativas ou de um prompt mais longo pode custar mais que um maior que acerta de primeira. Compare o custo por tarefa concluída com sucesso no seu próprio conjunto de testes.

Quando um plano de preço fixo sai mais barato que pagar por token?

Quando o uso é alto e constante. Na BroadNet, uma sessão Full Moon custa $60 por mês para o DeepSeek V4.1 Flash. Com 80% de acertos de cache, o ponto de equilíbrio fica em cerca de 917 milhões de tokens de entrada e 46 milhões de de saída por mês. Abaixo disso, pagar por token sai mais barato.

Novas tentativas custam dinheiro?

Sim. Uma requisição repetida é uma nova inferência e é cobrada de novo nas chaves por token. Tente de novo só em erros 429 e 5xx, com backoff, e limite o número de tentativas.

Ler em MarkdownPerguntar ao ChatGPTPerguntar ao ClaudePerguntar ao Perplexity