A maioria das listas do tipo “corte 70% da sua conta de LLM” mistura bons conselhos com números que ninguém mediu. Este checklist está na ordem do que fazer primeiro, e cada número vem de um arquivo de preços ou da documentação do próprio provedor. Quando um passo tem um post mais detalhado neste site, há um link para ele. Os preços da BroadNet abaixo vêm do arquivo de preços dela, sincronizado em 2026-11-14.
O que define a conta de uma API de LLM?
Quatro números decidem quase toda fatura:
- Tokens de entrada novos. O prompt, menos a parte lida do cache.
- Tokens de entrada em cache. O prefixo repetido, cobrado por uma tarifa menor.
- Tokens de saída. A resposta, mais os tokens de raciocínio nos modelos que pensam.
- Número de requisições. Cada chamada, inclusive cada nova tentativa, é cobrada separadamente.
A unidade cara é a saída. Nos modelos de chat da BroadNet, por 1M de tokens:
| Modelo | Entrada | Entrada em cache | Saída |
|---|---|---|---|
| DeepSeek V4.1 Flash | $0.175 | $0.0055 | $0.52 |
| Qwen3.8 27B | $0.175 | $0.0435 | $2.17 |
| GLM 5.3 | $0.78 | $0.173 | $3.46 |
| Gemma 4 VL 26B | $0.10 | não publicado | $0.22 |
As alavancas, então, são: enviar menos tokens novos, ler mais do cache, gerar menos e fazer menos chamadas. Como funciona o preço de API de LLM explica cada unidade em detalhe.
O checklist em resumo
| Passo | O que você muda | O que reduz | Esforço |
|---|---|---|---|
| 1. Medir | Só o registro de logs | Nada ainda; mostra onde cortar | Baixo |
| 2. Colocar o prefixo em cache | Ordem do prompt | Preço da entrada | Baixo |
| 3. Enxugar o prompt | Conteúdo do prompt | Tokens de entrada | Médio |
| 4. Limitar saída e raciocínio | Configurações da requisição | Tokens de saída | Baixo |
| 5. Ajustar o tamanho do modelo | Escolha do modelo | Todos os preços | Médio |
| 6. Usar batch ou adiar trabalho | Agendamento | Preço por token, onde houver | Médio |
| 7. Guardar respostas em cache | Código do app | Requisições inteiras | Médio |
| 8. Limitar novas tentativas e loops | Código do app | Requisições desperdiçadas | Baixo |
| 9. Definir limites de gasto | Conta e chaves | Contas fora de controle | Baixo |
| 10. Verificar o equilíbrio do preço fixo | Modelo de cobrança | Conta total em alto volume | Baixo |
1. Por que medir antes de cortar qualquer coisa?
Porque a fatura esconde a causa. Duas requisições que parecem iguais podem ter uma diferença de dez vezes em tokens. Toda chat completion devolve um bloco usage com prompt_tokens, completion_tokens e, quando o provedor informa, os tokens em cache. Registre esses números por recurso e por usuário, sem o texto do prompt. Depois de uma semana você sabe qual recurso gasta mais e se o peso está na entrada, nas perdas de cache ou na saída.
Registro de uso com dados pessoais ocultados mostra um schema de log. Para dimensionar um recurso antes de lançar, use a calculadora de custo de API de LLM ou o método de estimar o custo antes do lançamento.
2. Como o cache de prompt reduz o custo?
Os provedores guardam em cache o início de um prompt que se repete exatamente igual. A chamada seguinte lê esse prefixo pelo preço de cache. A OpenAI ativa o cache por padrão nos modelos compatíveis, a partir de 1.024 tokens, e diz que a entrada em cache tem “discounted up to 95%” (tradução: desconto de até 95%) (conferido em 2026-11-15). Na BroadNet, o DeepSeek V4.1 Flash cobra a entrada em cache a $0.0055 por 1M, contra $0.175 da entrada nova.
A regra: conteúdo estático primeiro, conteúdo que muda por último. Prompt de sistema, depois schemas das ferramentas, depois documentos compartilhados, depois histórico e, por fim, a pergunta nova. Um timestamp ou uma lista de ferramentas embaralhada no topo quebra o cache de tudo o que vem depois.
- Tokens de entrada em cache explicados, com como lê-los na resposta.
- Como estruturar prompts para o prefixo entrar em cache.
- Simule a sua taxa de acerto na calculadora de cache de prompt.
3. Quais cortes no prompt são seguros?
Corte o que o modelo não usa. Os ganhos mais comuns: prompts de sistema longos escritos em prosa, mais exemplos few-shot do que a tarefa precisa, schemas de ferramentas que aquele passo nunca chama, JSON verboso onde uma tabela compacta resolveria e histórico completo do chat onde um resumo bastaria. O retrieval também incha: enviar dez chunks quando dois respondem à pergunta é um problema de custo e de qualidade.
Teste cada corte com um conjunto fixo de entradas, para que um prompt mais barato não quebre respostas sem ninguém perceber. Reduzir tokens do prompt traz cortes medidos para cada um desses casos. O idioma também pesa: na maioria dos tokenizadores, texto em árabe usa mais tokens por palavra que o inglês; veja tokens por palavra em árabe e em inglês.
4. Como limitar a saída e o raciocínio?
Peça menos e coloque um limite. Peça campos JSON em vez de prosa, um limite de palavras em vez de “explique” e nada de repetir a pergunta. Depois defina max_tokens para que uma resposta descontrolada pare.
Modelos que pensam exigem cuidado. A documentação da BroadNet diz que o raciocínio conta para max_tokens, então um limite baixo pode devolver uma resposta vazia. Mantenha 1.000 tokens ou mais e defina reasoning_effort como low nos passos simples. Nas chaves por token, o raciocínio é cobrado como saída. Tokens de raciocínio: por que você paga por mais do que vê e a correção para respostas vazias cobrem os dois lados.
5. Como escolher um modelo mais barato sem perder qualidade?
Compare o custo por tarefa concluída, não o preço por token. Monte de 50 a 100 entradas reais com as saídas esperadas, rode cada candidato e divida o gasto pelos acertos. Um modelo mais barato por token que falha em um terço das vezes pode custar mais quando você soma as novas tentativas e a revisão humana.
Confira os recursos primeiro. Na BroadNet, ferramentas e saída estruturada estão documentadas apenas para o GLM 5.3 e o Qwen3.8 27B. O Gemma 4 VL 26B é o modelo menor da BroadNet para texto e imagem; para tarefas simples, veja o preço dele na tabela acima. Muitos apps usam um modelo pequeno nos passos fáceis e um maior nos difíceis; quem escolhe o modelo é o seu próprio código. Como avaliar um LLM antes de trocar traz um plano de testes.
Não espere o seu modelo atual ficar mais barato. Os provedores raramente cortam o preço de um modelo existente; a economia costuma vir com uma versão nova. Veja o histórico de preços das APIs da OpenAI, da Anthropic e do Google e os maiores cortes de preço de API de LLM.
6. Dá para usar batch ou adiar o trabalho que pode esperar?
Onde o provedor oferece, sim, e os descontos são grandes. Tudo conferido em 2026-11-15:
| Provedor | Desconto | Porém |
|---|---|---|
| OpenAI Batch API | 50% em relação a chamadas síncronas | Conclui em até 24 horas; rate limits separados |
| Anthropic Message Batches API | 50% | Assíncrona; a maioria dos batches termina em menos de uma hora |
| API da DeepSeek, fora do pico | As tarifas fora do pico são metade das de pico | O pico vai das 01:00 às 04:00 e das 06:00 às 10:00 UTC, de segunda a sexta |
A BroadNet Inference não tem Batch API nem preço fora do pico. Para jobs noturnos na BroadNet, rode-os com um executor retomável no endpoint normal, dentro dos limites da sua chave. Processamento em lote com LLM sem Batch API traz o código. Se o job roda por horas, uma sessão de preço fixo pode custar menos que os tokens (passo 10).
7. Quando vale guardar respostas inteiras em cache?
Quando a mesma pergunta chega de novo com as mesmas entradas. Bots de FAQ, classificação de itens repetidos e novas execuções de um pipeline depois de uma falha repetem trabalho. Um cache de correspondência exata, com chave em modelo, prompt e configurações, devolve a resposta guardada e pula a chamada. Defina uma expiração para que as respostas não fiquem desatualizadas. Cache de respostas de LLM em Python mostra uma implementação pequena.
8. Como novas tentativas e loops desperdiçam dinheiro?
Uma requisição repetida é uma nova inferência e é cobrada de novo nas chaves por token. Tente de novo só em erros 429 e 5xx, com backoff exponencial e jitter, e limite as tentativas. Nunca repita um 400: a mesma requisição errada falha do mesmo jeito.
Agentes trazem um segundo risco: um loop que continua chamando o modelo. Limite os passos por tarefa e pare quando a mesma chamada de ferramenta se repetir. Como lidar com erros 429 e 10 formas de reduzir o custo de agentes de código cobrem os dois casos.
9. Como impedir que a conta saia do controle?
Alertas avisam depois do fato. Limites impedem. Use saldo pré-pago, uma chave por app (assim você revoga uma sem parar as outras) e uma lista de IPs permitidos nas chaves de servidor. No código, defina um orçamento por job e pare quando ele acabar. Controle de gastos com API de LLM organiza as camadas, da conta à requisição.
10. Quando um plano de preço fixo vence o preço por token?
Quando um agente roda durante a maior parte do dia. A BroadNet vende o DeepSeek V4.1 Flash por token ou por sessão: Full Moon a $60 por mês, Orbit a $15 por semana ou Meteor a $1 por hora, sem medidor de tokens. Uma sessão roda uma requisição por vez.
Os cenários calculados pela BroadNet com cobrança por token:
| Carga de trabalho | Por token, por mês | Opção mais barata |
|---|---|---|
| Projeto pessoal | $14.23 | o pagamento por uso |
| Assistente diário | $42.67 | o pagamento por uso |
| Agente de código em tempo integral | $65.40 | Full Moon |
| Agente sempre ligado | $196.20 | Full Moon |
Com 80% de acertos de cache e 20 tokens de entrada para cada token de saída, o ponto de equilíbrio fica em cerca de 917 milhões de tokens de entrada e 46 milhões de de saída por mês. Com uso leve, pagar por token continua mais barato. A conta completa do ponto de equilíbrio, ou teste os seus volumes na calculadora de preço fixo vs. por token.
Quais passos vale pular?
Alguns conselhos populares custam mais do que economizam:
- Comprimir prompts até eles quebrarem. A economia na entrada se perde se a qualidade das respostas cai e os usuários tentam de novo.
- Resumir o histórico a cada turno. Cada resumo é uma chamada extra e muda o prefixo, então o cache erra. Resuma raramente e acrescente o resto no final.
- Correr atrás apenas do menor preço por token. Rate limits, recursos que faltam e taxas de falha também somam custo.
- Hospedar por conta própria uma carga pequena. GPUs cobram por hora, ocupadas ou não. Self-hosting vs. custo de API mostra onde fica o ponto de equilíbrio.
Onde a BroadNet Inference se encaixa
O BroadRouter é o site da própria BroadNet, então leve isso em conta ao ler esta seção. A BroadNet Inference é uma API compatível com a OpenAI com quatro modelos de chat cobrados por token, entrada em cache em três deles e um plano de preço fixo do DeepSeek V4.1 Flash para uso constante por agentes. Ela não oferece Batch API nem tarifas fora do pico, então, para jobs grandes que podem esperar, os descontos de batch da OpenAI ou da Anthropic, ou o horário fora do pico da DeepSeek, podem sair mais baratos. Contas novas recebem $5 de crédito inicial, que cobre o Gemma 4 VL 26B, os dois modelos Transcribe e as chaves por hora do Gemma; DeepSeek, GLM e Qwen exigem recarga. O self-service não tem SLA. Veja os preços ou compare os planos.
