A hora de GPU é a unidade em que você paga quando aluga hardware. Uma API por token a esconde; um modelo self-hosted faz dela a conta inteira.
Como funciona
Provedores de nuvem precificam instâncias de GPU por hora e depois medem com mais detalhe. A página de preços sob demanda da AWS diz que a cobrança é “per instance-hour consumed” (tradução: por hora de instância consumida), com horas parciais no Linux cobradas por segundo e mínimo de 60 segundos. O Google Cloud cobra “all vCPUs, GPUs, and GB of memory” (tradução: todas as vCPUs, GPUs e GB de memória) com mínimo de 1 minuto e depois em incrementos de 1 segundo. Uma instância com 8 GPUs ligada por 3 horas dá 24 horas de GPU.
O taxímetro roda enquanto a instância está ligada, não enquanto está sendo útil. Uma GPU ociosa às 3 da manhã custa o mesmo que uma ocupada.
Pesquisadores usam a mesma unidade para computação. O artigo do GPTQ, por exemplo, quantiza um modelo de 175B de parâmetros “in approximately four GPU hours” (tradução: em aproximadamente quatro horas de GPU).
Por que isso importa
Para comparar uma hora de GPU com preço por token, converta pelo throughput:
cost per 1M output tokens = hourly GPU cost ÷ (tokens per second × 3,600 ÷ 1,000,000)
O problema está no denominador. O throughput depende do modelo, da precisão, do tamanho do batch e de quanto você mantém a GPU ocupada. Uma GPU alugada com 20% de carga custa, por token, cinco vezes mais que a mesma GPU em carga total. Esse é o principal motivo para equipes com tráfego irregular usarem APIs; veja custo de self-hosting vs. API.
Na BroadNet Inference
A BroadNet não aluga GPUs por hora. Ela vende acesso via API aos seus modelos; os Termos dela dizem que eles rodam em hardware próprio ou alugado pela BroadNet nos Estados Unidos, ou com parceiros de inferência nos EUA. Duas das opções têm preço por hora, e nenhuma delas é uma hora de GPU:
| Hora de GPU (aluguel na nuvem) | Chave por hora da BroadNet | Plano Meteor | |
|---|---|---|---|
| O que você recebe | Uma GPU inteira e a máquina em volta dela | Um stream em um modelo compartilhado | Uma sessão em um modelo compartilhado |
| Modelo | Qualquer um que caiba | Só o BroadNet Gemma 4 VL 26B | Só o DeepSeek V4.1 Flash |
| Limites (segundo a documentação da BroadNet) | O hardware | 120 requisições/min, 300,000 tokens/min, 1 stream | Uma requisição por vez, sem medidor de tokens |
| Preço | Definido pela nuvem | $0.50 por hora | $1 por hora por sessão |
Em nenhuma das duas opções da BroadNet você cuida de drivers, escalonamento ou tempo ocioso, mas também não pode escolher o hardware nem carregar outro modelo. Manter a chave por hora ligada o mês inteiro custaria $0.50 × 24 × 30 = $360.00. Para mais detalhes, veja chaves de API de LLM por hora explicadas e o verbete do plano de preço fixo.