BroadRouter
Começar

Hora de GPU (GPU-hour)

Atualizado em

Uma hora de GPU (GPU-hour) é um processador gráfico usado durante uma hora. Provedores de nuvem cobram instâncias de GPU alugadas por hora ou por segundo, e pesquisadores usam horas de GPU para dizer quanta computação um trabalho exigiu. Você paga pelo tempo da máquina, ocupada ou não.

Também chamado de: horas de GPU, hora-GPU, hora de instância de GPU, aluguel de GPU por hora, custo de GPU por hora, GPU-hour, GPU hours, GPU-hours, GPU instance hour, GPU rental hour

A hora de GPU é a unidade em que você paga quando aluga hardware. Uma API por token a esconde; um modelo self-hosted faz dela a conta inteira.

Como funciona

Provedores de nuvem precificam instâncias de GPU por hora e depois medem com mais detalhe. A página de preços sob demanda da AWS diz que a cobrança é “per instance-hour consumed” (tradução: por hora de instância consumida), com horas parciais no Linux cobradas por segundo e mínimo de 60 segundos. O Google Cloud cobra “all vCPUs, GPUs, and GB of memory” (tradução: todas as vCPUs, GPUs e GB de memória) com mínimo de 1 minuto e depois em incrementos de 1 segundo. Uma instância com 8 GPUs ligada por 3 horas dá 24 horas de GPU.

O taxímetro roda enquanto a instância está ligada, não enquanto está sendo útil. Uma GPU ociosa às 3 da manhã custa o mesmo que uma ocupada.

Pesquisadores usam a mesma unidade para computação. O artigo do GPTQ, por exemplo, quantiza um modelo de 175B de parâmetros “in approximately four GPU hours” (tradução: em aproximadamente quatro horas de GPU).

Por que isso importa

Para comparar uma hora de GPU com preço por token, converta pelo throughput:

cost per 1M output tokens = hourly GPU cost ÷ (tokens per second × 3,600 ÷ 1,000,000)

O problema está no denominador. O throughput depende do modelo, da precisão, do tamanho do batch e de quanto você mantém a GPU ocupada. Uma GPU alugada com 20% de carga custa, por token, cinco vezes mais que a mesma GPU em carga total. Esse é o principal motivo para equipes com tráfego irregular usarem APIs; veja custo de self-hosting vs. API.

Na BroadNet Inference

A BroadNet não aluga GPUs por hora. Ela vende acesso via API aos seus modelos; os Termos dela dizem que eles rodam em hardware próprio ou alugado pela BroadNet nos Estados Unidos, ou com parceiros de inferência nos EUA. Duas das opções têm preço por hora, e nenhuma delas é uma hora de GPU:

Hora de GPU (aluguel na nuvem) Chave por hora da BroadNet Plano Meteor
O que você recebe Uma GPU inteira e a máquina em volta dela Um stream em um modelo compartilhado Uma sessão em um modelo compartilhado
Modelo Qualquer um que caiba Só o BroadNet Gemma 4 VL 26B Só o DeepSeek V4.1 Flash
Limites (segundo a documentação da BroadNet) O hardware 120 requisições/min, 300,000 tokens/min, 1 stream Uma requisição por vez, sem medidor de tokens
Preço Definido pela nuvem $0.50 por hora $1 por hora por sessão

Em nenhuma das duas opções da BroadNet você cuida de drivers, escalonamento ou tempo ocioso, mas também não pode escolher o hardware nem carregar outro modelo. Manter a chave por hora ligada o mês inteiro custaria $0.50 × 24 × 30 = $360.00. Para mais detalhes, veja chaves de API de LLM por hora explicadas e o verbete do plano de preço fixo.

Perguntas frequentes

Uma chave por hora da BroadNet é uma hora de GPU?

Não. Uma chave por hora compra uma hora de um fluxo de requisições em um modelo compartilhado, o BroadNet Gemma 4 VL 26B, com limites fixos. Você não recebe uma GPU, escolha de modelo nem qualquer controle sobre o servidor.

Horas de GPU são cobradas pela hora cheia?

Muitas vezes, não. A AWS cobra muitas instâncias Linux por segundo depois de um mínimo de 60 segundos, e o Google Cloud cobra GPUs com mínimo de 1 minuto e depois por segundo. Confira o tipo de instância e o sistema operacional.

Como transformo o preço de uma hora de GPU em preço por token?

Divida o custo por hora pelos milhões de tokens que a GPU produz em uma hora, ou seja, tokens por segundo × 3.600 ÷ 1.000.000. Meça o throughput com a sua carga real, porque o tempo ocioso também é cobrado.

Ler em MarkdownPerguntar ao ChatGPTPerguntar ao ClaudePerguntar ao Perplexity