L’heure GPU est l’unité dans laquelle vous payez quand vous louez du matériel. Une API au token la cache ; un modèle auto-hébergé en fait toute la facture.
Comment ça marche
Les fournisseurs cloud tarifient les instances GPU à l’heure, puis mesurent plus finement. La page à la demande d’AWS indique une tarification « per instance-hour consumed » (traduction : « par heure d’instance consommée »), les heures partielles sous Linux étant facturées à la seconde avec un minimum de 60 secondes. Google Cloud facture « all vCPUs, GPUs, and GB of memory » (traduction : « tous les vCPU, GPU et Go de mémoire ») avec un minimum de 1 minute, puis par incréments de 1 seconde. Une instance de 8 GPU qui tourne 3 heures représente 24 heures GPU.
Le compteur tourne tant que l’instance est allumée, pas tant qu’elle est utile. Un GPU inactif à 3 h du matin coûte autant qu’un GPU occupé.
Les chercheurs utilisent la même unité pour le calcul. L’article sur GPTQ, par exemple, quantifie un modèle de 175B paramètres « in approximately four GPU hours » (traduction : « en environ quatre heures GPU »).
Pourquoi c’est important
Pour comparer une heure GPU à un prix au token, passez par le débit :
cost per 1M output tokens = hourly GPU cost ÷ (tokens per second × 3,600 ÷ 1,000,000)
Le piège est le dénominateur. Le débit dépend du modèle, de la précision, de la taille de batch et du taux d’occupation du GPU. Un GPU loué à 20 % de charge coûte cinq fois plus cher par token que le même GPU à pleine charge. C’est la principale raison pour laquelle les équipes au trafic irrégulier utilisent des API ; voir auto-hébergement ou API : les coûts.
Sur BroadNet Inference
BroadNet ne loue pas de GPU à l’heure. Il vend un accès API à ses modèles ; selon ses Conditions d’utilisation, ceux-ci tournent sur du matériel possédé ou loué par BroadNet aux États-Unis, ou chez des partenaires d’inférence américains. Deux de ses offres sont facturées à l’heure, et aucune n’est une heure GPU :
| Heure GPU (location cloud) | Clé horaire BroadNet | Forfait Meteor | |
|---|---|---|---|
| Ce que vous obtenez | Un GPU entier et la machine autour | Un flux sur un modèle partagé | Une session sur un modèle partagé |
| Modèle | Tout ce qui tient | BroadNet Gemma 4 VL 26B uniquement | DeepSeek V4.1 Flash uniquement |
| Limites (selon la documentation de BroadNet) | Le matériel | 120 requêtes/min, 300,000 tokens/min, 1 flux | Une requête à la fois, pas de compteur de tokens |
| Prix | Fixé par le cloud | $0.50 par heure | $1 par heure et par session |
Avec l’une ou l’autre offre de BroadNet, vous ne gérez ni pilotes, ni mise à l’échelle, ni temps d’inactivité, mais vous ne pouvez pas non plus choisir le matériel ni charger un autre modèle. Faire tourner la clé horaire tout un mois reviendrait à $0.50 × 24 × 30 = $360.00. Pour plus de détails, voir les clés API LLM horaires expliquées et l’entrée forfait LLM.