BroadRouter
Commencer

Heure GPU (GPU-hour)

Mis à jour

Une heure GPU correspond à un processeur graphique utilisé pendant une heure. Les fournisseurs cloud facturent les instances GPU louées à l’heure ou à la seconde, et les chercheurs expriment en heures GPU la quantité de calcul qu’a demandée un travail. Vous payez le temps de la machine, qu’elle soit occupée ou non.

Aussi appelé : heure GPU, heures GPU, heure d’instance GPU, heure de location GPU, temps GPU, GPU hours, GPU-hour, GPU-hours, GPU instance hour, GPU rental hour

L’heure GPU est l’unité dans laquelle vous payez quand vous louez du matériel. Une API au token la cache ; un modèle auto-hébergé en fait toute la facture.

Comment ça marche

Les fournisseurs cloud tarifient les instances GPU à l’heure, puis mesurent plus finement. La page à la demande d’AWS indique une tarification « per instance-hour consumed » (traduction : « par heure d’instance consommée »), les heures partielles sous Linux étant facturées à la seconde avec un minimum de 60 secondes. Google Cloud facture « all vCPUs, GPUs, and GB of memory » (traduction : « tous les vCPU, GPU et Go de mémoire ») avec un minimum de 1 minute, puis par incréments de 1 seconde. Une instance de 8 GPU qui tourne 3 heures représente 24 heures GPU.

Le compteur tourne tant que l’instance est allumée, pas tant qu’elle est utile. Un GPU inactif à 3 h du matin coûte autant qu’un GPU occupé.

Les chercheurs utilisent la même unité pour le calcul. L’article sur GPTQ, par exemple, quantifie un modèle de 175B paramètres « in approximately four GPU hours » (traduction : « en environ quatre heures GPU »).

Pourquoi c’est important

Pour comparer une heure GPU à un prix au token, passez par le débit :

cost per 1M output tokens = hourly GPU cost ÷ (tokens per second × 3,600 ÷ 1,000,000)

Le piège est le dénominateur. Le débit dépend du modèle, de la précision, de la taille de batch et du taux d’occupation du GPU. Un GPU loué à 20 % de charge coûte cinq fois plus cher par token que le même GPU à pleine charge. C’est la principale raison pour laquelle les équipes au trafic irrégulier utilisent des API ; voir auto-hébergement ou API : les coûts.

Sur BroadNet Inference

BroadNet ne loue pas de GPU à l’heure. Il vend un accès API à ses modèles ; selon ses Conditions d’utilisation, ceux-ci tournent sur du matériel possédé ou loué par BroadNet aux États-Unis, ou chez des partenaires d’inférence américains. Deux de ses offres sont facturées à l’heure, et aucune n’est une heure GPU :

Heure GPU (location cloud) Clé horaire BroadNet Forfait Meteor
Ce que vous obtenez Un GPU entier et la machine autour Un flux sur un modèle partagé Une session sur un modèle partagé
Modèle Tout ce qui tient BroadNet Gemma 4 VL 26B uniquement DeepSeek V4.1 Flash uniquement
Limites (selon la documentation de BroadNet) Le matériel 120 requêtes/min, 300,000 tokens/min, 1 flux Une requête à la fois, pas de compteur de tokens
Prix Fixé par le cloud $0.50 par heure $1 par heure et par session

Avec l’une ou l’autre offre de BroadNet, vous ne gérez ni pilotes, ni mise à l’échelle, ni temps d’inactivité, mais vous ne pouvez pas non plus choisir le matériel ni charger un autre modèle. Faire tourner la clé horaire tout un mois reviendrait à $0.50 × 24 × 30 = $360.00. Pour plus de détails, voir les clés API LLM horaires expliquées et l’entrée forfait LLM.

Questions fréquentes

Une clé horaire BroadNet est-elle une heure GPU ?

Non. Une clé horaire achète une heure d’un flux de requêtes sur un modèle partagé, BroadNet Gemma 4 VL 26B, avec des limites fixes. Vous n’obtenez ni GPU, ni choix du modèle, ni contrôle sur le serveur.

Les heures GPU sont-elles facturées à l’heure entière ?

Souvent non. AWS facture de nombreuses instances Linux à la seconde après un minimum de 60 secondes, et Google Cloud facture les GPU avec un minimum de 1 minute, puis à la seconde. Vérifiez le type d’instance et le système d’exploitation.

Comment convertir un prix à l’heure GPU en prix au token ?

Divisez le coût horaire par le nombre de millions de tokens que le GPU produit en une heure, soit tokens par seconde × 3 600 ÷ 1 000 000. Mesurez le débit sous votre charge réelle, car le temps d’inactivité est facturé lui aussi.

Lire en MarkdownDemander à ChatGPTDemander à ClaudeDemander à Perplexity