Die GPU-Stunde ist die Einheit, in der Sie zahlen, wenn Sie Hardware mieten. Eine API mit Preis pro Token verbirgt sie; bei einem selbst gehosteten Modell ist sie die ganze Rechnung.
So funktioniert es
Cloud-Anbieter bepreisen GPU-Instanzen pro Stunde und messen dann feiner. Die On-Demand-Seite von AWS sagt, die Preise gelten „per instance-hour consumed“ (Übersetzung: „pro verbrauchter Instanzstunde“), wobei angebrochene Stunden unter Linux sekundengenau mit einem Minimum von 60 Sekunden abgerechnet werden. Google Cloud berechnet „all vCPUs, GPUs, and GB of memory“ (Übersetzung: „alle vCPUs, GPUs und GB Arbeitsspeicher“) mit einem Minimum von 1 Minute, danach in Schritten von 1 Sekunde. Eine Instanz mit 8 GPUs, die 3 Stunden läuft, ergibt 24 GPU-Stunden.
Der Zähler läuft, solange die Instanz läuft, nicht solange sie nützt. Eine GPU im Leerlauf um 3 Uhr nachts kostet so viel wie eine ausgelastete.
Forschende nutzen dieselbe Einheit für Rechenaufwand. Das GPTQ-Paper etwa quantisiert ein Modell mit 175B Parametern „in approximately four GPU hours“ (Übersetzung: „in etwa vier GPU-Stunden“).
Warum es wichtig ist
Um eine GPU-Stunde mit einem Preis pro Token zu vergleichen, rechnen Sie über den Durchsatz um:
cost per 1M output tokens = hourly GPU cost ÷ (tokens per second × 3,600 ÷ 1,000,000)
Der Haken ist der Nenner. Der Durchsatz hängt von Modell, Präzision, Batchgröße und davon ab, wie gut Sie die GPU auslasten. Eine gemietete GPU bei 20 % Last kostet pro Token fünfmal so viel wie dieselbe GPU unter Volllast. Das ist der Hauptgrund, warum Teams mit ungleichmäßigem Traffic APIs nutzen; siehe Self-Hosting vs. API: Kosten.
Bei BroadNet Inference
BroadNet vermietet keine GPUs pro Stunde. BroadNet verkauft API-Zugang zu seinen Modellen; laut seinen Nutzungsbedingungen laufen sie auf BroadNet-eigener oder geleaster Hardware in den USA oder bei Inferenzpartnern in den USA. Zwei seiner Optionen werden pro Stunde berechnet, und keine davon ist eine GPU-Stunde:
| GPU-Stunde (Cloud-Miete) | Stundenschlüssel von BroadNet | Meteor-Plan | |
|---|---|---|---|
| Was Sie bekommen | Eine ganze GPU samt der Maschine drumherum | Einen Stream auf einem geteilten Modell | Eine Session auf einem geteilten Modell |
| Modell | Alles, was hineinpasst | Nur BroadNet Gemma 4 VL 26B | Nur DeepSeek V4.1 Flash |
| Limits (laut BroadNet-Dokumentation) | Die Hardware | 120 Anfragen/Min., 300,000 Tokens/Min., 1 Stream | Eine Anfrage gleichzeitig, kein Token-Zähler |
| Preis | Legt die Cloud fest | $0.50 pro Stunde | $1 pro Stunde und Session |
Bei beiden Optionen von BroadNet kümmern Sie sich nicht um Treiber, Skalierung oder Leerlauf, können aber auch weder die Hardware wählen noch ein anderes Modell laden. Den Stundenschlüssel einen ganzen Monat laufen zu lassen, ergäbe $0.50 × 24 × 30 = $360.00. Details finden Sie unter LLM-API-Stundenschlüssel erklärt und im Eintrag zum Flatrate-Plan.