---
title: "Was ist die Vokabulargröße eines LLM-Tokenizers? | BroadRouter"
description: "Die Vokabulargröße ist die Zahl der Tokens, die ein Modell kennt. Gemessene Werte für DeepSeek, GLM, Qwen und Gemma und warum mehr nicht immer weniger Tokens heißt."
url: https://broadrouter.com/de/glossary/vocabulary-size/
lang: de
updated: 2026-11-16
publisher: BroadRouter (a BroadNet site); API by BroadNet Inference, https://inference.broadnet.ai
---

Mit KI-Unterstützung aus dem Englischen übersetzt. [Englisches Original lesen](https://broadrouter.com/glossary/vocabulary-size/) (aktualisiert am 2026-11-16).

# Vokabulargröße (vocabulary size)

Aktualisiert 2026-11-16

Die Vokabulargröße ist die Zahl der unterschiedlichen Tokens im Tokenizer eines Sprachmodells, jedes mit eigener ID und eigenem Embedding. Ein größeres Vokabular kann gängigen Text mit weniger Tokens codieren, vergrößert aber die Embedding- und Ausgabeschichten und hilft nur bei Text, auf dem das Vokabular trainiert wurde.

Auch genannt: Vokabulargröße, Tokenizer-Vokabular, Token-Vokabular, Größe des Vokabulars, vocab size, vocab\_size, tokenizer vocabulary, token vocabulary

Die Vokabulargröße sagt Ihnen, wie viele verschiedene Textstücke ein Modell mit einem einzigen [Token](https://broadrouter.com/de/glossary/token/) darstellen kann.

## So funktioniert es

Das Vokabular eines [BPE](https://broadrouter.com/de/glossary/bpe/)\-Tokenizers besteht aus seinen Basissymbolen plus jedem gelernten Merge. Die Dokumentation von Hugging Face nennt das ursprüngliche GPT als Beispiel: 478 Basis-Tokens + 40.000 Merges = 40.478. Wer den Tokenizer baut, legt die Zielgröße vor dem Training fest.

Wir haben die Vokabulare am 2026-11-14 aus der fest versionierten `tokenizer.json` jedes Modells auf Hugging Face ausgelesen:

| Tokenizer | Vokabulareinträge | IDs insgesamt inkl. Spezial-Tokens |
| --- | --- | --- |
| DeepSeek V4.1 Flash | 128.000 | 129.280 |
| GLM 5.3 | 154.820 | 154.856 |
| Qwen3.8 27B | 248.044 | 248.077 |
| Gemma 4 26B A4B (Google-Basis) | 262.144 | 262.144 |
| OpenAI o200k\_base (Referenz) | 199.998 | 200.019 |

Die Modellkarte von Gemma 4 nennt ein Vokabular von 262K, was übereinstimmt. Die Karte von Qwen3.8 führt eine Embedding-Größe von 248.320 als „padded“ (Übersetzung: „aufgefüllt“), größer als die 248.077 tatsächlich genutzten IDs.

## Warum es wichtig ist

Für API-Nutzer ist die Vokabulargröße nur ein indirekter Hinweis auf die Kosten pro Wort. Entscheidend ist, auf welchem Text die Merges trainiert wurden. Vergleichen Sie die Tokens pro 100 Wörter für dieselben 39,037 Wörter in modernem Hocharabisch in unserem [Tokenizer-Datensatz](https://broadrouter.com/data/tokenizer-efficiency/):

-   DeepSeek V4.1 Flash, 128.000 Einträge: 86,690 / 39,037 x 100 = 222.1
-   GLM 5.3, 154.820 Einträge: 95,230 / 39,037 x 100 = 243.9
-   Qwen3.8 27B, 248.044 Einträge: 71,424 / 39,037 x 100 = 183.0
-   Gemma 4, 262.144 Einträge: 79,120 / 39,037 x 100 = 202.7

GLM 5.3 hat mehr Einträge als DeepSeek, braucht für diesen Text aber mehr Tokens. Gemma hat die meisten Einträge, ist aber nicht am kompaktesten. Bei englischer Prosa liegen alle fünf zwischen 127 und 132 Tokens pro 100 Wörter, dort spielt die Vokabulargröße also kaum eine Rolle.

Die Regel: Messen Sie Ihren eigenen Text mit dem [Tokenizer](https://broadrouter.com/de/glossary/tokenizer/) des Modells, statt die Kosten aus der Vokabularzahl abzuleiten.

## Bei BroadNet Inference

BroadNet veröffentlicht keine Vokabulargrößen; die Zahlen oben stammen aus den öffentlichen Modell-Repos. Die Gemma-Zeile nutzt den Basis-Tokenizer von Google, den nach unserer Annahme auch der Build Gemma 4 VL 26B von BroadNet beibehält. Um die Wirkung auf Ihre eigenen Prompts zu sehen, nutzen Sie den [Token-Zähler](https://broadrouter.com/tools/token-counter/), und für die Modellwahl bei Arabisch lesen Sie [ein LLM für Arabisch wählen](https://broadrouter.com/de/blog/choosing-an-llm-for-arabic/) zusammen mit der [Studie zu Tokens pro Wort](https://broadrouter.com/de/blog/tokens-per-word-arabic-english/).

## Häufige Fragen

### Bedeutet ein größeres Vokabular weniger Tokens?

Oft, aber nicht immer. In unserem Test vom 2026-11-14 hat Gemma 4 das größte Vokabular (262.144), brauchte aber 347 Tokens für einen arabischen Text, den Qwen3.8 27B mit 248.044 Einträgen in 316 codierte.

### Warum stimmen vocab\_size und die Tokenizer-Datei nicht überein?

Modellkonfigurationen füllen die Embedding-Tabelle oft auf eine runde Zahl auf und reservieren IDs für Spezial-Tokens. Qwen3.8 27B nennt eine aufgefüllte Größe von 248.320, während seine tokenizer.json die IDs 0 bis 248.076 nutzt (IDs beginnen bei 0), insgesamt also 248.077.

### Wo finde ich die Vokabulargröße eines Modells?

In der config.json des Modells als vocab\_size oder indem Sie seine tokenizer.json laden und die Einträge zählen. Der Wert in der Konfiguration ist oft aufgefüllt, die Tokenizer-Datei liefert daher die genaue Zahl der genutzten Tokens.

## Siehe auch

-   [Tokenizer](https://broadrouter.com/de/glossary/tokenizer/) (Begriff)
-   [Byte Pair Encoding (BPE)](https://broadrouter.com/de/glossary/bpe/) (Begriff)
-   [Token](https://broadrouter.com/de/glossary/token/) (Begriff)
-   [Kontextfenster (Context Window)](https://broadrouter.com/de/glossary/context-window/) (Begriff)
-   [Tokens pro Wort, Arabisch vs. Englisch: Warum Arabisch mehr kostet](https://broadrouter.com/de/blog/tokens-per-word-arabic-english/) (Artikel)
-   [LLM-API für Arabisch auswählen: Was Sie testen sollten](https://broadrouter.com/de/blog/choosing-an-llm-for-arabic/) (Artikel)

Testen Sie es mit Ihrem echten Workload. Neue Konten starten mit USD 5 Guthaben für Gemma und Transkription. DeepSeek, GLM und Qwen3.8 erfordern eine Aufladung.

[Loslegen](https://inference.broadnet.ai/account/?utm_source=broadrouter&utm_medium=referral&utm_campaign=de-glossary-vocabulary-size&utm_content=page-cta) ·

**Quellen**

-   [Hugging Face Transformers, Tokenisierungsalgorithmen (Vokabulargröße als Basis plus Merges)](https://huggingface.co/docs/transformers/tokenizer_summary)
-   [Hugging-Face-Modellkarte, google/gemma-4-26B-A4B-it (Vokabular von 262K)](https://huggingface.co/google/gemma-4-26B-A4B-it)
-   [Hugging-Face-Modellkarte, Qwen/Qwen3.8-27B (aufgefülltes Embedding von 248.320)](https://huggingface.co/Qwen/Qwen3.8-27B)
-   [Hugging-Face-Modell-Repo, zai-org/GLM-5.3 (Quelle der GLM-Datei tokenizer.json)](https://huggingface.co/zai-org/GLM-5.3)
