„Welches Modell nehmen wir?“ ist die zweite Frage. Die erste lautet: „Was geht hinein, und was muss herauskommen?“ Das Foto einer Rechnung, eine Sprachnachricht eines Kunden und eine getippte Frage gehen jeweils an eine andere Art von Endpoint, und jeder Endpoint hat eigene Modelle, Limits und Fehlerbilder. Wählen Sie zuerst die Aufgabe, dann schrumpft die Modellliste auf zwei oder drei.
Dieser Leitfaden ordnet gängige Aufgaben Input-Typen zu und dann dem, was BroadNet Inference jeweils dokumentiert. BroadRouter ist die eigene Website von BroadNet; die Modellangaben unten stammen aus dem Preis-Feed und der API-Referenz von BroadNet, geprüft am 15. November 2026.
Welchen Input-Typ braucht Ihre Aufgabe?
| Ihre Aufgabe | Input | Output | Endpoint | Modelle bei BroadNet |
|---|---|---|---|---|
| Text beantworten, zusammenfassen, klassifizieren oder übersetzen | Text | Text | Chat Completions | Jedes der vier Chat-Modelle |
| Eigene Funktionen oder Tools aufrufen | Text | Tool Calls | Chat Completions | GLM 5.3, Qwen3.8 27B (dokumentiert) |
| Foto, Scan, Screenshot oder Formular lesen | Bild + Text | Text oder JSON | Chat Completions mit Bild | DeepSeek V4.1 Flash, Qwen3.8 27B, Gemma 4 VL 26B |
| Aufnahme oder Sprachnachricht in Text umwandeln | Audiodatei | Text | Audio Transcriptions | Transcribe Arabic, Transcribe (14 Sprachen) |
| Anruf zusammenfassen oder Sprachnachricht beantworten | Audiodatei | Text | Transkription, dann Chat | Je eines |
| Antwort laut sprechen | Text | Audio | Text-to-Speech | Nicht angeboten |
| Live-Sprachgespräch führen | Audiostream | Audio | Echtzeit-Sprache | Nicht angeboten |
| Bild erzeugen | Text | Bild | Bildgenerierung | Nicht angeboten |
| Semantische Suche über Dokumente | Text | Vektoren | Embeddings | Nicht angeboten |
„Vision“ bedeutet in dieser Tabelle Bildverständnis: Das Modell liest ein Bild, das Sie senden. Es bedeutet nicht, Bilder zu erzeugen. Der Glossareintrag Vision Language Model erklärt den Unterschied.
Was unterscheidet Chat und Transkription?
Es sind verschiedene Endpoints mit unterschiedlichem Anfrageformat, unterschiedlichen Abrechnungseinheiten und Modellen.
Chat (POST /v1/chat/completions) nimmt eine Liste von Nachrichten als JSON und gibt Text zurück. Abgerechnet wird pro Token, Input und Output getrennt, und jedes Modell hat ein Kontextfenster, das Prompt und Antwort zusammen fasst. Bei BroadNet denken drei der vier Chat-Modelle vor der Antwort nach, und dieses Reasoning zählt zu max_tokens; lassen Sie also Spielraum (Reasoning-Tokens und leere Antworten).
Transkription (POST /v1/audio/transcriptions) nimmt eine Audiodatei als Multipart-Upload und gibt das Transkript zurück. Abgerechnet wird pro Audiominute. Die Dokumentation von BroadNet nennt WAV oder MP3 bis 26.214.400 Byte pro Datei und rät, immer language zu senden, weil Arabisch sonst in lateinische Buchstaben transliteriert zurückkommen kann.
| Modell | Sprachen | Preis |
|---|---|---|
| BroadNet Transcribe Arabic | Arabisch: Golf, Ägyptisch, Levantinisch, Maghrebinisch und Hocharabisch, laut BroadNet | $0.0042 pro Minute (etwa $0.25 pro Stunde) |
| BroadNet Transcribe | 14, darunter Englisch, Spanisch, Französisch, Mandarin und Arabisch | $0.002 pro Minute (etwa $0.12 pro Stunde) |
Ein Chat-Modell nimmt bei BroadNet kein Audio an, und ein Transkriptionsmodell beantwortet keine Fragen. Ein Sprachassistent, der in Text antwortet, besteht aus zwei Aufrufen: transkribieren, dann chatten. Arabische Sitzungsprotokolle aus Aufnahmen baut genau diese Kette.
Welche Modelle akzeptieren Bilder?
Diejenigen, deren Feed-Eintrag image unter modalities führt. Stand 15. November 2026:
| Modell | Inputs | Kontext | Input / Output pro 1 Mio. Tokens | Zugang |
|---|---|---|---|---|
| DeepSeek V4.1 Flash | Text, Bild | 1.048.576 | $0.175 / $0.52 | Aufladung nötig |
| Qwen3.8 27B | Text, Bild | 262.144 | $0.175 / $2.17 | Aufladung nötig |
| Gemma 4 VL 26B | Text, Bild | 32.768 | $0.10 / $0.22 | Startguthaben von $5 |
| GLM 5.3 | Nur Text | 1.048.576 | $0.78 / $3.46 | Aufladung nötig |
Senden Sie das Bild als data:-URL im Nachrichteninhalt, mit korrektem MIME-Typ. Laut Dokumentation von BroadNet wird Vision „only where the model row explicitly says images or vision“ (Übersetzung: „nur dort, wo die Modellzeile ausdrücklich Bilder oder Vision nennt“) angeboten. Die Dokumentation nennt keine akzeptierten Bildformate; testen Sie also jedes Format, das Sie annehmen wollen. Mit einem Pay-as-you-go-Schlüssel wird ein Bild als Input-Tokens abgerechnet, und ein größeres Bild verbraucht mehr; verkleinern Sie es vor dem Senden und schätzen Sie mit dem Bild-Token-Rechner. Dokumentenextraktion von Anfang bis Ende beschreibt Daten aus Dokumenten mit einem Vision-LLM extrahieren.
Wie leiten Sie jeden Input im Code weiter?
Diese Funktion wählt den Endpoint nach Dateityp, prüft vor dem Senden die dokumentierten Limits und liest die Liste der bildfähigen Modelle aus dem Live-Feed, statt sie fest einzutragen. Sie nutzt das OpenAI Python SDK, das mit geänderter Basis-URL mit BroadNet funktioniert (Einrichtungsanleitung).
import base64, json, mimetypes, os, urllib.request
from pathlib import Path
from openai import OpenAI
client = OpenAI(base_url=os.environ.get("BROADNET_BASE_URL", "https://inference.broadnet.ai/v1"),
api_key=os.environ["BROADNET_API_KEY"])
feed = json.load(urllib.request.urlopen("https://inference.broadnet.ai/pricing.json", timeout=30))
live = [m for m in feed["models"] if m.get("status", "live") == "live"]
VISION = {m["id"] for m in live if "image" in m.get("modalities", [])}
AUDIO_TYPES = {"audio/wav", "audio/x-wav", "audio/mpeg"} # WAV or MP3, per the docs
AUDIO_MAX = 26_214_400 # bytes per file, per the docs
IMAGE_TYPES = {"image/jpeg", "image/png", "image/webp"} # your allow-list; test each one
def run(task: str, path: str | None = None, *, chat_model="broadnet/gemma-4-26b-a4b",
stt_model="broadnet/cohere-transcribe-arabic", language="ar") -> str:
kind = mimetypes.guess_type(path)[0] if path else None
if kind is None: # text only
r = client.chat.completions.create(model=chat_model, max_tokens=1500,
messages=[{"role": "user", "content": task}])
return r.choices[0].message.content
if kind in AUDIO_TYPES or kind.startswith("audio/"):
if kind not in AUDIO_TYPES:
raise ValueError(f"{kind}: convert first, e.g. ffmpeg -i in.ogg -ar 16000 -ac 1 out.wav")
if Path(path).stat().st_size > AUDIO_MAX:
raise ValueError("over 26,214,400 bytes: split the audio before sending")
with open(path, "rb") as f: # step 1: speech to text
text = client.audio.transcriptions.create(model=stt_model, file=f, language=language).text
return run(f"{task}\n\nTranscript:\n{text}", chat_model=chat_model) if task else text
if kind in IMAGE_TYPES:
if chat_model not in VISION:
raise ValueError(f"{chat_model} takes no images here; pick one of {sorted(VISION)}")
data = base64.b64encode(Path(path).read_bytes()).decode()
r = client.chat.completions.create(model=chat_model, max_tokens=1500, messages=[{"role": "user",
"content": [{"type": "text", "text": task},
{"type": "image_url", "image_url": {"url": f"data:{kind};base64,{data}"}}]}])
return r.choices[0].message.content
raise ValueError(f"unsupported input type {kind}")
Wir haben sie mit BROADNET_BASE_URL auf einen lokalen Mock-Server (kein Live-API-Aufruf) und mit dem Live-Preis-Feed getestet. Text, eine WAV-Datei, eine WAV-Datei mit Folgeaufgabe und ein PNG erreichten jeweils den richtigen Mock-Endpoint. Das PNG mit chat_model="broadnet/glm-5.3" wurde vor jeder Anfrage abgelehnt, mit den drei bildfähigen IDs aus dem Feed in der Meldung. Eine .ogg-Datei wurde mit dem ffmpeg-Befehl zur Konvertierung abgelehnt; WhatsApp-Sprachnachrichten transkribieren behandelt diesen Schritt. Aufnahmen über der Größengrenze müssen geteilt werden; der Audio-Splitter erzeugt die ffmpeg-Befehle.
Was, wenn das Dokument bereits Text ist?
Dann senden Sie kein Bild davon. Ein PDF, das aus einer Buchhaltungssoftware oder einer Textverarbeitung exportiert wurde, hat meist eine Textebene; extrahieren Sie sie mit einer PDF-Bibliothek und senden Sie den Text an ein Chat-Modell. Das ist mit einem Pay-as-you-go-Schlüssel günstiger als ein Bild, vermeidet Lesefehler und funktioniert auch mit GLM 5.3. Behalten Sie Vision für Scans, Handyfotos, Handschrift, Stempel und Screenshots, wo es keine Textebene gibt.
Eine nützliche Regel in einer Dokumenten-Pipeline: Versuchen Sie zuerst die Textextraktion, prüfen Sie, ob echter Text herauskam (keine leeren Seiten oder Zeichensalat), und greifen Sie nur dann auf das Bild zurück, wenn nicht. Lesen Sie bei arabischen PDFs eine Stichprobe des extrahierten Texts, bevor Sie ihm vertrauen: Je nachdem, wie das PDF erzeugt wurde, kann die Extraktion arabische Buchstaben in falscher Reihenfolge oder in unverbundenen Präsentationsformen liefern. Arabisches OCR mit einem Vision-LLM behandelt die Fälle, in denen das Bild die bessere Quelle ist.
Wie unterscheiden sich die Kosten?
Jeder Input-Typ wird in einer eigenen Einheit abgerechnet; vergleichen Sie also pro Aufgabe, nicht pro Anfrage:
- Text wird pro Input- und Output-Token abgerechnet. Arabisch braucht für denselben Inhalt oft mehr Tokens als Englisch; der arabische Token-Zähler misst das.
- Bilder sind bei Pay-as-you-go Input-Tokens zum Input-Preis des Modells; ein großes Foto kann also mehr kosten als eine Seite Text. In einem DeepSeek-Session-Plan sind Bilder im Pauschalpreis enthalten.
- Audio wird pro Audiominute abgerechnet, unabhängig davon, was gesagt wird. Bei BroadNet kosten 10.000 arabische Sprachnachrichten von je 30 Sekunden mit dem arabischen Modell etwa $21.00. Der Speech-to-Text-Kostenrechner rechnet andere Mengen.
Eine Kette addiert ihre Teile: Eine Sprachnachricht, die ein Chat-Modell beantwortet, kostet die Transkriptionsminuten plus die Chat-Tokens für Transkript und Antwort. Der LLM-API-Kostenrechner übernimmt die Chat-Seite.
Was wird nicht angeboten, und was tun Sie stattdessen?
Die API-Referenz von BroadNet dokumentiert zwei Inferenz-Endpoints: Chat Completions und Audio Transcriptions. Es gibt also kein:
- Text-to-Speech. Kein
/v1/audio/speech. Muss Ihr Produkt sprechen, kombinieren Sie Transkription und Chat von BroadNet mit einem separaten TTS-Dienst. - Live-Sprache. Die Transkription nimmt eine hochgeladene Datei, keinen Live-Audiostream. Für einen Telefonagenten, der mitten im Gespräch antworten muss, brauchen Sie anderswo einen Echtzeit-Sprach-Stack. Browser-Audio für die Transkription aufnehmen zeigt die dateibasierte Alternative.
- Bildgenerierung. Vision liest hier Bilder; es erzeugt keine.
- Embeddings. Kein
/v1/embeddings. Für Retrieval brauchen Sie ein Embedding-Modell eines anderen Anbieters oder ein selbst gehostetes; der Embedding-Kostenrechner vergleicht Preise.
Der Forschungskatalog von BroadNet führt durchaus Text-to-Speech-, Bildgenerierungs- und Embedding-Modelle, markiert als in seinem Labor „benchmarked“. Das dokumentiert, was BroadNet getestet hat, nicht, was seine API verkauft; einen Modellkatalog lesen erklärt den Unterschied.
Warum brauchen Sie für jeden Input ein eigenes Evaluierungsset?
Weil jeder Input-Typ anders scheitert und ein Durchschnitt über alle die Fehler verdeckt.
- Text: Bewerten Sie mit echten Nutzernachrichten, wo möglich mit Prüfungen im Code. Die Methode steht in ein LLM vor dem Wechsel evaluieren.
- Bilder: Nutzen Sie echte Fotos in echter Qualität: schräg aufgenommene Handybilder, verblasste Belege, Stempel über Text. Bewerten Sie jedes Feld einzeln. Ein sauber gerendertes PDF schneidet weit besser ab als die Fotos, die Ihre Nutzer schicken werden.
- Sprache: Messen Sie die Wortfehlerrate an Ihren eigenen Aufnahmen, getrennt nach Dialekt, Sprecher und Leitungsqualität, und prüfen Sie die Wörter, auf die es ankommt (Namen, Zahlen, Beträge), gesondert. Siehe WER bei arabischem ASR erklärt.
- Ketten: Fließt Sprache in ein Chat-Modell, bewerten Sie beide Schritte und das Endergebnis. Eine falsch verstandene Zahl wird zu einer selbstsicher falschen Antwort, und nur ein End-to-End-Test zeigt, wie oft.
Halten Sie die Sets getrennt, versionieren Sie sie und lassen Sie das passende erneut laufen, sobald Sie ein Modell oder einen Prompt ändern.
Wo BroadNet Inference ins Bild passt
BroadNet Inference deckt die ersten fünf Zeilen der Aufgabentabelle mit einem Schlüssel und einer Basis-URL ab: Text-Chat, Tool Calling auf GLM 5.3 und Qwen3.8 27B, Bildverständnis auf drei Modellen sowie arabische oder mehrsprachige Transkription. Gemma 4 VL 26B und beide Transkriptionsmodelle laufen mit dem Startguthaben von $5; DeepSeek, GLM und Qwen brauchen eine Aufladung. Inferenzinhalte werden nicht gespeichert; notwendige Konto-, Abrechnungs- und Sicherheitsmetadaten werden gespeichert, wie in der Datenschutzerklärung von BroadNet beschrieben. Für Sprachausgabe, Bildgenerierung, Live-Sprache oder Embeddings nutzen Sie einen anderen Dienst. Die Preise für alles oben stehen auf der Preisseite.
