---
title: "Was ist ein Request-Timeout? Timeouts für LLM-API-Aufrufe"
description: "Ein Request-Timeout legt fest, wie lange ein Client auf eine LLM-API wartet. Connect- und Read-Timeouts, SDK-Standardwerte, 408 und 504 und sichere Retries."
url: https://broadrouter.com/de/glossary/request-timeout/
lang: de
updated: 2026-11-15
publisher: BroadRouter (a BroadNet site); API by BroadNet Inference, https://inference.broadnet.ai
---

Mit KI-Unterstützung aus dem Englischen übersetzt. [Englisches Original lesen](https://broadrouter.com/glossary/request-timeout/) (aktualisiert am 2026-11-15).

# Request-Timeout (Zeitüberschreitung)

Aktualisiert 2026-11-15

Ein Request-Timeout ist die längste Zeit, die ein HTTP-Client auf einen Server wartet, bevor er die Anfrage aufgibt. Clients teilen ihn meist in einen Connect-Timeout für den Verbindungsaufbau und einen Read-Timeout für das Warten auf Daten. LLM-Aufrufe brauchen großzügige Read-Timeouts, weil lange Antworten Zeit kosten.

Auch genannt: Timeout, Request-Timeout, Zeitüberschreitung, Read-Timeout, Connect-Timeout, Client-Timeout, HTTP-Timeout, request timeout, read timeout, connect timeout, client timeout, HTTP timeout

Jeder Netzwerkaufruf braucht einen Punkt, an dem Sie aufhören zu warten. Bei LLM-Aufrufen ist dieser Punkt schwer zu wählen, weil eine langsame Antwort und eine tote Verbindung eine Weile gleich aussehen.

## So funktioniert es

HTTP-Clients teilen das Warten in Phasen auf. HTTPX, ein verbreiteter HTTP-Client für Python, kennt vier:

| Timeout | Bedeutung bei HTTPX | Fehler |
| --- | --- | --- |
| Connect | Längste Zeit für den Aufbau einer Socket-Verbindung | `ConnectTimeout` |
| Read | Längste Wartezeit auf einen Chunk eingehender Daten | `ReadTimeout` |
| Write | Längste Wartezeit, um einen Chunk des Request-Bodys zu senden | `WriteTimeout` |
| Pool | Längste Wartezeit auf eine Verbindung aus dem Pool | `PoolTimeout` |

Reines HTTPX bricht standardmäßig nach fünf Sekunden ohne Netzwerkaktivität ab. Das OpenAI Python SDK setzt einen eigenen Standardwert: „By default requests time out after 10 minutes“ (Übersetzung: „Standardmäßig laufen Anfragen nach 10 Minuten in einen Timeout“), wirft `APITimeoutError` und wiederholt eine Anfrage mit Timeout zweimal. Standardmäßig wiederholt es auch Verbindungsfehler sowie Antworten mit 408, 409, 429 und 5xx.

```python
from openai import OpenAI
client = OpenAI(base_url="https://inference.broadnet.ai/v1", timeout=120.0, max_retries=2)
```

Auch Server haben Timeouts. MDN definiert 504 Gateway Timeout als ein Gateway oder Proxy, das „did not get a response in time from the upstream server“ (Übersetzung: „nicht rechtzeitig eine Antwort vom Upstream-Server erhalten hat“), und 408 Request Timeout als einen Server, der „to shut down this unused connection“ (Übersetzung: „diese ungenutzte Verbindung schließen“) möchte.

## Warum es wichtig ist

-   **Reasoning-Modelle starten langsam.** Das Nachdenken passiert vor dem ersten sichtbaren Token. Ein kurzer Read-Timeout bei einem Aufruf ohne Streaming kann eine gesunde Anfrage abschneiden.
-   **Streams erkennen Hänger.** Bei [Streaming](https://broadrouter.com/de/glossary/streaming/) setzt jeder Chunk den Read-Timer zurück; ein Hänger fällt also auch bei einer langen Antwort schnell auf.
-   **Retries können die Kosten verdoppeln.** Ein Timeout heißt nicht, dass der Server aufgehört hat. Wer eine noch laufende Anfrage wiederholt, zahlt womöglich doppelt. Nutzen Sie [exponentiellen Backoff](https://broadrouter.com/de/glossary/exponential-backoff/) mit Obergrenze und einen [Idempotency Key](https://broadrouter.com/de/glossary/idempotency-key/), wo eine API ihn unterstützt.

## Bei BroadNet Inference

Laut [API-Referenz](https://inference.broadnet.ai/docs?utm_source=broadrouter&utm_medium=referral&utm_campaign=de-glossary-request-timeout&utm_content=body) von BroadNet lesen Sie einen Stream bis `data: [DONE]`. Endet die Verbindung vorher, sollen Sie „treat the response as incomplete, record the X-Request-ID“ (Übersetzung: „die Antwort als unvollständig behandeln und die X-Request-ID notieren“) und entscheiden, ob Ihre Anwendung sicher eine neue Anfrage stellen kann. Bei 500, 502, 503 und 504 empfiehlt sie Retries mit begrenztem exponentiellem Backoff; 429 bedeutet, dass ein Raten-, Parallelitäts-, Token-Raten- oder Ausgabenlimit erreicht wurde. Bewahren Sie die X-Request-ID für den Support auf. Die [Anleitung zu Fehlercodes und Retries](https://broadrouter.com/de/guides/errors-and-retries/) und der [Beitrag zu lang laufenden Agenten](https://broadrouter.com/de/blog/long-running-agents-timeouts-retries/) zeigen funktionierende Einstellungen.

## Häufige Fehler

-   Den Standardwert lassen und sich wundern, warum ein hängender Aufruf einen Worker zehn Minuten blockiert.
-   Ohne Obergrenze wiederholen, sodass aus einer schlechten Minute eine Flut von Anfragen wird.

## Häufige Fragen

### Welchen Standard-Timeout hat das OpenAI Python SDK?

Das README schreibt „By default requests time out after 10 minutes“ (Übersetzung: „Standardmäßig laufen Anfragen nach 10 Minuten in einen Timeout“), und Anfragen mit Timeout werden standardmäßig zweimal mit kurzem exponentiellem Backoff wiederholt.

### Sollte ich für jeden LLM-Aufruf denselben Timeout nutzen?

Nein. Ein kurzer Klassifizierungsaufruf und eine lange Reasoning-Antwort brauchen unterschiedliche Limits. Bei Streaming erkennt ein Read-Timeout auf die Pause zwischen Chunks Hänger besser als ein einziges langes Gesamtlimit.

### Was tue ich, wenn ein Stream bei BroadNet zu früh endet?

Laut BroadNet behandeln Sie einen Stream, der vor data: \[DONE\] endet, als unvollständig, notieren die X-Request-ID und entscheiden, ob Ihre Anwendung sicher eine neue Anfrage stellen kann.

## Siehe auch

-   [Exponentieller Backoff (Exponential Backoff)](https://broadrouter.com/de/glossary/exponential-backoff/) (Begriff)
-   [Streaming](https://broadrouter.com/de/glossary/streaming/) (Begriff)
-   [Latenz (LLM)](https://broadrouter.com/de/glossary/latency/) (Begriff)
-   [Idempotenzschlüssel (Idempotency Key)](https://broadrouter.com/de/glossary/idempotency-key/) (Begriff)
-   [Rate Limit (Ratenbegrenzung)](https://broadrouter.com/de/glossary/rate-limit/) (Begriff)
-   [Modell-Fallback (Model Fallback)](https://broadrouter.com/de/glossary/model-fallback/) (Begriff)
-   [Fehlercodes von BroadNet Inference: Wann ist ein Retry sinnvoll?](https://broadrouter.com/de/guides/errors-and-retries/) (Anleitung)
-   [Chat Completions streamen und abgebrochene Verbindungen behandeln](https://broadrouter.com/de/guides/streaming-chat-completions/) (Anleitung)
-   [OpenAI Python SDK mit BroadNet Inference nutzen](https://broadrouter.com/de/guides/openai-python-sdk/) (Anleitung)
-   [Lang laufende Agenten: Timeouts, Retries und Checkpoints, die halten](https://broadrouter.com/de/blog/long-running-agents-timeouts-retries/) (Artikel)
-   [LLM-API-Fehler 429 behandeln: Backoff, Jitter und Limiter](https://broadrouter.com/de/blog/handle-llm-api-429-rate-limits/) (Artikel)

Testen Sie es mit Ihrem echten Workload. Neue Konten starten mit USD 5 Guthaben für Gemma und Transkription. DeepSeek, GLM und Qwen3.8 erfordern eine Aufladung.

[Loslegen](https://inference.broadnet.ai/account/?utm_source=broadrouter&utm_medium=referral&utm_campaign=de-glossary-request-timeout&utm_content=page-cta) ·

**Quellen**

-   [README des OpenAI Python SDK, Timeouts und Retries (geprüft am 2026-11-15)](https://github.com/openai/openai-python)
-   [HTTPX-Dokumentation, Timeouts (geprüft am 2026-11-15)](https://www.python-httpx.org/advanced/timeouts/)
-   [MDN, 504 Gateway Timeout (geprüft am 2026-11-15)](https://developer.mozilla.org/en-US/docs/Web/HTTP/Reference/Status/504)
-   [MDN, 408 Request Timeout (geprüft am 2026-11-15)](https://developer.mozilla.org/en-US/docs/Web/HTTP/Reference/Status/408)
-   [API-Referenz von BroadNet Inference, Streaming und Fehler (geprüft am 2026-11-15) (auf Englisch)](https://inference.broadnet.ai/docs?utm_source=broadrouter&utm_medium=referral&utm_campaign=de-glossary-request-timeout&utm_content=sources)
