---
title: "Error 429 en API de LLM: backoff, jitter y colas | BroadRouter"
description: "429 frente a 5xx, backoff exponencial con full jitter, limitadores de concurrencia y colas para API de LLM, con código en Python y Node listo para producción."
url: https://broadrouter.com/es/blog/handle-llm-api-429-rate-limits/
lang: es
updated: 2026-11-14
publisher: BroadRouter (a BroadNet site); API by BroadNet Inference, https://inference.broadnet.ai
---

Traducido del inglés con ayuda de IA. [Lea el original en inglés](https://broadrouter.com/blog/handle-llm-api-429-rate-limits/) (actualizado el 2026-11-15).

# Cómo manejar el 429 de una API de LLM: backoff, jitter y limitadores

Por el equipo de BroadNet Inference · 5 min de lectura · Publicado 2026-11-14 · Actualizado 2026-11-15

Un 429 significa que alcanzó un límite de frecuencia, de concurrencia o de gasto. Reinténtelo con backoff exponencial acotado y jitter aleatorio, y respete Retry-After si llega. Después evite la mayoría de los 429: limite las solicitudes en curso con un semáforo al límite de la clave y ponga el resto en cola. Reintente los 5xx igual; los demás 4xx, corríjalos.

## Puntos clave

-   Reintente los 429 y 5xx con backoff exponencial acotado. No reintente 400, 401, 403, 413 ni 422: corrija la solicitud o la cuenta.
-   El full jitter (una espera aleatoria entre cero y el tope exponencial) evita que muchos clientes reintenten en el mismo instante.
-   La mayoría de los 429 vienen de la concurrencia, no del volumen. Un semáforo ajustado al límite de solicitudes en curso de la clave los elimina de raíz.
-   Una clave de pago por uso de BroadNet permite 30 solicitudes por minuto y 4 en curso; las sesiones de plan ejecutan una solicitud a la vez.
-   Los reintentos son inferencias nuevas. Con facturación por token, cada uno se vuelve a facturar, así que limite los intentos.

**En esta página**

1.  ¿Qué diferencia hay entre 429 y 5xx?
2.  ¿Qué límites provocan los 429?
3.  ¿Cómo se escribe un backoff con jitter?
4.  ¿Cómo evitar los 429 antes de que ocurran?
5.  ¿Cuándo necesita una cola de verdad?
6.  ¿Qué errores de reintento convierten los 429 en caídas?
7.  Dónde encaja BroadNet Inference

Un 429 significa que su tráfico superó un [límite de frecuencia](https://broadrouter.com/es/glossary/rate-limit/): solicitudes por minuto, solicitudes en curso, tokens por minuto o gasto. Se resuelve en dos mitades. **Reintentar bien**: backoff exponencial acotado con jitter aleatorio, respetando `Retry-After`. **Enviar menos a la vez**: un semáforo al límite de solicitudes en curso de la clave, más una cola. Encontrará ambas abajo, con código.

Para una referencia completa de códigos de estado, consulte la [guía de errores y reintentos](https://broadrouter.com/es/guides/errors-and-retries/); para ejecuciones de agentes de varias horas con puntos de control y tiempos de espera, consulte [agentes de larga duración: tiempos de espera y reintentos](https://broadrouter.com/es/blog/long-running-agents-timeouts-retries/).

## ¿Qué diferencia hay entre 429 y 5xx?

| Estado | De quién es el problema | ¿Reintentar? | Cómo |
| --- | --- | --- | --- |
| 429 | Su tráfico superó un límite | Sí | Backoff con jitter; respete `Retry-After`; reduzca la concurrencia |
| 500 / 502 / 503 / 504 | Del lado del servidor | Sí | Backoff exponencial acotado |
| Conexión restablecida, tiempo de espera agotado | Red o servidor | Normalmente | Backoff; en streams, solo si una nueva factura es aceptable |
| 400 / 422 | Solicitud incorrecta | No | Corrija el contenido de la solicitud |
| 401 / 402 / 403 | Clave, saldo o política | No | Corrija la clave, recargue la cuenta o corrija la lista de permitidos |
| 413 | Solicitud demasiado grande | No | Redúzcala |

En BroadNet Inference, un 429 puede deberse a cualquiera de cuatro límites: frecuencia, concurrencia, tasa de tokens o gasto. Un límite de gasto no se despeja en 30 segundos. La documentación de BroadNet no indica qué campo del cuerpo del error nombra el límite, así que registre el cuerpo y compárelo con los límites que aparecen en los detalles de su clave.

Nuestro conjunto de datos abierto de [niveles gratuitos y límites de frecuencia de API de LLM](https://broadrouter.com/data/llm-api-free-tiers-and-rate-limits/) compara lo que publican 14 proveedores sobre acceso gratuito, límites de frecuencia iniciales, requisito de tarjeta y entrenamiento con datos del nivel gratuito, con la fuente y la fecha de cada valor.

## ¿Qué límites provocan los 429?

Conozca los números con los que trabaja. En BroadNet Inference:

| Tipo de clave | Solicitudes / minuto | En curso | Otros |
| --- | --- | --- | --- |
| Pago por uso | 30 | 4 | Presupuesto de gasto compartido |
| Clave por hora | 120 | 1 stream | 300,000 tokens / minuto |
| Sesión de plan ilimitado | — | 1 solicitud por sesión | Sin medidor de tokens |

El número de solicitudes en curso es el que más importa en los LLM. Una respuesta en streaming ocupa su plaza hasta que llega el último token, así que una respuesta larga la mantiene ocupada todo el tiempo que el modelo tarde en escribirla (BroadNet indica una velocidad típica de unos 100 tokens por segundo). Si envía más llamadas en paralelo que las 4 plazas de la clave, las que sobran reciben un 429, aunque solo haya enviado unas pocas solicitudes ese minuto. Es un problema de [concurrencia](https://broadrouter.com/es/glossary/concurrency/), y el backoff por sí solo lo resuelve mal. Para dimensionar los workers según un límite antes del lanzamiento, use la [calculadora de límites de frecuencia de LLM](https://broadrouter.com/tools/llm-rate-limit-calculator/), gratuita. Para un trabajo fijo de muchos elementos, el [planificador de trabajos por lotes de LLM](https://broadrouter.com/tools/llm-batch-job-planner/) convierte esos mismos límites en un tiempo de ejecución. Otros proveedores cuentan de forma distinta (tokens por minuto, solicitudes por día o solicitudes en curso); [límites de frecuencia de API de LLM por proveedor](https://broadrouter.com/es/blog/llm-api-rate-limits-by-provider/) compara 13 de ellos según su propia documentación.

## ¿Cómo se escribe un backoff con jitter?

El [backoff exponencial](https://broadrouter.com/es/glossary/exponential-backoff/) simple espera 1, 2, 4 y 8 segundos. Si cien workers fueron limitados en el mismo momento, todos vuelven en el mismo momento. La simulación de AWS con 100 clientes en competencia mostró que el full jitter redujo el número de llamadas a menos de la mitad y terminó antes que el backoff sin jitter. La versión más sencilla, el **full jitter**, espera un tiempo aleatorio entre cero y el tope exponencial:

```python
import os, random, time
from openai import OpenAI, RateLimitError, APIStatusError, APIConnectionError

client = OpenAI(base_url="https://inference.broadnet.ai/v1", api_key=os.environ["BROADNET_API_KEY"], max_retries=0)

RETRYABLE = {429, 500, 502, 503, 504}

def call_with_backoff(max_attempts=6, base=1.0, cap=60.0, **kwargs):
    for attempt in range(max_attempts):
        try:
            return client.chat.completions.create(**kwargs)
        except (RateLimitError, APIStatusError, APIConnectionError) as e:
            status = getattr(e, "status_code", None)
            if status is not None and status not in RETRYABLE:
                raise  # 400, 401, 403...: retrying will not help
            if attempt == max_attempts - 1:
                raise
            retry_after = None
            if getattr(e, "response", None) is not None:
                retry_after = e.response.headers.get("retry-after")
            wait = random.uniform(0, min(cap, base * 2 ** attempt))
            if retry_after and retry_after.isdigit():
                wait = max(wait, float(retry_after))
            time.sleep(wait)
```

`max_retries=0` desactiva los reintentos propios del SDK para que no reintente dos veces. Si le basta con el comportamiento integrado del SDK, lo contrario también funciona: prescinda de su bucle y configure `max_retries=4` en el cliente, como muestra la [guía del SDK de Python](https://broadrouter.com/es/guides/openai-python-sdk/). Los SDK oficiales de Python y Node reintentan por defecto dos veces los errores de conexión, 408, 409, 429 y 5xx.

`Retry-After` es un encabezado estándar (RFC 9110) que puede contener segundos o una fecha. La documentación de BroadNet no lo garantiza, así que el código lo trata como opcional.

## ¿Cómo evitar los 429 antes de que ocurran?

Limite las solicitudes en curso al límite de la clave. En Python, un `asyncio.Semaphore` lo hace con un objeto y un bloque `async with`. El código usa 4 como ejemplo; ajústelo al límite de solicitudes en curso de su clave (4 en una clave de pago por uso de BroadNet):

```python
import asyncio, os
from openai import AsyncOpenAI

client = AsyncOpenAI(base_url="https://inference.broadnet.ai/v1", api_key=os.environ["BROADNET_API_KEY"], max_retries=4)
slots = asyncio.Semaphore(4)  # match the key's in-flight limit

async def ask(prompt):
    async with slots:
        r = await client.chat.completions.create(
            model="broadnet/gemma-4-26b-a4b",
            messages=[{"role": "user", "content": prompt}],
        )
        return r.choices[0].message.content

async def main(prompts):
    return await asyncio.gather(*(ask(p) for p in prompts))

results = asyncio.run(main(["Summarise A", "Summarise B", "Summarise C"]))
```

`gather` inicia todas las tareas, pero solo se ejecutan a la vez tantas como permita el semáforo. El resto espera en la cola del semáforo. En Node, el paquete `p-limit` hace lo mismo, de nuevo con 4 como valor de ejemplo:

```javascript
// ES module (top-level await). npm install openai p-limit
import OpenAI from "openai";
import pLimit from "p-limit";

const client = new OpenAI({ baseURL: "https://inference.broadnet.ai/v1", apiKey: process.env.BROADNET_API_KEY, maxRetries: 4 });
const limit = pLimit(4); // match the key's in-flight limit

async function ask(prompt) {
  const r = await client.chat.completions.create({
    model: "broadnet/gemma-4-26b-a4b",
    messages: [{ role: "user", content: prompt }],
  });
  return r.choices[0].message.content;
}

const prompts = ["Summarise A", "Summarise B", "Summarise C"];
const results = await Promise.all(prompts.map((p) => limit(() => ask(p))));
```

Si además necesita un tope por minuto, añada un token bucket que libere un permiso cada 60 / rpm segundos, donde rpm es el límite de solicitudes por minuto de su clave (30 en una clave de pago por uso de BroadNet).

## ¿Cuándo necesita una cola de verdad?

Un semáforo vive dentro de un proceso. Cuando varios workers o servidores comparten una clave, el límite es compartido y cada proceso solo ve su propio tráfico. Entonces:

1.  Ponga los trabajos en una cola compartida (Redis, SQS, una tabla de base de datos).
2.  Ejecute un número fijo de consumidores igual al límite de solicitudes en curso de la clave.
3.  Dé a cada trabajo un ID y guarde los resultados por ID, para que un trabajo reintentado no se ejecute dos veces.
4.  Envíe el tráfico interactivo y el de lotes por claves o colas separadas, para que una acumulación de lotes nunca bloquee a un usuario que espera una respuesta.

Para un trabajo masivo de miles de elementos sin Batch API, consulte [el ejecutor de lotes reanudable](https://broadrouter.com/es/blog/llm-batch-processing-without-batch-api/).

## ¿Qué errores de reintento convierten los 429 en caídas?

-   **Reintentos sin límite.** Un bucle de reintentos sin tope durante una caída larga multiplica su carga y, con facturación por token, su factura.
-   **Reintentar a ciegas un stream a medio terminar.** Si el stream ya devolvió tokens, un reintento es una inferencia nueva y el usuario puede ver el texto dos veces. Consulte [el artículo sobre streaming](https://broadrouter.com/es/blog/llm-streaming-sse-explained/) para detectar streams incompletos.
-   **Reintentar errores de cuenta.** Un 401 por una asignación de pago por uso agotada o un 402 por saldo insuficiente no se resolverán solos.

Registre cada reintento con su estado, el tiempo de espera y el encabezado de respuesta `X-Request-ID`, que la documentación de BroadNet pide conservar para soporte. Una tasa de reintentos en aumento es la primera señal de que necesita más capacidad; [el registro de uso](https://broadrouter.com/es/blog/llm-api-usage-logging/) muestra cómo anotarla.

## Dónde encaja BroadNet Inference

Los límites de BroadNet están publicados y son lo bastante pequeños como para diseñar en torno a ellos: 4 solicitudes en curso con una clave de pago por uso. Eso sirve para aplicaciones y agentes, y se queda corto para un trabajo masivo que quiera cientos de llamadas en paralelo con una sola clave. Para agentes, un [plan ilimitado](https://broadrouter.com/es/guides/unlimited-llm-api-sessions/) no tiene medidor de tokens y ejecuta una solicitud a la vez por sesión; para trabajar en paralelo se añaden sesiones, como se describe en [ejecutar agentes de programación en paralelo](https://broadrouter.com/es/blog/run-parallel-coding-agents-flat-rate/). Los límites actuales están en la [referencia de la API](https://inference.broadnet.ai/docs?utm_source=broadrouter&utm_medium=referral&utm_campaign=es-blog-handle-llm-api-429-rate-limits&utm_content=body#limits).

Herramientas gratuitas sobre este tema (en inglés)

-   [OpenAI to BroadNet migration helper](https://broadrouter.com/tools/openai-to-broadnet-migration/) Paste OpenAI SDK code; get base URL, key and model edits, a diff and the checks that remain.
-   [max\_tokens calculator for reasoning models](https://broadrouter.com/tools/reasoning-token-budget/) Answer length + reasoning budget + margin = a max\_tokens that does not cut the answer off.
-   [JSON schema generator for LLM structured output](https://broadrouter.com/tools/json-schema-generator/) Sample JSON to strict schema, Pydantic, Zod and a ready request.
-   [LLM JSON output validator](https://broadrouter.com/tools/llm-json-output-validator/) Parse errors by line and column, safe repairs, cut-off detection and JSON Schema checks for model output.

[Herramientas gratuitas (en inglés)](https://broadrouter.com/tools/)

## Términos de este artículo

[Concurrencia (concurrency)](https://broadrouter.com/es/glossary/concurrency/)

La concurrencia es el número de solicitudes que un cliente tiene en curso al mismo tiempo. Las APIs de LLM suelen limitarla por clave o por plan, aparte de las solicitudes por minuto, porque cada solicitud abierta ocupa capacidad de GPU hasta que su respuesta termina.

[Token](https://broadrouter.com/es/glossary/token/)

Un token es la unidad de texto que un modelo de lenguaje lee y escribe: una palabra, parte de una palabra, un signo de puntuación o una secuencia de bytes producida por el tokenizador del modelo. Las APIs de LLM cuentan, limitan y normalmente facturan el uso en tokens.

[Límite de frecuencia (rate limit)](https://broadrouter.com/es/glossary/rate-limit/)

Un límite de frecuencia (rate limit) es un tope que una API impone a cuánto puede usarla un cliente en un periodo, como solicitudes por minuto o tokens por minuto. Las solicitudes que lo superan se rechazan, normalmente con HTTP 429 Too Many Requests, hasta que el uso vuelve a quedar por debajo.

[Backoff exponencial (exponential backoff)](https://broadrouter.com/es/glossary/exponential-backoff/)

El backoff exponencial es una estrategia de reintento en la que el cliente espera más tiempo tras cada intento fallido, normalmente duplicando la espera hasta un tope, antes de volver a intentarlo. Añadir jitter aleatorio a cada espera dispersa los reintentos de muchos clientes para que no lleguen al servidor en el mismo instante.

[Pago por uso (pay-as-you-go)](https://broadrouter.com/es/glossary/pay-as-you-go/)

El pago por uso es un modelo de precios en el que usted paga solo lo que usa, medido por unidades como tokens, solicitudes o minutos de audio, sin suscripción ni compromiso mínimo. La mayoría de las APIs de LLM cobran así, desde un saldo prepagado o con una factura periódica.

[Streaming (respuestas en tiempo real)](https://broadrouter.com/es/glossary/streaming/)

El streaming es una forma de devolver la respuesta de un modelo de lenguaje en pequeños fragmentos mientras aún se genera, en lugar de una sola respuesta al final. Las APIs compatibles con OpenAI hacen streaming mediante server-sent events cuando la solicitud define stream como true.

[Timeout de solicitud (tiempo de espera)](https://broadrouter.com/es/glossary/request-timeout/)

Un timeout de solicitud es el tiempo máximo que un cliente HTTP espera a un servidor antes de abandonar la solicitud. Los clientes suelen dividirlo en un timeout de conexión, para abrir la conexión, y uno de lectura, para esperar los datos. Las llamadas a LLMs necesitan timeouts de lectura generosos porque las respuestas largas tardan.

[Llamadas a herramientas (tool calling)](https://broadrouter.com/es/glossary/tool-calling/)

Las llamadas a herramientas (tool calling), también llamadas function calling, son una función de las APIs de LLM en la que el modelo devuelve una solicitud estructurada para ejecutar una función definida por el desarrollador, con argumentos JSON. La aplicación ejecuta la función y devuelve el resultado; el modelo nunca ejecuta código.

## Preguntas frecuentes

### ¿Qué significa el error HTTP 429 en una API de LLM?

Too Many Requests («demasiadas solicitudes»). Superó un límite de solicitudes por minuto, de solicitudes en curso, de tokens por minuto o de gasto. La solicitud no se procesó, así que es seguro enviarla de nuevo tras una espera.

### ¿Cuánto debo esperar antes de reintentar un 429?

Use Retry-After si el servidor lo envía. Si no, empiece con alrededor de un segundo, duplique la espera en cada intento, ponga un tope de unos 30 a 60 segundos y elija una espera aleatoria entre cero y ese tope. Deténgase tras cuatro a seis intentos.

### ¿Debo reintentar los errores 500 y 503 de una API de LLM?

Sí, con el mismo backoff acotado. Son errores del lado del servidor. Un 400, 401, 403 o 422 fallará igual cada vez, así que corríjalo.

### ¿El SDK de OpenAI reintenta los 429 automáticamente?

Sí. Los SDK oficiales de Python y Node reintentan por defecto dos veces los errores de conexión, 408, 409, 429 y 5xx, con un backoff exponencial corto. Suba max\_retries para trabajos por lotes y añada su propio límite de concurrencia.

### ¿Por qué recibo un 429 si estoy por debajo del límite de solicitudes por minuto?

Normalmente por el límite de concurrencia. Las respuestas largas en streaming siguen en curso durante muchos segundos, así que unas pocas llamadas en paralelo pueden alcanzar el tope de solicitudes en curso aunque el recuento por minuto parezca bajo.

## Siga leyendo

-   [Agentes de larga duración: timeouts, reintentos y checkpoints sólidos](https://broadrouter.com/es/blog/long-running-agents-timeouts-retries/)
-   [Streaming de LLM explicado: chunks SSE, deltas, usage y cancelación](https://broadrouter.com/es/blog/llm-streaming-sse-explained/)
-   [Cómo ejecutar agentes de programación en paralelo con tarifa plana](https://broadrouter.com/es/blog/run-parallel-coding-agents-flat-rate/)
-   [Registro de uso de API de LLM: costo por usuario y función, sin PII](https://broadrouter.com/es/blog/llm-api-usage-logging/)
-   [Procesamiento por lotes con LLM sin Batch API: un runner reanudable](https://broadrouter.com/es/blog/llm-batch-processing-without-batch-api/)
-   [El hardware GPU de BroadNet y cómo sirve los modelos, según BroadNet](https://broadrouter.com/es/blog/broadnet-gpu-fleet-and-serving/)
-   [Caché de respuestas de APIs de LLM para reducir costos en Python](https://broadrouter.com/es/blog/cache-llm-responses-cut-cost/)
-   [Guía: Códigos de error de BroadNet Inference y cuándo reintentar](https://broadrouter.com/es/guides/errors-and-retries/)
-   [Guía: Usar el SDK de OpenAI para Python con BroadNet Inference](https://broadrouter.com/es/guides/openai-python-sdk/)
-   [Guía: Cómo funcionan los planes de API de LLM ilimitada para agentes](https://broadrouter.com/es/guides/unlimited-llm-api-sessions/)

Pruébelo con su carga de trabajo real. Las cuentas nuevas empiezan con USD 5 de crédito para Gemma y transcripción. DeepSeek, GLM y Qwen3.8 requieren una recarga.

[Comenzar](https://inference.broadnet.ai/account/?utm_source=broadrouter&utm_medium=referral&utm_campaign=es-blog-handle-llm-api-429-rate-limits&utm_content=page-cta) ·

**Fuentes**

-   [Referencia de la API de BroadNet Inference, errores y límites (consultado el 2026-11-14) (en inglés)](https://inference.broadnet.ai/docs?utm_source=broadrouter&utm_medium=referral&utm_campaign=es-blog-handle-llm-api-429-rate-limits&utm_content=sources#errors)
-   [AWS Architecture Blog, Exponential Backoff and Jitter (consultado el 2026-11-14)](https://aws.amazon.com/blogs/architecture/exponential-backoff-and-jitter/)
-   [RFC 6585, código de estado 429 Too Many Requests (consultado el 2026-11-14)](https://www.rfc-editor.org/rfc/rfc6585#section-4)
-   [RFC 9110, encabezado Retry-After (consultado el 2026-11-14)](https://www.rfc-editor.org/rfc/rfc9110#field.retry-after)
-   [README de openai-python, reintentos automáticos (consultado el 2026-11-14)](https://github.com/openai/openai-python)
-   [README de openai-node, reintentos (consultado el 2026-11-14)](https://github.com/openai/openai-node)
