BroadRouter

Límites de API de LLM por proveedor: RPM, TPM y concurrencia

Por el equipo de BroadNet Inference · 8 min de lectura · Publicado · Actualizado

Los límites de frecuencia de las API de LLM difieren en tipo, no solo en tamaño. OpenAI, Anthropic y Gemini limitan solicitudes y tokens por minuto según el nivel de uso. DeepSeek y DeepInfra limitan las solicitudes simultáneas. Los niveles gratuitos de Groq y Cerebras añaden topes diarios. En los primeros niveles de pago, OpenAI y Anthropic permiten miles de solicitudes por minuto; las claves de pago por uso de BroadNet, 30.

Si busca «límites de frecuencia de API de LLM», encontrará tablas en blogs que se contradicen entre sí, a menudo porque copian cifras antiguas. Esta página toma cada cifra de la documentación del propio proveedor, consultada el 15 de noviembre de 2026, indica a qué nivel y modelo se aplica y deja la celda vacía cuando el proveedor no publica el dato. Si quiere los mismos datos como conjunto descargable, con créditos gratuitos y condiciones de uso de datos, consulte niveles gratuitos y límites de frecuencia de API de LLM. BroadRouter es el sitio web de BroadNet, y los límites de BroadNet también están en la tabla.

¿Qué significan RPM, TPM, RPD y concurrencia?

Un límite de frecuencia fija cuánto puede enviar en una ventana de tiempo. Cada proveedor cuenta cosas distintas:

Límite Qué cuenta Afecta más cuando
RPM, solicitudes por minuto Solicitudes iniciadas en un minuto Envía muchas llamadas cortas (clasificación, bucles al estilo de embeddings)
RPS, solicitudes por segundo Lo mismo, en un segundo Envía ráfagas, aunque el promedio por minuto sea bajo
TPM, tokens por minuto Tokens procesados en un minuto, a veces entrada (ITPM) y salida (OTPM) por separado Envía prompts largos o documentos extensos
RPD / TPD, por día Solicitudes o tokens en un día Ejecuta un trabajo por lotes en un nivel gratuito
Concurrencia Solicitudes en curso en un mismo momento Las solicitudes son lentas: razonamiento, salidas largas, agentes

El límite que le frena depende de la forma de sus solicitudes. Con límites de concurrencia, el rendimiento depende de la duración de cada solicitud: la propia documentación de DeepInfra pone el ejemplo de que 200 solicitudes simultáneas con un promedio de 1 segundo equivalen a unas 12,000 RPM. Una solicitud de razonamiento de 30 segundos con la misma concurrencia da una fracción de eso.

Además, la mayoría de los proveedores aplican los límites en ventanas más cortas que las que publican. Anthropic dice que un límite de 60 RPM “might be enforced as 1 request per second” (Traducción: «podría aplicarse como 1 solicitud por segundo»), y xAI deriva su límite por segundo del presupuesto por minuto (“RPM / 48, with a minimum of 2”; Traducción: «RPM / 48, con un mínimo de 2»).

¿Cómo funcionan los niveles de uso?

Los grandes proveedores de modelos cerrados suben sus límites a medida que usted gasta más:

Proveedor Niveles (consultado el 2026-11-15) Cómo se sube de nivel
OpenAI Free, Build, Launch, Grow Free: el usuario debe estar en una geografía permitida; límite de uso mensual de USD 100 (un tope de gasto, no un crédito). Después, compras de crédito acumuladas de USD 5, USD 100 y USD 500, con límites de uso mensual de USD 500, USD 5,000 y USD 200,000
Anthropic Evaluation, Start, Build, Scale, Custom Automático, según el historial de uso y el estado de la cuenta. Topes de gasto mensual: Start USD 500, Build USD 1,000, Scale USD 200,000
API de Google Gemini Free, Tier 1, Tier 2, Tier 3 Tier 1 requiere una cuenta de facturación vinculada; Tier 2, USD 100 pagados más 3 días; Tier 3, USD 1,000 más 30 días. Google dice que los límites especificados “not guaranteed” (Traducción: «no están garantizados») y que no ofrece “no guarantees” (Traducción: «ninguna garantía») sobre las solicitudes de aumento
Fireworks AI Tier 1 a Tier 4 Método de pago para Tier 1, luego USD 50, USD 500 y USD 5,000 en gasto o créditos. Los niveles suben el TPM, no el RPM
xAI Tier 0 a Tier 4, Enterprise Gasto acumulado desde el 1 de enero de 2026: USD 0, 50, 250, 1,000 y 5,000

En la práctica importan dos detalles. El tope de gasto de Anthropic devuelve HTTP 429 sin encabezado retry-after cuando se alcanza, así que los reintentos automáticos siguen fallando hasta que se reinicia el mes o usted cambia de nivel. Y el límite de entrada de Anthropic solo cuenta la entrada no almacenada en caché: las lecturas de caché no cuentan, de modo que una tasa alta de caché aumenta su rendimiento real.

Límites de frecuencia de API de LLM por proveedor: el nivel de entrada

Cifras del nivel gratuito o del primer nivel de pago de cada proveedor, tomadas de su propia página de límites. Un guion significa que la página no publica una cifra para ese límite; no significa ilimitado.

Proveedor Nivel y modelo RPM TPM Por día Concurrencia
OpenAI Build; Astra, Sol, Terra 5,000 1,000,000 – –
OpenAI Build; Luna 5,000 2,000,000 – –
Anthropic Start; Sonnet 5.5, Opus 5.5, Haiku 5.5 4,000 2,000,000 de entrada (sin caché), 400,000 de salida – –
API de Google Gemini Free; Gemini Decision 1 (único modelo con cifras gratuitas en la página) 200 50,000 10,000 solicitudes –
API de Google Gemini Tier 1; Gemini Decision 1 1,500 1,000,000 50,000 solicitudes –
Groq Tabla del plan gratuito; openai/gpt-oss-120b, qwen/qwen3.8-27b 30 8,000 1,000 solicitudes, 200,000 tokens –
Groq Tabla del plan Developer; openai/gpt-oss-120b, qwen/qwen3.8-27b 1,000 250,000 500,000 solicitudes –
Cerebras Free Trial; gpt-oss-120b 5 30,000 sin caché (90,000 en total) 1,000,000 tokens –
Cerebras Developer (pago por uso); gpt-oss-120b 1,000 500,000 sin caché (1,500,000 en total) Sin tope –
Fireworks AI Sin método de pago ni créditos; toda la cuenta 10 – – –
Fireworks AI Con método de pago y créditos; toda la cuenta 6,000 Según el nivel de gasto – –
DeepInfra Predeterminado; por modelo público – – – 200
DeepSeek Predeterminado; deepseek-flash (DeepSeek-V4.1-Flash-1017), por cuenta – – – 2,500
DeepSeek Predeterminado; deepseek-v4-pro (DeepSeek-V4-Pro-0813), por cuenta – – – 500
xAI Tier 0; grok-4.7 (150 RPS) – 50,000,000 – –
OpenRouter Modelos :free, menos de USD 10 de créditos comprados 20 – 50 solicitudes –
OpenRouter Modelos :free, USD 10 o más de créditos comprados 20 – 1,000 solicitudes –
Cohere Clave de prueba; Command A 20 – 1,000 llamadas al mes –
Cohere Clave de producción; Command A 500 – – –
BroadNet Inference Clave de pago por uso; cualquier modelo 30 – – 4
BroadNet Inference Clave por hora; Gemma 4 VL 26B 120 300,000 – 1 stream
BroadNet Inference Sesión de plan de tarifa plana; DeepSeek V4.1 Flash – Sin medidor de tokens – 1 solicitud a la vez

Notas sobre las filas:

  • Groq. La página tiene dos pestañas, “Free Plan Limits” (abierta por defecto) y “Developer Plan Limits”. La frase que las precede llama a las cifras “the base limits for the Developer plan” (Traducción: «los límites base del plan Developer»), lo que solo encaja con la segunda pestaña; la tabla de arriba muestra ambas. Los límites exactos de su organización aparecen en su página de límites.
  • Google. Los límites se aplican por proyecto, no por clave de API. Las cifras de la mayoría de los modelos solo aparecen dentro de AI Studio. Gemini Decision 1 es un modelo de clasificación para la Decisions API de Google: devuelve probabilidades, no texto, así que sus límites dicen poco de los modelos de chat de Gemini.
  • Mistral y Together AI no publican cifras. Mistral muestra sus límites en su consola en lugar de publicar una tabla, y no ofrece acceso gratuito a la API (“It doesn’t include API access”; Traducción: «No incluye acceso a la API»). Together dice que “may limit requests” (Traducción: «puede limitar las solicitudes») cuando la demanda es alta, y que puede fijar límites personalizados en los modelos populares.
  • OpenRouter. Las variantes de pago de los modelos no tienen “no platform-level request cap” (Traducción: «ningún tope de solicitudes a nivel de plataforma»), pero los proveedores que sirven cada modelo siguen teniendo sus propios límites.
  • DeepSeek. Cuando está saturado, DeepSeek mantiene la conexión abierta con líneas vacías o comentarios : keep-alive, y la cierra si la inferencia no ha empezado en 10 minutos. Configure el timeout de su cliente teniendo esto en cuenta.

¿Cómo se comparan los límites de BroadNet, con honestidad?

Son bajos para trabajo de alto volumen. Una clave de pago por uso de BroadNet permite 30 solicitudes por minuto y 4 en curso, mientras que los primeros niveles de pago de OpenAI y Anthropic permiten miles de solicitudes por minuto, y Fireworks permite 6,000 en cuanto hay una tarjeta registrada. Si necesita pasar miles de solicitudes cortas por minuto por una sola clave, le conviene más el nivel de pago de un gran proveedor.

Los límites encajan con otros patrones de uso:

  • Agentes y chat. Un agente envía una solicitud a la vez y espera. 4 en curso cubren unos pocos agentes por clave; una clave por aplicación o por miembro del equipo reparte la carga.
  • Planes de tarifa plana. Una sesión de Luna Llena (Full Moon), Órbita (Orbit) o Meteoro (Meteor) no tiene medidor de tokens ni tope diario o semanal, pero ejecuta una solicitud a la vez a una velocidad típica de unos 100 tokens por segundo. Para ejecutar agentes en paralelo, compre una sesión para cada uno. Cuántas sesiones necesita.
  • Clave por hora. $0.50 por hora compra un stream de Gemma 4 VL 26B con 120 solicitudes y 300,000 tokens por minuto.

Todos los límites de BroadNet devuelven HTTP 429. La referencia de la API no indica tiempos de retry-after, así que use backoff acotado con jitter.

¿Cómo planificar en torno a un límite de frecuencia?

  1. Identifique el límite que le condiciona. Calcule las solicitudes por minuto, los tokens por minuto y las solicitudes en curso de su tráfico en hora punta. La calculadora de límites de frecuencia de LLM lo hace a partir del tamaño de la solicitud y la latencia.
  2. Regule el envío en el cliente. Un token bucket ajustado al límite publicado evita la mayoría de los 429. Anthropic usa el mismo algoritmo en el servidor.
  3. Lea los encabezados. Anthropic devuelve encabezados anthropic-ratelimit-*; Groq devuelve encabezados x-ratelimit-*, cuyo encabezado de solicitudes “always refers to Requests Per Day” (Traducción: «siempre se refiere a solicitudes por día»). Use retry-after cuando esté presente.
  4. Reintente con backoff y jitter, y limite los reintentos. Cómo manejar errores 429 incluye código funcional, y errores y reintentos cubre los códigos de estado de BroadNet.
  5. Almacene en caché los prefijos estables. En Anthropic, la entrada en caché no cuenta para el límite de entrada. En todas partes, reduce el costo.
  6. Reparta los trabajos masivos. Anthropic también aplica límites de rampa: un salto repentino de tráfico puede devolver 429 por debajo de su límite. Arranque los trabajos por lotes poco a poco. Sin una Batch API, un ejecutor de lotes reanudable mantiene el trabajo dentro de sus límites.
  7. Pida más. DeepSeek, DeepInfra, Mistral y Anthropic describen una vía para solicitar límites más altos.

Dónde encaja BroadNet Inference

BroadRouter es el sitio web de BroadNet, así que valore esta sección en consecuencia. BroadNet Inference no es la opción para tasas de solicitudes muy altas con una sola clave: sus límites publicados por clave están muy por debajo de los niveles de pago de OpenAI, Anthropic, Fireworks o Cerebras. Encaja con cargas de agentes y de chat que envían pocas solicitudes a la vez, sobre todo con un plan de tarifa plana, donde un agente muy activo no tiene medidor de tokens ni tope diario. Las cuentas nuevas reciben un crédito inicial de $5 para Gemma 4 VL 26B, los dos modelos de transcripción y las claves por hora de Gemma; DeepSeek, GLM y Qwen requieren una recarga. El autoservicio no tiene SLA. Consulte los límites de la API o compare los planes.

Preguntas frecuentes

¿Cuáles son los límites de frecuencia de la API de OpenAI en el primer nivel de pago?

La guía de límites de OpenAI (consultada el 15 de noviembre de 2026) sitúa el nivel Build en USD 5 de compras de crédito acumuladas, con un límite de uso mensual de USD 500. Build permite 5,000 RPM y 1,000,000 TPM en Astra, Sol y Terra, y 5,000 RPM y 2,000,000 TPM en Luna. Los límites se aplican por organización y por proyecto.

¿Qué límites de frecuencia tiene la API de Anthropic?

En el nivel Start, Claude Sonnet 5.5, Opus 5.5 y Haiku 5.5 permiten cada uno 4,000 RPM, 2,000,000 tokens de entrada por minuto y 400,000 tokens de salida por minuto (consultado el 15 de noviembre de 2026). Solo la entrada no almacenada en caché cuenta para el límite de entrada. Las organizaciones nuevas pueden empezar en un nivel Evaluation inferior.

¿Cuáles son los límites gratuitos de Groq?

La tabla publicada por Groq (consultada el 15 de noviembre de 2026) muestra 30 solicitudes por minuto, 1,000 solicitudes al día, 8,000 tokens por minuto y 200,000 tokens al día para openai/gpt-oss-120b y qwen/qwen3.8-27b. Groq indica que los límites exactos de su organización aparecen en su página de límites. Su tabla del plan Developer muestra 1,000 solicitudes por minuto, 500,000 solicitudes al día y 250,000 tokens por minuto para los mismos modelos.

¿La API de DeepSeek tiene límites de frecuencia?

Sí, en forma de concurrencia. DeepSeek permite 2,500 solicitudes simultáneas por cuenta en deepseek-flash y 500 en deepseek-v4-pro, y por encima de eso devuelve HTTP 429. Se pueden pedir límites más altos sin costo adicional (consultado el 15 de noviembre de 2026).

¿Qué diferencia hay entre RPM, TPM y concurrencia?

RPM cuenta las solicitudes iniciadas por minuto. TPM cuenta los tokens procesados por minuto, a veces con entrada y salida por separado. La concurrencia cuenta las solicitudes en curso en un mismo momento, así que las solicitudes largas la agotan incluso con un RPM bajo.

¿Qué límites de frecuencia tiene BroadNet Inference?

Una clave de pago por uso permite 30 solicitudes por minuto y 4 en curso. Una clave por hora permite 120 solicitudes por minuto, 300,000 tokens por minuto y 1 stream en Gemma 4 VL 26B. Una sesión de plan de tarifa plana ejecuta una solicitud a la vez. Todas devuelven HTTP 429 al superarse.

Leer en MarkdownPreguntar a ChatGPTPreguntar a ClaudePreguntar a Perplexity