BroadRouter
Comenzar

Cómo ejecutar agentes de programación en paralelo con tarifa plana

Por el equipo de BroadNet Inference · 5 min de lectura · Publicado · Actualizado

Dé a cada agente que trabaje al mismo tiempo su propia sesión del plan. Una sesión ejecuta una solicitud a la vez sin medidor de tokens, así que un orquestador con tres subagentes necesita cuatro sesiones. Limite en su propio código las solicitudes en curso para que coincidan. Una clave puede tener varias sesiones, y cada sesión Luna Llena cuesta $60 al mes.

Los frameworks de agentes han pasado de un asistente a muchos: un orquestador que planifica, subagentes que escriben código, lo revisan y ejecutan pruebas, y workers por lotes que procesan un backlog. Con una API de pago por token, cada uno de ellos suma a la factura. Con una API de tarifa plana, la pregunta pasa a ser: ¿cuántas cosas llaman al modelo en el mismo momento?

¿Qué cubre una sesión de tarifa plana?

Los planes ilimitados de BroadNet venden sesiones. Una sesión ejecuta una solicitud a la vez, con tokens ilimitados de DeepSeek V4.1 Flash y sin ventana móvil ni tope semanal. Eso coincide con la forma de trabajar de un agente: envía una solicitud, lee la respuesta, ejecuta una herramienta y envía la siguiente solicitud.

Configuración Solicitudes en curso en el pico Sesiones
Un agente de programación en una terminal 1 1
Orquestador + 3 subagentes 4 4
10 workers por lotes 10 10
2 desarrolladores, 1 agente cada uno 2 2 (cada uno en su propia cuenta)

Cada sesión Luna Llena (Full Moon) cuesta $60 al mes. Una clave puede tener varias sesiones, o puede repartir las sesiones de un plan entre sus claves, por ejemplo una clave por servidor o por proyecto, de modo que una clave filtrada o revocada solo detenga a los agentes que dependen de ella. Las claves y las cuentas son personales: puede integrar un plan en su propio producto, pero no puede compartir ni revender la clave. Reglas completas de las sesiones.

¿Cuántas sesiones necesitan los agentes en paralelo?

Los agentes pasan mucho tiempo sin llamar al modelo: ejecutan pruebas, leen archivos, esperan una compilación. Cuatro subagentes que llaman al modelo el 40 % del tiempo rara vez lo necesitan todos a la vez. Antes de comprar cuatro sesiones:

  1. Registre la hora de inicio y fin de cada solicitud al modelo que haga su framework, por agente.
  2. Cuente el máximo de solicitudes que se solapan en cada minuto.
  3. Compre sesiones para la simultaneidad que alcanza la mayor parte del tiempo, no para el pico absoluto, y ponga en cola el resto en su propio código (vea el semáforo más abajo). Las páginas de BroadNet no dicen si una solicitud por encima del límite espera o se rechaza, así que no deje que los agentes la envíen a ciegas.

Por ejemplo, si sus logs muestran dos solicitudes en curso la mayor parte del tiempo y cuatro solo en ráfagas cortas, dos sesiones más una cola del lado del cliente pueden ser la configuración más barata.

Un script corto hace el recuento. A partir de una lista de tiempos (start, end) en segundos, sacada de sus logs:

from collections import Counter

def overlap_histogram(requests):
    events = sorted([(s, 1) for s, _ in requests] + [(e, -1) for _, e in requests])
    in_flight, last_t, seconds_at = 0, None, Counter()
    for t, delta in events:
        if last_t is not None:
            seconds_at[in_flight] += t - last_t
        in_flight += delta
        last_t = t
    return dict(sorted(seconds_at.items()))   # {requests in flight: seconds}

Si el resultado muestra la mayor parte del tiempo con una o dos solicitudes en curso, compre dos sesiones. Si se mantiene en cuatro durante horas, compre cuatro.

¿Cuántas sesiones necesita cada patrón de agentes?

Patrón Cómo llama al modelo Regla de dimensionamiento
Orquestador + workers El planificador llama y luego reparte Los workers que trabajan a la vez, más una para el planificador si sigue trabajando
Pipeline (escribir → revisar → probar) Una etapa a la vez por tarea Una sesión por tarea que corre en paralelo
Backlog por lotes Muchos trabajos idénticos Una sesión por worker; más workers terminan antes
Agentes de varios desarrolladores Independientes Una sesión por desarrollador, cada uno en su propia cuenta

¿Cómo evitar que los agentes en paralelo se estorben?

La capacidad del modelo es solo la mitad del problema. Dos agentes que editan el mismo archivo se deshacen el trabajo mutuamente. La solución habitual es un git worktree por agente: cada uno obtiene su propia copia de trabajo y su propia rama del mismo repositorio.

git worktree add ../agent-auth -b agent/auth
git worktree add ../agent-billing -b agent/billing

Luego reparta las tareas por módulo, para que los agentes rara vez toquen los mismos archivos, e integre mediante un paso de revisión. Para ejecutarlos sin supervisión, vea ejecuciones nocturnas de agentes de programación; para lo que cuestan en tokens los agentes extra, vea el costo de los sistemas multiagente.

¿Cuándo conviene el pago por uso para agentes en paralelo?

Una clave de pago por uso permite 4 solicitudes en curso y 30 solicitudes por minuto. Eso encaja con repartos cortos e irregulares: un paso de revisión que lanza cuatro verificadores durante veinte segundos y luego queda en silencio. La carga constante encaja con las sesiones, y la carga irregular con la facturación por token. Muchas configuraciones usan ambas: sesiones del plan para los agentes de larga duración y una clave de pago por uso para las ráfagas y para otros modelos como GLM 5.3.

Cuando una clave de pago por uso alcanza su límite de tasa o de concurrencia, devuelve 429. Espere y reintente; vea códigos de error y cuándo reintentar. La calculadora de límites de tasa muestra hasta dónde llega un límite dado con su patrón de solicitudes.

¿Cómo conectar los agentes al plan?

La mayoría de los frameworks de agentes aceptan una URL base compatible con OpenAI. Apunte cada agente a https://inference.broadnet.ai/v1 con el modelo broadnet/deepseek-v4.1-flash y dele una clave:

export OPENAI_BASE_URL="https://inference.broadnet.ai/v1"
export OPENAI_API_KEY="$BROADNET_PLAN_KEY"

Para un agente de programación en una terminal, la guía de Aider tiene la configuración exacta; Cline y OpenCode tienen sus propias guías. Para su propio orquestador, la guía del SDK de OpenAI para Python muestra cómo configurar el cliente. En su propio código, limite las solicitudes en curso al número de sesiones para que hagan cola de su lado, donde usted puede verlo:

import asyncio
SESSIONS = 4
gate = asyncio.Semaphore(SESSIONS)

async def ask(client, messages):
    async with gate:
        return await client.chat.completions.create(
            model="broadnet/deepseek-v4.1-flash", messages=messages, max_tokens=4000)

¿Qué falla con los agentes en paralelo?

  • Arrancar todos los agentes a la vez. Una ráfaga de primeras llamadas simultáneas supera sus sesiones de golpe. Escalone los arranques unos segundos.
  • Tormentas de reintentos. Si todos los agentes reintentan en el mismo momento, vuelven a chocar. Añada jitter al backoff.
  • max_tokens demasiado bajo. DeepSeek V4.1 Flash razona antes de responder; un límite pequeño puede devolver una respuesta vacía. Por qué.
  • Compartir una clave entre varias personas. Las claves son personales. Dé a cada desarrollador su propia cuenta.

¿Cuánto contexto puede usar cada agente?

Cada solicitud puede llevar hasta 1,048,576 tokens en DeepSeek V4.1 Flash. Un subagente puede leer el módulo completo en el que trabaja en lugar de un resumen recortado, y en un plan un prompt largo no cuesta más. Cuándo ayuda una ventana de 1M de tokens.

¿Cómo probar la configuración a bajo costo?

Compre una hora Meteoro (Meteor) ($1) por cada sesión que crea necesitar y ejecute su flujo de agentes real. Si los agentes se esperan entre sí demasiado a menudo, añada una sesión. Si una queda ociosa, elimínela. Después pase a Luna Llena o a sesiones semanales Órbita (Orbit) ($15 cada una).

Dónde encaja BroadNet Inference

Las sesiones del plan encajan con agentes constantes y en paralelo sobre un solo modelo, porque la factura depende de cuántos se ejecutan a la vez, no de cuánto leen. Si sus agentes necesitan varios modelos distintos, o solo llaman al modelo en ráfagas cortas, una clave de pago por uso o un router pueden costar menos. Compare antes con el cálculo del punto de equilibrio.

Preguntas frecuentes

¿Qué pasa si dos agentes usan una sesión al mismo tiempo?

Una sesión ejecuta una solicitud a la vez, y las páginas de BroadNet no dicen si una segunda solicitud espera o se rechaza con un 429. No confíe en ninguna de las dos cosas: limite en su propio código las solicitudes en curso a su número de sesiones, reintente los 429 con backoff y añada una sesión si los agentes esperan demasiado.

¿Cuántos agentes de programación puedo ejecutar en paralelo?

Tantos como sesiones tenga para las solicitudes que coinciden en el tiempo. Cada sesión del plan ejecuta una solicitud a la vez, así que cuatro agentes que llaman al modelo en el mismo momento necesitan cuatro sesiones. Los agentes que pasan la mayor parte del tiempo ejecutando herramientas pueden compartir menos sesiones si su código pone en cola sus llamadas al modelo.

¿Cómo evito que los agentes en paralelo editen los mismos archivos?

Dé a cada agente su propio git worktree y su propia rama, y reparta el trabajo por archivo o módulo. Integre mediante pull requests normales o un paso final de revisión.

¿Puedo combinar un plan con pago por uso?

Sí. Las claves de plan y las de pago por uso son independientes. Un patrón habitual es usar sesiones del plan para los agentes constantes y una clave de pago por uso para ráfagas ocasionales u otros modelos.

¿Las sesiones tienen que estar en claves separadas?

No. Una clave puede tener varias sesiones, o puede repartirlas entre claves, por ejemplo una clave por servidor o por proyecto.

¿Los agentes en paralelo cuestan más con un plan de tarifa plana?

Solo por el número de sesiones. En un plan los tokens no se miden, así que la factura es el número de sesiones por el precio del plan, sin importar cuánto lea o escriba cada agente.

Leer en MarkdownPreguntar a ChatGPTPreguntar a ClaudePreguntar a Perplexity