BroadRouter

10 formas de reducir el costo de LLM de un agente de programación

Por el equipo de BroadNet Inference · 6 min de lectura · Publicado

Casi todo el gasto es entrada reenviada en cada turno. Deje estable el prefijo del prompt para que entre en caché, indique los archivos, recorte la salida de herramientas, baje el razonamiento, limite bucles y reintentos, y envíe lo fácil a modelos baratos. En DeepSeek V4.1 Flash, la entrada en caché cuesta cerca del 3 % de la nueva. Desde unos 917 millones de tokens de entrada al mes, conviene la tarifa plana de $60.

La factura de un agente de programación crece de una forma en que no crece la de un chat. Cada turno reenvía el prompt de sistema, la lista de herramientas, los archivos que ya leyó y toda la conversación hasta ese momento. Hacia el turno 30, una sola solicitud puede llevar cientos de miles de tokens de entrada, en su mayoría repetidos. Las diez tácticas siguientes atacan los lugares adonde van esos tokens. Cada una incluye un ahorro estimado con el cálculo a la vista, con los precios de BroadNet Inference sincronizados el 2026-11-14. Sus cifras serán distintas, así que mida antes y después.

¿Adónde se va el dinero de un agente de programación?

Tres medidores, ordenados por tamaño en la mayoría de los agentes:

  1. Entrada, que se reenvía en cada turno. En su mayoría se puede almacenar en caché.
  2. Salida, incluidos los tokens de razonamiento que usted nunca ve.
  3. Desperdicio: reintentos, bucles que no avanzan y contexto que nadie necesitaba.

Revise prompt_tokens, prompt_tokens_details.cached_tokens y completion_tokens durante un día de trabajo real antes de cambiar nada. Adónde van los tokens del bucle de un agente explica cómo desglosarlos.

¿Qué tácticas ahorran más?

# Táctica Qué reduce Ahorro estimado
1 Mantener estable el prefijo del prompt Entrada nueva Factura de entrada a la mitad o menos
2 Indicar los archivos en lugar de dejar que el agente busque Turnos de exploración Menos turnos, menos reenvíos
3 Recortar la salida de las herramientas Entrada en cada turno posterior Crece con el tamaño de los logs
4 Bajar el esfuerzo de razonamiento en pasos rutinarios Salida oculta Depende de la mezcla de tareas
5 Limitar los pasos por tarea Bucles desbocados Pone techo al peor caso
6 Limitar y registrar los reintentos Solicitudes duplicadas Cada reintento evitado es una solicitud completa
7 Empezar una sesión nueva por tarea Historial obsoleto Contexto más corto por turno
8 Enviar los pasos fáciles a un modelo más barato Precio por token Grande en los pasos desviados
9 Resumir poco, añadir mucho Fallos de caché Mantiene funcionando la táctica 1
10 Pasar a un plan de tarifa plana tras el punto de equilibrio El medidor de tokens $5.40 al mes en nuestro ejemplo

1. Mantenga estable el prefijo del prompt para que entre en caché

La entrada en caché en DeepSeek V4.1 Flash cuesta $0.0055 por 1M; la entrada nueva cuesta $0.175, unas 32 veces más. Ordene los prompts así: prompt de sistema, herramientas, archivos, historial, mensaje nuevo. Nunca ponga una marca de tiempo al principio. Cursor informó en septiembre de 2026 que cambios en su harness, entre ellos un prompt de sistema unos dos tercios más corto y herramientas que solo se cargan cuando hacen falta, redujeron un 7 % el costo de tokens de sus usuarios. Cómo estructurar los prompts para que el prefijo entre en caché.

Ahorro estimado. Tome 1,000M de tokens de entrada al mes. Con un 50 % de aciertos de caché paga el precio de entrada nueva sobre 500M; con un 80 %, sobre 200M. Incluida la parte en caché, la factura de entrada baja cerca de un 56 %. Cómo subir su tasa de aciertos de caché, o pruebe sus propias cifras en la calculadora de prompt caching.

2. Dígale al agente qué archivos importan

Una tarea vaga («arregla el bug del login») pone al agente a buscar: lista directorios, abre archivos y los lee al contexto. Cada archivo que abre se reenvía después en todos los turnos posteriores. Indique los archivos y el cambio esperado. Mantenga en el repositorio un mapa breve del proyecto que el agente lea primero.

Ahorro estimado. Si un archivo de 40,000 tokens se lee en el turno 3 de una tarea de 30 turnos, se reenvía unas 27 veces: más de un millón de tokens de entrada por un solo archivo. No leerlo ahorra todo eso.

3. Recorte la salida de las herramientas antes de que entre al contexto

Los ejecutores de pruebas, los logs de compilación y git diff pueden devolver decenas de miles de tokens. Muéstrele al agente las últimas 100 líneas de un log o solo las pruebas que fallan. La mayoría de las herramientas de agentes permiten fijar un límite de salida para los comandos.

Ahorro estimado. El mismo cálculo que en la táctica 2: cada token que recorta se ahorra una vez por cada turno restante.

4. Baje el esfuerzo de razonamiento en los pasos rutinarios

DeepSeek V4.1 Flash y GLM 5.3 piensan antes de responder, y ese pensamiento se factura como salida. Configure reasoning_effort: "low" para renombrados, formato y ediciones pequeñas. Mantenga max_tokens lo bastante alto para terminar, o pagará por el pensamiento y recibirá una respuesta vacía. Costo de los tokens de razonamiento.

Ahorro estimado. Mida completion_tokens_details.reasoning_tokens antes y después en las mismas 20 tareas. El ahorro es la reducción multiplicada por el precio de salida ($0.52 por 1M).

5. Limite los pasos por tarea

Un agente que no logra arreglar una prueba puede dar 100 vueltas, cada una más grande que la anterior. Fije un número máximo de turnos por tarea y deténgalo cuando la misma llamada a herramienta se repita tres veces. Un límite de pasos convierte un costo sin techo en uno acotado.

6. Limite y registre los reintentos

Una solicitud reintentada es una inferencia nueva, que se vuelve a facturar con una clave de pago por token. Reintente los 429 y 5xx con backoff y un límite fijo; no reintente otros errores 4xx como 400 o 422. Errores y reintentos.

7. Empiece una sesión nueva para cada tarea

El historial de la tarea anterior es peso muerto para la siguiente. Una sesión nueva por tarea mantiene pequeño el contexto. Esto no choca con la caché: el prompt de sistema y las herramientas siguen formando un prefijo compartido que se puede almacenar en caché.

8. Envíe los pasos fáciles a un modelo más barato

No todos los pasos necesitan el mismo modelo. Los mensajes de commit, las líneas del changelog y la clasificación sencilla pueden ir a Gemma 4 VL 26B, a $0.10 de entrada y $0.22 de salida por 1M. Si usa GLM 5.3 para los pasos con muchas herramientas, envíe el resto a DeepSeek V4.1 Flash: la salida de GLM 5.3 cuesta unas 6.7 veces más. GLM 5.3 vs DeepSeek V4.1 Flash.

Precaución. Mida el costo por tarea terminada. Un modelo más barato que necesita el doble de turnos puede costar más.

9. Resuma poco y añada el resto

Cuando un agente comprime su historial, reescribe el prompt y la caché empieza de cero. Resuma solo cuando el contexto esté cerca de su límite, en un solo paso grande, y luego vuelva a añadir. Así la táctica 1 sigue funcionando.

10. Pase a un plan de tarifa plana al superar el punto de equilibrio

La facturación por token premia el uso pequeño. Un agente de tiempo completo no es uso pequeño. En el ejemplo calculado de BroadNet, un agente de programación de tiempo completo (1,000M de entrada con un 80 % en caché y 50M de salida) cuesta $65.40 al mes por token; un agente siempre activo cuesta $196.20. Una sesión Luna Llena (Full Moon) cuesta $60 al mes sin medidor de tokens, con una solicitud a la vez. A partir de ahí, las tácticas 1 a 9 siguen ahorrando tiempo, pero ya no dinero. Compruebe sus volúmenes con la calculadora de tarifa plana vs por token, o lea el cálculo del punto de equilibrio y cómo ejecutar agentes en paralelo con tarifa plana.

¿Cómo se mide si una táctica funcionó?

  1. Elija 20 tareas representativas de su backlog.
  2. Ejecútelas con su configuración actual y registre los tokens por tarea.
  3. Aplique una táctica a la vez y vuelva a ejecutarlas.
  4. Compare el costo por tarea terminada, no el costo por solicitud.

Para aplicaciones que no son agentes de programación, las mismas palancas en un orden general están en cómo reducir los costos de una API de LLM.

Guías de configuración para los agentes más comunes: Aider, Cline, Zoo Code, el fork del ya cerrado Roo Code y OpenCode.

Dónde encaja BroadNet Inference

BroadNet ofrece a los agentes de programación una tarifa baja de entrada en caché en DeepSeek V4.1 Flash y, para uso intensivo, sesiones ilimitadas desde $60 al mes, en un endpoint compatible con OpenAI que estos agentes ya admiten. No ejecuta modelos cerrados de frontera, así que si su agente necesita uno para sus pasos más difíciles, mantenga ese modelo con su propio proveedor y envíe aquí el grueso de los turnos. Vea los planes.

Preguntas frecuentes

¿Por qué cuesta tanto usar un agente de programación?

Porque reenvía el prompt de sistema, las definiciones de herramientas, el contenido de los archivos y el historial en cada turno, así que los tokens de entrada crecen con cada paso. El razonamiento suma, además, salida oculta.

¿Cuál es la forma más eficaz de reducir el costo de un agente de programación?

Mantenga idéntico el inicio del prompt entre turnos para que se facture como entrada en caché. En DeepSeek V4.1 Flash, la entrada en caché cuesta $0.0055 por 1M frente a $0.175.

¿Un modelo más barato siempre sale más barato para un agente de programación?

No. Un modelo más débil que necesita más pasos, o que falla y reintenta, puede costar más en total. Mida el costo por tarea terminada, no por token.

¿Cuándo sale más barato un plan de tarifa plana para un agente de programación?

Con DeepSeek V4.1 Flash, a partir de unos 917 millones de tokens de entrada y 46 millones de de salida al mes con un 80 % de aciertos de caché. Un agente de tiempo completo suele superar esa cifra.

¿Cómo evito que un agente de programación entre en bucle y queme tokens?

Limite el número de turnos por tarea, deténgalo cuando la misma llamada a herramienta se repita tres veces y limite los reintentos ante errores 429 y 5xx. Un límite de pasos convierte un costo sin techo en uno acotado.

Leer en MarkdownPreguntar a ChatGPTPreguntar a ClaudePreguntar a Perplexity