BroadRouter

Tokens de entrada y de salida (input and output tokens)

Actualizado

Los tokens de entrada son los que un modelo de lenguaje lee en una solicitud, incluidos el prompt de sistema, el historial de la conversación, las definiciones de herramientas y las imágenes. Los tokens de salida son los que genera en la respuesta, incluido el razonamiento. Las APIs de LLM suelen cobrarlos por separado, y la salida suele costar más.

También llamado: tokens de entrada, tokens de salida, tokens del prompt, tokens de completion, input tokens, output tokens, prompt tokens, completion tokens

Toda solicitud a un LLM tiene dos lados: lo que usted envía y lo que vuelve. Las APIs cuentan ambos en tokens, y la mayoría los cobra con tarifas distintas.

Cómo funciona

La entrada es todo lo que hay en la solicitud: el prompt de sistema, cada mensaje anterior, las definiciones de herramientas, los resultados de herramientas, los documentos y las imágenes. Un chat de varios turnos reenvía todo el historial en cada turno, así que la entrada crece con la conversación.

La salida es todo lo que genera el modelo: la respuesta visible, las llamadas a herramientas y, en los modelos de razonamiento, los tokens de razonamiento ocultos.

El bloque de uso informa ambos:

"usage": {
  "prompt_tokens": 18000,
  "completion_tokens": 900,
  "prompt_tokens_details": { "cached_tokens": 15000 },
  "completion_tokens_details": { "reasoning_tokens": 600 }
}

El costo de una solicitud es:

(new input × input price) + (cached input × cached price) + (output × output price), es decir, (entrada nueva × precio de entrada) + (entrada en caché × precio en caché) + (salida × precio de salida), con cada precio por millón de tokens.

Por qué importa

La proporción entre ambos decide qué precio pesa más. Un asistente de chat puede producir unos cientos de tokens para una pregunta corta. Un agente de programación reenvía un contexto grande del repositorio en cada turno y escribe un parche corto, así que la entrada puede superar a la salida en una proporción de 20 a 1 o más. En los agentes, el precio de entrada y el de la entrada en caché definen la mayor parte de la factura.

Aun así, conviene vigilar la salida. Los modelos de razonamiento pueden gastar más tokens pensando que respondiendo, y esos se cobran como salida. La proporción típica entre el precio de salida y el de entrada en los modelos que seguimos está en el índice de precios de APIs de LLM.

En BroadNet Inference

Por millón de tokens, según el archivo de precios publicado:

Modelo Entrada Entrada en caché Salida
DeepSeek V4.1 Flash $0.175 $0.0055 $0.52
GLM 5.3 $0.78 $0.173 $3.46
Qwen3.8 27B $0.175 $0.0435 $2.17
BroadNet Gemma 4 VL 26B $0.10 — $0.22

En el ejemplo práctico de BroadNet, un agente de programación a tiempo completo envía 1,000 millones de tokens de entrada al mes con un 80 % de aciertos de caché y recibe 50 millones de tokens de salida. En DeepSeek V4.1 Flash por token, eso cuesta $65.40. Un plan de tarifa plana elimina el medidor: Luna Llena (Full Moon) cuesta $60 al mes por sesión. Compare sus propios números en la calculadora de precios o lea tarifa plana vs. pago por token.

Errores comunes

  • Calcular el precio solo de la respuesta visible y olvidar los tokens de razonamiento.
  • Ignorar lo rápido que crece el historial. El turno 30 de un chat puede cargar 30 turnos de entrada.

Preguntas frecuentes

¿Cuál es la diferencia entre prompt tokens y tokens de entrada?

Ninguna. El formato de Chat Completions los llama prompt_tokens y completion_tokens. APIs más nuevas, como la Responses API de OpenAI y la Messages API de Anthropic, los llaman input_tokens y output_tokens.

¿Por qué la salida es más cara que la entrada?

Un modelo lee todo el prompt en una sola pasada en paralelo, pero genera la salida un token a la vez, así que cada token de salida requiere más tiempo de GPU.

¿Se cobran las definiciones de herramientas?

Sí. Los esquemas y los resultados de las herramientas forman parte del prompt, así que son tokens de entrada en cada solicitud que los incluya.

Leer en MarkdownPreguntar a ChatGPTPreguntar a ClaudePreguntar a Perplexity