BroadRouter
Comenzar

Llamadas a herramientas en paralelo (parallel tool calls)

Actualizado

Las llamadas a herramientas en paralelo se producen cuando un modelo devuelve más de una llamada a herramienta en una sola respuesta, por ejemplo tres lecturas de archivo a la vez. En el formato de OpenAI llegan como varias entradas en tool_calls, y parallel_tool_calls en false limita al modelo a cero o una llamada por turno.

También llamado: llamadas a herramientas en paralelo, llamadas paralelas a funciones, function calling en paralelo, varias llamadas a herramientas, parallel tool calls, parallel tool calling, parallel function calling, parallel_tool_calls, multiple tool calls

Un agente que necesita tres archivos no tiene por qué pedirlos de uno en uno, con un viaje de ida y vuelta por cada uno. Con las llamadas a herramientas en paralelo, el modelo pide los tres a la vez.

Cómo funciona

En una respuesta con llamadas a herramientas, message.tool_calls es una lista. Con llamadas en paralelo tiene más de una entrada, cada una con su propio id, nombre de función y argumentos JSON.

"tool_calls": [
  {"id": "call_1", "type": "function", "function": {"name": "read_file", "arguments": "{\"path\": \"a.py\"}"}},
  {"id": "call_2", "type": "function", "function": {"name": "read_file", "arguments": "{\"path\": \"b.py\"}"}}
]

Su código ejecuta las llamadas y añade un mensaje tool por llamada, cada uno con el tool_call_id correspondiente, y luego vuelve a llamar al modelo.

  • OpenAI: parallel_tool_calls vale true por defecto. Ponerlo en false “ensures exactly zero or one tool is called.” (traducción: garantiza que se llame exactamente a cero o una herramienta.) La guía advierte que una versión concreta de un modelo a veces repetía llamadas a la misma herramienta y recomienda desactivar la función en ese caso.
  • Anthropic: el uso en paralelo está activado por defecto. Se desactiva con disable_parallel_tool_use: true dentro del objeto tool_choice. Anthropic dice que la API “doesn’t prescribe an execution order” (traducción: no prescribe un orden de ejecución), y que todos los resultados de herramientas deben volver en un único mensaje de usuario para que el paralelismo siga funcionando.

Por qué importa

  • Latencia. Menos viajes de ida y vuelta al modelo. Las herramientas independientes y de solo lectura pueden ejecutarse a la vez de su lado.
  • Orden. Las llamadas con efectos secundarios, como escribir y luego leer, pueden depender unas de otras. Anthropic sugiere ejecutarlas en secuencia. O desactive la función.
  • Control. Cada llamada necesita un resultado con el ID correcto. Un resultado que falta es una causa habitual de que falle la siguiente solicitud.

En BroadNet Inference

La referencia de la API de BroadNet documenta las llamadas a herramientas para GLM 5.3 y Qwen3.8 27B y no documenta parallel_tool_calls. Pruebe si su prompt recibe varias llamadas y si se respeta false. Las llamadas en paralelo llegan en una sola respuesta, así que no suman a su número de solicitudes. Ejecutar las herramientas corre de su cuenta. Tenga en cuenta que una sesión de un plan ilimitado de BroadNet permite una solicitud a la vez y es solo para DeepSeek V4.1 Flash; en las claves de pago por uso, el límite de concurrencia es de 4 solicitudes en curso. El artículo sobre llamadas a herramientas con modelos abiertos tiene un bucle funcional.

Errores comunes

  • Devolver los resultados con un formato de mensaje distinto para cada llamada, u omitir uno.
  • Ejecutar de forma concurrente herramientas que dependen entre sí solo porque el modelo las listó juntas.

Preguntas frecuentes

¿Las llamadas a herramientas en paralelo implican solicitudes a la API en paralelo?

No. El modelo devuelve varias llamadas en una sola respuesta. Su código las ejecuta, de forma concurrente o una tras otra, y envía todos los resultados en la siguiente solicitud.

¿Cómo desactivo las llamadas a herramientas en paralelo?

En el formato de OpenAI, ponga parallel_tool_calls en false; OpenAI dice que esto "ensures exactly zero or one tool is called." (traducción: garantiza que se llame exactamente a cero o una herramienta.) En la API de Anthropic, ponga disable_parallel_tool_use en true dentro de tool_choice.

¿BroadNet Inference admite parallel_tool_calls?

La referencia de la API de BroadNet no documenta parallel_tool_calls. Las llamadas a herramientas están documentadas para GLM 5.3 y Qwen3.8 27B; pruebe si devuelven varias llamadas y si se respeta el parámetro.

Leer en MarkdownPreguntar a ChatGPTPreguntar a ClaudePreguntar a Perplexity