BroadRouter
Comenzar

Llamadas a herramientas (tool calling)

Actualizado

Las llamadas a herramientas (tool calling), también llamadas function calling, son una función de las APIs de LLM en la que el modelo devuelve una solicitud estructurada para ejecutar una función definida por el desarrollador, con argumentos JSON. La aplicación ejecuta la función y devuelve el resultado; el modelo nunca ejecuta código.

También llamado: llamadas a herramientas, llamada a funciones, uso de herramientas, herramientas, tool calling, function calling, tool use, tools, tool_calls

Las llamadas a herramientas son la forma en que un modelo de lenguaje actúa sobre el mundo: le pide a su código que busque algo, ejecute una consulta o edite un archivo, y luego usa el resultado.

Cómo funciona

La guía de OpenAI describe un ciclo entre su aplicación y el modelo:

  1. Envíe las herramientas. La solicitud enumera funciones con un nombre, una descripción y un JSON Schema para los argumentos.
  2. Reciba una llamada a herramienta. Si el modelo necesita una herramienta, devuelve el nombre de la función y los argumentos JSON en lugar de una respuesta final.
  3. Ejecútela. Su código ejecuta la función. La guía de OpenAI ubica este paso en “the application side” (traducción: el lado de la aplicación); el modelo nunca ejecuta código por sí mismo.
  4. Devuelva el resultado con el ID de llamada correspondiente.
  5. Reciba la respuesta, u otra llamada a herramienta. Repita según sea necesario.

En el formato de Chat Completions, la definición de una herramienta se ve así:

{
  "type": "function",
  "function": {
    "name": "get_order_status",
    "description": "Look up an order by ID",
    "parameters": {
      "type": "object",
      "properties": { "order_id": { "type": "string" } },
      "required": ["order_id"]
    }
  }
}

La respuesta trae finish_reason: "tool_calls" y una lista tool_calls. Cada entrada tiene un id, el nombre de la función y arguments como cadena JSON. Usted agrega un mensaje con role: "tool", el mismo tool_call_id y el resultado, y vuelve a llamar a la API.

Por qué importa

  • Agentes. Los agentes de programación, los bots de soporte y los asistentes de datos son, en su mayoría, ciclos de llamadas a herramientas.
  • Costo. Cada ida y vuelta es una nueva solicitud que reenvía la conversación, las definiciones de herramientas y sus resultados como tokens de entrada. En ciclos largos, la entrada en caché y un orden estable de las herramientas cobran importancia.
  • Seguridad. Los argumentos los genera el modelo. Valídelos antes de ejecutar algo que modifique datos o gaste dinero.

Para una respuesta que debe ajustarse a un esquema pero no necesita ninguna función, la salida estructurada es la herramienta más sencilla.

En BroadNet Inference

La documentación de BroadNet indica llamadas a herramientas para GLM 5.3 y Qwen3.8 27B, ambos con salida estructurada y razonamiento. No indica soporte de herramientas para DeepSeek V4.1 Flash ni para BroadNet Gemma 4 VL 26B. Pruebe su propio ciclo de herramientas con el modelo que piensa poner en producción.

Los dos modelos indicados razonan antes de responder, y el razonamiento cuenta para max_tokens, así que deje margen o una llamada a herramienta puede quedar cortada. Consulte tokens de razonamiento. Para herramientas de agentes que traen su propio formato de herramientas, consulte la guía de Cline y la guía del Vercel AI SDK.

Errores comunes

  • Parsear arguments como un objeto. Llega como cadena JSON; decodifíquela y maneje los errores.
  • Olvidar el tool_call_id. Sin él, el modelo no puede relacionar los resultados con las llamadas.

Preguntas frecuentes

¿El modelo ejecuta mi función?

No. El modelo solo devuelve el nombre de la función y los argumentos. Su código decide si ejecutarla, la ejecuta y devuelve el resultado en un mensaje tool.

¿Puede el modelo llamar a varias herramientas a la vez?

Muchas APIs permiten llamadas a herramientas en paralelo y devuelven varias entradas en tool_calls en una sola respuesta. Su código ejecuta cada una y devuelve un resultado por cada tool_call_id.

¿Qué modelos de BroadNet admiten llamadas a herramientas?

La documentación de BroadNet indica herramientas para GLM 5.3 y Qwen3.8 27B. No indica soporte de herramientas para DeepSeek V4.1 Flash ni para BroadNet Gemma 4 VL 26B, así que pruébelo antes de depender de ello en esos modelos.

Leer en MarkdownPreguntar a ChatGPTPreguntar a ClaudePreguntar a Perplexity