Las llamadas a herramientas son la forma en que un modelo de lenguaje actúa sobre el mundo: le pide a su código que busque algo, ejecute una consulta o edite un archivo, y luego usa el resultado.
Cómo funciona
La guía de OpenAI describe un ciclo entre su aplicación y el modelo:
- Envíe las herramientas. La solicitud enumera funciones con un nombre, una descripción y un JSON Schema para los argumentos.
- Reciba una llamada a herramienta. Si el modelo necesita una herramienta, devuelve el nombre de la función y los argumentos JSON en lugar de una respuesta final.
- Ejecútela. Su código ejecuta la función. La guía de OpenAI ubica este paso en “the application side” (traducción: el lado de la aplicación); el modelo nunca ejecuta código por sí mismo.
- Devuelva el resultado con el ID de llamada correspondiente.
- Reciba la respuesta, u otra llamada a herramienta. Repita según sea necesario.
En el formato de Chat Completions, la definición de una herramienta se ve así:
{
"type": "function",
"function": {
"name": "get_order_status",
"description": "Look up an order by ID",
"parameters": {
"type": "object",
"properties": { "order_id": { "type": "string" } },
"required": ["order_id"]
}
}
}
La respuesta trae finish_reason: "tool_calls" y una lista tool_calls. Cada entrada tiene un id, el nombre de la función y arguments como cadena JSON. Usted agrega un mensaje con role: "tool", el mismo tool_call_id y el resultado, y vuelve a llamar a la API.
Por qué importa
- Agentes. Los agentes de programación, los bots de soporte y los asistentes de datos son, en su mayoría, ciclos de llamadas a herramientas.
- Costo. Cada ida y vuelta es una nueva solicitud que reenvía la conversación, las definiciones de herramientas y sus resultados como tokens de entrada. En ciclos largos, la entrada en caché y un orden estable de las herramientas cobran importancia.
- Seguridad. Los argumentos los genera el modelo. Valídelos antes de ejecutar algo que modifique datos o gaste dinero.
Para una respuesta que debe ajustarse a un esquema pero no necesita ninguna función, la salida estructurada es la herramienta más sencilla.
En BroadNet Inference
La documentación de BroadNet indica llamadas a herramientas para GLM 5.3 y Qwen3.8 27B, ambos con salida estructurada y razonamiento. No indica soporte de herramientas para DeepSeek V4.1 Flash ni para BroadNet Gemma 4 VL 26B. Pruebe su propio ciclo de herramientas con el modelo que piensa poner en producción.
Los dos modelos indicados razonan antes de responder, y el razonamiento cuenta para max_tokens, así que deje margen o una llamada a herramienta puede quedar cortada. Consulte tokens de razonamiento. Para herramientas de agentes que traen su propio formato de herramientas, consulte la guía de Cline y la guía del Vercel AI SDK.
Errores comunes
- Parsear
argumentscomo un objeto. Llega como cadena JSON; decodifíquela y maneje los errores. - Olvidar el
tool_call_id. Sin él, el modelo no puede relacionar los resultados con las llamadas.