Tool calling é a forma de um modelo de linguagem agir no mundo: ele pede ao seu código para consultar algo, rodar uma query ou editar um arquivo, e depois usa o resultado.
Como funciona
O guia da OpenAI descreve um ciclo entre o seu app e o modelo:
- Envie as ferramentas. A requisição lista funções com nome, descrição e um JSON Schema para os argumentos.
- Receba uma chamada de ferramenta. Se o modelo precisar de uma ferramenta, ele devolve o nome da função e os argumentos em JSON em vez de uma resposta final.
- Execute. O seu código executa a função. O guia da OpenAI coloca essa etapa “the application side” (tradução: do lado da aplicação); o modelo nunca executa código sozinho.
- Devolva o resultado com o ID de chamada correspondente.
- Receba a resposta, ou outra chamada de ferramenta. Repita quantas vezes for preciso.
No formato Chat Completions, a definição de uma ferramenta fica assim:
{
"type": "function",
"function": {
"name": "get_order_status",
"description": "Look up an order by ID",
"parameters": {
"type": "object",
"properties": { "order_id": { "type": "string" } },
"required": ["order_id"]
}
}
}
A resposta traz finish_reason: "tool_calls" e uma lista tool_calls. Cada entrada tem um id, o nome da função e arguments como string JSON. Você acrescenta uma mensagem com role: "tool", o mesmo tool_call_id e o resultado, e chama a API de novo.
Por que isso importa
- Agentes. Agentes de programação, bots de suporte e assistentes de dados são, em grande parte, ciclos de chamadas de ferramenta.
- Custo. Cada ida e volta é uma nova requisição que reenvia a conversa, as definições das ferramentas e os resultados como tokens de entrada. Em ciclos longos, a entrada em cache e uma ordem estável das ferramentas fazem diferença.
- Segurança. Os argumentos vêm do modelo. Valide-os antes de executar qualquer coisa que altere dados ou gaste dinheiro.
Para uma resposta que precisa seguir um schema mas não exige nenhuma função, a ferramenta mais simples é a saída estruturada.
Na BroadNet Inference
A documentação da BroadNet lista tool calling para GLM 5.3 e Qwen3.8 27B, ambos com saída estruturada e raciocínio. Ela não informa suporte a ferramentas para DeepSeek V4.1 Flash nem para BroadNet Gemma 4 VL 26B. Teste o seu próprio ciclo de ferramentas no modelo que você pretende colocar em produção.
Os dois modelos listados raciocinam antes de responder, e o raciocínio conta para max_tokens, então deixe folga, ou uma chamada de ferramenta pode ser cortada. Veja tokens de raciocínio. Para ferramentas de agente que trazem o próprio formato de ferramentas, veja o guia do Cline e o guia do Vercel AI SDK.
Erros comuns
- Tratar
argumentscomo objeto. Ele chega como string JSON; decodifique e trate os erros. - Esquecer o
tool_call_id. Sem ele, o modelo não consegue associar os resultados às chamadas.