BroadRouter
Começar

Tool calling (chamada de ferramentas)

Atualizado em

Tool calling, também chamado de function calling ou chamada de ferramentas, é um recurso de APIs de LLM em que o modelo devolve um pedido estruturado para executar uma função definida pelo desenvolvedor, com argumentos JSON. A aplicação executa a função e devolve o resultado; o modelo nunca executa código sozinho.

Também chamado de: chamada de ferramentas, chamada de funções, uso de ferramentas, ferramentas, tool calling, function calling, tool use, tools, tool_calls

Tool calling é a forma de um modelo de linguagem agir no mundo: ele pede ao seu código para consultar algo, rodar uma query ou editar um arquivo, e depois usa o resultado.

Como funciona

O guia da OpenAI descreve um ciclo entre o seu app e o modelo:

  1. Envie as ferramentas. A requisição lista funções com nome, descrição e um JSON Schema para os argumentos.
  2. Receba uma chamada de ferramenta. Se o modelo precisar de uma ferramenta, ele devolve o nome da função e os argumentos em JSON em vez de uma resposta final.
  3. Execute. O seu código executa a função. O guia da OpenAI coloca essa etapa “the application side” (tradução: do lado da aplicação); o modelo nunca executa código sozinho.
  4. Devolva o resultado com o ID de chamada correspondente.
  5. Receba a resposta, ou outra chamada de ferramenta. Repita quantas vezes for preciso.

No formato Chat Completions, a definição de uma ferramenta fica assim:

{
  "type": "function",
  "function": {
    "name": "get_order_status",
    "description": "Look up an order by ID",
    "parameters": {
      "type": "object",
      "properties": { "order_id": { "type": "string" } },
      "required": ["order_id"]
    }
  }
}

A resposta traz finish_reason: "tool_calls" e uma lista tool_calls. Cada entrada tem um id, o nome da função e arguments como string JSON. Você acrescenta uma mensagem com role: "tool", o mesmo tool_call_id e o resultado, e chama a API de novo.

Por que isso importa

  • Agentes. Agentes de programação, bots de suporte e assistentes de dados são, em grande parte, ciclos de chamadas de ferramenta.
  • Custo. Cada ida e volta é uma nova requisição que reenvia a conversa, as definições das ferramentas e os resultados como tokens de entrada. Em ciclos longos, a entrada em cache e uma ordem estável das ferramentas fazem diferença.
  • Segurança. Os argumentos vêm do modelo. Valide-os antes de executar qualquer coisa que altere dados ou gaste dinheiro.

Para uma resposta que precisa seguir um schema mas não exige nenhuma função, a ferramenta mais simples é a saída estruturada.

Na BroadNet Inference

A documentação da BroadNet lista tool calling para GLM 5.3 e Qwen3.8 27B, ambos com saída estruturada e raciocínio. Ela não informa suporte a ferramentas para DeepSeek V4.1 Flash nem para BroadNet Gemma 4 VL 26B. Teste o seu próprio ciclo de ferramentas no modelo que você pretende colocar em produção.

Os dois modelos listados raciocinam antes de responder, e o raciocínio conta para max_tokens, então deixe folga, ou uma chamada de ferramenta pode ser cortada. Veja tokens de raciocínio. Para ferramentas de agente que trazem o próprio formato de ferramentas, veja o guia do Cline e o guia do Vercel AI SDK.

Erros comuns

  • Tratar arguments como objeto. Ele chega como string JSON; decodifique e trate os erros.
  • Esquecer o tool_call_id. Sem ele, o modelo não consegue associar os resultados às chamadas.

Perguntas frequentes

O modelo executa a minha função?

Não. O modelo só devolve o nome da função e os argumentos. O seu código decide se vai executá-la, executa e devolve o resultado em uma mensagem tool.

O modelo pode chamar várias ferramentas de uma vez?

Muitas APIs permitem chamadas de ferramenta em paralelo, com várias entradas em tool_calls em uma única resposta. O seu código executa cada uma e devolve um resultado por tool_call_id.

Quais modelos da BroadNet suportam tool calling?

A documentação da BroadNet lista ferramentas para GLM 5.3 e Qwen3.8 27B. Ela não informa suporte a ferramentas para DeepSeek V4.1 Flash nem para BroadNet Gemma 4 VL 26B, então teste antes de depender disso nesses modelos.

Ler em MarkdownPerguntar ao ChatGPTPerguntar ao ClaudePerguntar ao Perplexity