---
title: "O que é um LLM router? Agregadores, gateways e roteamento"
description: "Um LLM router escolhe qual modelo ou provedor atende cada requisição. Como funcionam agregadores hospedados, gateways self-hosted e roteadores de modelo."
url: https://broadrouter.com/pt/glossary/llm-router/
lang: pt-BR
updated: 2026-11-16
publisher: BroadRouter (a BroadNet site); API by BroadNet Inference, https://inference.broadnet.ai
---

Traduzido do inglês com ajuda de IA. [Leia o original em inglês](https://broadrouter.com/glossary/llm-router/) (atualizado em 2026-11-16).

# LLM router (roteador de LLMs)

Atualizado em 2026-11-16

Um LLM router é um software ou serviço que fica entre uma aplicação e uma ou mais APIs de modelos de linguagem e decide, a cada requisição, qual modelo ou provedor vai atendê-la, com base em regras como custo, latência, disponibilidade ou tipo de tarefa.

Também chamado de: roteador de LLM, roteador de LLMs, gateway de LLM, gateway de IA, agregador de LLMs, roteamento de modelos, LLM router, AI gateway, LLM gateway, model router, LLM aggregator

Uma aplicação que conversa com um único modelo não precisa de router. Os routers aparecem quando uma equipe usa vários modelos ou provedores e quer um único lugar para escolher entre eles.

## Como funciona

A aplicação envia ao router uma requisição no estilo da OpenAI. O router aplica suas regras, encaminha a requisição para um backend e devolve a resposta no mesmo formato. Há três tipos comuns:

-   **Agregadores hospedados.** O OpenRouter, por exemplo, oferece “hundreds of AI models through a single API endpoint” (tradução: centenas de modelos de IA por meio de um único endpoint de API) em `https://openrouter.ai/api/v1`, com fallbacks automáticos. Você tem uma chave e uma fatura; o agregador mantém as contas com os provedores.
-   **Gateways self-hosted.** O LiteLLM Router roda na sua própria infraestrutura. Ele distribui o tráfego entre deployments (simple shuffle por padrão, ou com base em latência, uso ou custo), repete erros de rate limit com backoff exponencial e coloca um deployment em cooldown depois de um 429 ou de uma taxa alta de falhas.
-   **Roteadores de escolha de modelo.** Pesquisas como o RouteLLM treinam um classificador que envia prompts fáceis a um modelo mais barato e os difíceis a um modelo mais forte, para cortar custos sem perder qualidade.

Um gateway self-hosted é configurado como uma lista de backends. Esta entrada do LiteLLM adiciona um provedor [compatível com a OpenAI](https://broadrouter.com/pt/glossary/openai-compatible-api/):

```yaml
model_list:
  - model_name: flash
    litellm_params:
      model: openai/broadnet/deepseek-v4.1-flash
      api_base: https://inference.broadnet.ai/v1
      api_key: os.environ/BROADNET_API_KEY
```

## Por que importa

-   **Confiabilidade.** Um router pode fazer failover quando um provedor retorna erros 429 ou 5xx. Veja [rate limit](https://broadrouter.com/pt/glossary/rate-limit/).
-   **Custo.** Mandar prompts simples para um modelo mais barato pode reduzir a conta.
-   **Uma só integração.** O código conversa com uma única [base URL](https://broadrouter.com/pt/glossary/base-url/) e um único formato de chave.

Os trade-offs são reais. Um router adiciona um salto de rede. Um router hospedado é mais uma parte que vê os seus prompts, então a retenção depende tanto do router quanto do provedor que ele escolhe. Os modelos também diferem em tokenizer, comportamento de raciocínio e suporte a parâmetros, então um fallback silencioso pode mudar as respostas.

## Na BroadNet Inference

A BroadNet Inference não é um router. É um único provedor com uma [lista de modelos](https://broadrouter.com/pt/models/) curta, em `https://inference.broadnet.ai/v1`; os Termos da BroadNet dizem que os modelos dela rodam em hardware nos EUA, próprio ou alugado pela BroadNet, ou com parceiros de inferência nos EUA. Não há roteamento automático nem fallback entre provedores. Você escolhe o modelo em cada requisição, por exemplo `broadnet/deepseek-v4.1-flash` ou `broadnet/glm-5.3`.

Como a API é compatível com a OpenAI, ela pode ficar atrás de um router como um dos backends. O [guia do proxy LiteLLM](https://broadrouter.com/pt/guides/litellm-proxy-custom-provider/) mostra a configuração. Para comparar um router com um provedor de preço fixo, leia [alternativa ao OpenRouter para agentes](https://broadrouter.com/pt/blog/openrouter-alternative-flat-rate/). A BroadNet não retém prompts nem saídas; se você colocar um router hospedado na frente, verifique também a [retenção de dados](https://broadrouter.com/pt/glossary/zero-data-retention/) dele.

## Erros comuns

-   Repetir um 401 ou 403 em outro provedor. São erros de chave ou de política; corrija-os primeiro. Veja [erros e novas tentativas](https://broadrouter.com/pt/guides/errors-and-retries/).
-   Tratar nomes de modelos como intercambiáveis. Teste cada modelo de fallback com os seus próprios prompts.

## Perguntas frequentes

### Um LLM router é a mesma coisa que um load balancer?

O load balancer é uma parte do router. Um router também pode escolher outro modelo para uma tarefa, recorrer a outro provedor depois de um erro e traduzir entre formatos de API. Um load balancer simples só distribui o tráfego entre servidores idênticos.

### Um router adiciona latência?

Normalmente um pouco, porque a requisição faz um salto de rede a mais e o router pode inspecioná-la. Fallbacks podem adicionar mais, já que a tentativa que falhou roda antes da nova tentativa. Meça o time to first token com e sem o router.

### A BroadNet Inference é um LLM router?

Não. Apesar do nome deste site, a BroadNet Inference é um único provedor; os Termos da BroadNet dizem que os modelos dela rodam em hardware nos EUA, próprio ou alugado pela BroadNet, ou com parceiros de inferência nos EUA. Você escolhe o modelo em cada requisição. Você pode colocá-la atrás de um router como um dos provedores.

## Veja também

-   [API compatível com a OpenAI](https://broadrouter.com/pt/glossary/openai-compatible-api/) (termo)
-   [Base URL (URL base)](https://broadrouter.com/pt/glossary/base-url/) (termo)
-   [Rate limit (limite de taxa)](https://broadrouter.com/pt/glossary/rate-limit/) (termo)
-   [Retenção zero de dados (zero data retention)](https://broadrouter.com/pt/glossary/zero-data-retention/) (termo)
-   [Provedor de inferência (inference provider)](https://broadrouter.com/pt/glossary/inference-provider/) (termo)
-   [Fallback de modelo (model fallback)](https://broadrouter.com/pt/glossary/model-fallback/) (termo)
-   [Como rotear o LiteLLM para a BroadNet Inference (SDK e proxy)](https://broadrouter.com/pt/guides/litellm-proxy-custom-provider/) (guia)
-   [Códigos de erro da BroadNet Inference e quando tentar de novo](https://broadrouter.com/pt/guides/errors-and-retries/) (guia)
-   [OpenRouter ou preço fixo para agentes de IA: qual sai mais barato?](https://broadrouter.com/pt/blog/openrouter-alternative-flat-rate/) (artigo)
-   [Migrar para uma API compatível com a OpenAI: checklist de migração](https://broadrouter.com/pt/blog/openai-compatible-api-migration-checklist/) (artigo)

Teste com a sua carga de trabalho real. Contas novas começam com US$ 5 de crédito para Gemma e transcrição. DeepSeek, GLM e Qwen3.8 exigem uma recarga.

[Começar](https://inference.broadnet.ai/account/?utm_source=broadrouter&utm_medium=referral&utm_campaign=pt-glossary-llm-router&utm_content=page-cta) ·

**Fontes**

-   [Guia de início rápido do OpenRouter (um endpoint para muitos modelos)](https://openrouter.ai/docs/quickstart)
-   [Documentação do LiteLLM Router, balanceamento de carga, fallbacks e cooldowns](https://docs.litellm.ai/docs/routing)
-   [RouteLLM: Learning to Route LLMs with Preference Data (arXiv:2406.18665)](https://arxiv.org/abs/2406.18665)
-   [Referência da API da BroadNet Inference (em inglês)](https://inference.broadnet.ai/docs?utm_source=broadrouter&utm_medium=referral&utm_campaign=pt-glossary-llm-router&utm_content=sources)
-   [Termos de Serviço da BroadNet, §2, hospedagem (verificado em 2026-11-16) (em inglês)](https://www.broadnet.ai/terms)
