---
title: "O que é um provedor de inferência? Hospedagem de LLM"
description: "Um provedor de inferência roda modelos de IA em GPUs próprias ou alugadas e vende o acesso por API. Como ele difere de laboratórios e roteadores, e o que conferir."
url: https://broadrouter.com/pt/glossary/inference-provider/
lang: pt-BR
updated: 2026-11-15
publisher: BroadRouter (a BroadNet site); API by BroadNet Inference, https://inference.broadnet.ai
---

Traduzido do inglês com ajuda de IA. [Leia o original em inglês](https://broadrouter.com/glossary/inference-provider/) (atualizado em 2026-11-15).

# Provedor de inferência (inference provider)

Atualizado em 2026-11-15

Um provedor de inferência é uma empresa que roda modelos de machine learning, muitas vezes LLMs open-weight, em GPUs próprias, arrendadas ou alugadas, e vende o acesso a eles por uma API, normalmente cobrando por token, por requisição ou por unidade de tempo. Ele cuida do serving, da escala e do hardware.

Também chamado de: provedor de inferência, provedor de API de LLM, hospedagem de modelos, hospedagem de LLM, inference provider, LLM inference provider, LLM API provider, model hosting provider, AI inference provider

Quando um modelo open-weight é lançado, alguém ainda precisa rodá-lo. Os provedores de inferência são as empresas que fazem isso.

## Como funciona

Um provedor carrega os pesos do modelo em GPUs, roda um software de serving que agrupa requisições em lotes e gerencia a memória, e coloca uma API na frente. A maioria expõe uma [API compatível com a OpenAI](https://broadrouter.com/pt/glossary/openai-compatible-api/), então você troca de provedor mudando a base URL, a chave e o ID do modelo.

O termo cobre alguns modelos de negócio:

-   **Laboratórios de modelos** que servem os próprios modelos.
-   **Hosts independentes** que servem modelos open-weight de vários laboratórios.
-   **Nuvens** que alugam GPUs ou endpoints gerenciados, às vezes cobrados por [hora de GPU](https://broadrouter.com/pt/glossary/gpu-hour/).
-   **Agregadores.** Os Inference Providers da Hugging Face dão acesso a “hundreds of machine learning models, powered by world-class inference providers” (tradução: centenas de modelos de machine learning, servidos por provedores de inferência de primeira linha) com um único token. Um [roteador de LLM](https://broadrouter.com/pt/glossary/llm-router/) funciona do mesmo jeito.

Como o formato da API é compartilhado, o mesmo código roda em qualquer um deles. Só três valores mudam, indicados pelos comentários no código: o provedor (a base URL), a chave dele e o ID de modelo dele.

```python
import os
from openai import OpenAI

msgs = [{"role": "user", "content": "Hello"}]
client = OpenAI(
    base_url="https://inference.broadnet.ai/v1",          # the provider
    api_key=os.environ["BROADNET_API_KEY"],  # its key
)
client.chat.completions.create(model="broadnet/deepseek-v4.1-flash", messages=msgs)  # its model ID
```

Os preços também variam: por token, por minuto de áudio, por hora ou fixo por sessão.

## Por que importa

Escolher um provedor é, na maior parte, escolher concessões que o nome do modelo não mostra:

-   **Tratamento de dados.** Retenção, logs e uso para treinamento variam. Procure uma política escrita de [retenção zero de dados](https://broadrouter.com/pt/glossary/zero-data-retention/).
-   **Onde roda.** Região e suboperadores importam para a conformidade.
-   **Limites.** Simultaneidade, limites de taxa e tamanho de contexto podem ficar abaixo do máximo do modelo.
-   **Escolhas de serving.** Precisão numérica e configurações de serving afetam a velocidade e, às vezes, a saída.
-   **Formato do preço.** O formato certo depende do seu tráfego; veja a [comparação de preços entre provedores](https://broadrouter.com/pt/blog/llm-inference-provider-pricing-compared/).
-   **Nível de preço.** O mesmo modelo aberto pode custar várias vezes mais em um provedor do que em outro. Veja [mesmo modelo, host diferente](https://broadrouter.com/pt/blog/same-llm-different-host-prices/).

## Na BroadNet Inference

A BroadNet Inference é um provedor de inferência. A declaração de privacidade dela diz que os modelos próprios e os modelos open-weight que ela hospeda “run on BroadNet-owned or leased hardware in the United States, with partner capacity as backup” (tradução: rodam em hardware próprio ou arrendado pela BroadNet nos Estados Unidos, com capacidade de parceiros como reserva), e que os modelos atendidos por parceiros rodam sob termos de retenção zero de dados com parceiros de inferência nos EUA. O conteúdo de requisições e respostas não é retido.

Ela oferece modelos de chat, incluindo o [DeepSeek V4.1 Flash](https://broadrouter.com/pt/models/deepseek-v4.1-flash/) e o GLM 5.3, e dois modelos de fala para texto por uma API compatível com a OpenAI em `https://inference.broadnet.ai/v1`. A cobrança é por uso, por token ou por minuto de áudio, por uma chave por hora ou por planos de preço fixo para o DeepSeek V4.1 Flash. Use o [checklist de provedores](https://broadrouter.com/pt/blog/choose-llm-api-provider-checklist/) para compará-la com outros pelos seus próprios critérios.

## Perguntas frequentes

### Qual é a diferença entre um provedor de inferência e um roteador de LLM?

Um provedor roda os modelos ele mesmo, em hardware próprio, arrendado ou alugado. Um roteador encaminha a sua requisição para um entre vários provedores, com uma só API e uma só fatura. Algumas empresas fazem as duas coisas.

### Dois provedores que servem o mesmo modelo aberto dão as mesmas respostas?

Nem sempre. Precisão numérica, limites de contexto, configurações padrão e o software de serving podem variar, então as saídas também podem variar. Teste com os seus próprios prompts antes de trocar.

### Como trocar de provedor de inferência?

Com uma API compatível com a OpenAI, troque três valores, a base URL, a chave de API e o ID do modelo. Depois rode de novo as suas avaliações, porque o mesmo modelo pode se comportar de outro jeito em outro provedor.

## Veja também

-   [LLM router (roteador de LLMs)](https://broadrouter.com/pt/glossary/llm-router/) (termo)
-   [Modelo de pesos abertos (open-weight)](https://broadrouter.com/pt/glossary/open-weight-model/) (termo)
-   [API compatível com a OpenAI](https://broadrouter.com/pt/glossary/openai-compatible-api/) (termo)
-   [Inferência serverless (serverless inference)](https://broadrouter.com/pt/glossary/serverless-inference/) (termo)
-   [Retenção zero de dados (zero data retention)](https://broadrouter.com/pt/glossary/zero-data-retention/) (termo)
-   [SLA (acordo de nível de serviço)](https://broadrouter.com/pt/glossary/sla/) (termo)
-   [Descontinuação de modelos (model deprecation)](https://broadrouter.com/pt/glossary/model-deprecation/) (termo)
-   [Primeira requisição à BroadNet Inference com curl](https://broadrouter.com/pt/guides/curl-quickstart/) (guia)
-   [Como rotear o LiteLLM para a BroadNet Inference (SDK e proxy)](https://broadrouter.com/pt/guides/litellm-proxy-custom-provider/) (guia)
-   [Como escolher um provedor de API de LLM: checklist de 20 pontos](https://broadrouter.com/pt/blog/choose-llm-api-provider-checklist/) (artigo)
-   [Preço de modelos open-weight: 6 provedores de inferência comparados](https://broadrouter.com/pt/blog/llm-inference-provider-pricing-compared/) (artigo)
-   [Mesmo modelo, host diferente: quanto varia o preço de API de LLM](https://broadrouter.com/pt/blog/same-llm-different-host-prices/) (artigo)

Teste com a sua carga de trabalho real. Contas novas começam com US$ 5 de crédito para Gemma e transcrição. DeepSeek, GLM e Qwen3.8 exigem uma recarga.

[Começar](https://inference.broadnet.ai/account/?utm_source=broadrouter&utm_medium=referral&utm_campaign=pt-glossary-inference-provider&utm_content=page-cta) ·

**Fontes**

-   [Hugging Face, documentação dos Inference Providers](https://huggingface.co/docs/inference-providers/index)
-   [BroadNet, declaração de privacidade e retenção de dados da API de inferência (onde os modelos rodam) (em inglês)](https://www.broadnet.ai/inference-privacy)
-   [Referência da API da BroadNet Inference (em inglês)](https://inference.broadnet.ai/docs?utm_source=broadrouter&utm_medium=referral&utm_campaign=pt-glossary-inference-provider&utm_content=sources)
