---
title: "O que é inferência serverless? Modelos de IA pagos por uso"
description: "Inferência serverless roda um modelo atrás de um endpoint que escala com o tráfego, até zero, e cobra só pelo uso. Cold start, preços e comparação."
url: https://broadrouter.com/pt/glossary/serverless-inference/
lang: pt-BR
updated: 2026-11-16
publisher: BroadRouter (a BroadNet site); API by BroadNet Inference, https://inference.broadnet.ai
---

Traduzido do inglês com ajuda de IA. [Leia o original em inglês](https://broadrouter.com/glossary/serverless-inference/) (atualizado em 2026-11-16).

# Inferência serverless (serverless inference)

Atualizado em 2026-11-16

Inferência serverless é uma forma de rodar modelos de machine learning em que a plataforma inicia, escala e desliga automaticamente a computação por trás de um endpoint, muitas vezes até zero quando ocioso, e cobra pelo uso em vez de máquinas reservadas. A contrapartida é um possível atraso de cold start.

Também chamado de: inferência serverless, LLM serverless, endpoint serverless, escalar a zero, GPU serverless, serverless inference, serverless LLM, serverless model endpoint, scale to zero, serverless GPU inference

Serverless não quer dizer que não existem servidores. Quer dizer que você nunca os vê e para de pagar quando para de enviar requisições.

## Como funciona

O guia do SageMaker da AWS traz uma versão de referência clara. Endpoints serverless “automatically launch compute resources and scale them in and out depending on traffic” (tradução: iniciam automaticamente recursos de computação e os escalam conforme o tráfego), e, quando não há requisições, o serviço “scales your endpoint down to 0” (tradução: reduz o seu endpoint a 0). Você paga pelo uso, não por instância.

O preço de escalar a zero é o **cold start**. Se um endpoint ficou ocioso e chega uma requisição, “it can take some time for your endpoint to spin up the compute resources” (tradução: pode levar algum tempo para o seu endpoint subir os recursos de computação). Em modelos de linguagem grandes, carregar dezenas de gigabytes de pesos aumenta esse atraso. A solução de sempre é pagar para manter parte da capacidade aquecida; a AWS chama isso de provisioned concurrency e cobra por memória, duração e concorrência.

Os recursos variam entre plataformas. A lista de exclusões da própria AWS para o SageMaker Serverless Inference inclui GPUs, então hospedagem serverless do tamanho de um LLM costuma vir de outras plataformas. A Hugging Face descreve os seus Inference Providers como uma forma de usar “serverless inference of models” (tradução: inferência serverless de modelos) em vários provedores com um único token.

## Por que isso importa

|  | Endpoint serverless | GPU alugada ([hora de GPU](https://broadrouter.com/pt/glossary/gpu-hour/)) | API compartilhada por token |
| --- | --- | --- | --- |
| Paga quando ocioso | Não (a menos que mantenha aquecido) | Sim | Não |
| Cold starts | Possíveis | Não, depois de ligada | Raros nos modelos listados |
| Seu próprio modelo | Sim | Sim | Só o que o provedor lista |
| Quem cuida da escala | A plataforma | Você | O provedor |

Serverless combina com tráfego baixo ou com picos e um modelo próprio. Uma carga pesada e constante costuma sair mais barata em hardware reservado. Cold starts aparecem na cauda longa da [latência](https://broadrouter.com/pt/glossary/latency/), não na média, então confira o p95.

## Na BroadNet Inference

A BroadNet não descreve a sua API como serverless, e a documentação não diz nada sobre cold starts. Na prática, as chaves de [pagamento por uso](https://broadrouter.com/pt/glossary/pay-as-you-go/) têm as características serverless que importam para quem chama: nenhuma instância para escolher, nada para escalar e cobrança por token ou por minuto de áudio. Os limites são por chave, 30 requisições por minuto e 4 em andamento, e não por máquina. Você só pode chamar os modelos que a BroadNet lista, como o [Qwen3.8 27B](https://broadrouter.com/pt/models/qwen3.8-27b/); endpoints privados e outros modelos estão disponíveis sob consulta. Uma [primeira requisição com curl](https://broadrouter.com/pt/guides/curl-quickstart/) leva um minuto para testar.

## Perguntas frequentes

### O que é cold start na inferência serverless?

É o atraso quando um endpoint que foi reduzido recebe uma requisição e precisa primeiro iniciar a computação e carregar o modelo. A documentação do SageMaker da AWS descreve isso e oferece provisioned concurrency para manter capacidade aquecida, mediante pagamento.

### Uma API de LLM cobrada por token é serverless?

Do lado de quem chama, em grande parte sim. Você envia requisições, paga por token e não gerencia servidores. A diferença é que uma API compartilhada mantém os modelos populares carregados para muitos clientes, então em geral você não espera um modelo seu iniciar.

### Inferência serverless sai mais barata que uma GPU dedicada?

Para tráfego baixo ou com picos, geralmente sim, porque você para de pagar quando está ocioso. Para carga pesada e constante, uma GPU reservada costuma custar menos por requisição. Compare o seu padrão de tráfego com os dois preços.

## Veja também

-   [Provedor de inferência (inference provider)](https://broadrouter.com/pt/glossary/inference-provider/) (termo)
-   [Hora de GPU (GPU-hour)](https://broadrouter.com/pt/glossary/gpu-hour/) (termo)
-   [Pagamento por uso (pay-as-you-go)](https://broadrouter.com/pt/glossary/pay-as-you-go/) (termo)
-   [Latência (latency)](https://broadrouter.com/pt/glossary/latency/) (termo)
-   [Concorrência (concurrency)](https://broadrouter.com/pt/glossary/concurrency/) (termo)
-   [Primeira requisição à BroadNet Inference com curl](https://broadrouter.com/pt/guides/curl-quickstart/) (guia)
-   [Hospedar um LLM próprio ou usar API: custo real e ponto de equilíbrio](https://broadrouter.com/pt/blog/self-hosting-llm-vs-api-cost/) (artigo)
-   [Preço de API de LLM explicado: entrada, cache, saída e raciocínio](https://broadrouter.com/pt/blog/llm-api-pricing-explained/) (artigo)

Teste com a sua carga de trabalho real. Contas novas começam com US$ 5 de crédito para Gemma e transcrição. DeepSeek, GLM e Qwen3.8 exigem uma recarga.

[Começar](https://inference.broadnet.ai/account/?utm_source=broadrouter&utm_medium=referral&utm_campaign=pt-glossary-serverless-inference&utm_content=page-cta) ·

**Fontes**

-   [AWS, guia do desenvolvedor do Amazon SageMaker Serverless Inference (verificado em 2026-11-16)](https://docs.aws.amazon.com/sagemaker/latest/dg/serverless-endpoints.html)
-   [Hugging Face, documentação do Inference Providers (inferência serverless) (verificado em 2026-11-16)](https://huggingface.co/docs/inference-providers/index)
-   [Referência da API da BroadNet Inference, limites (verificado em 2026-11-16) (em inglês)](https://inference.broadnet.ai/docs?utm_source=broadrouter&utm_medium=referral&utm_campaign=pt-glossary-serverless-inference&utm_content=sources#limits)
