---
title: "O que é FP8? Ponto flutuante de 8 bits para inferência"
description: "FP8 é um formato de ponto flutuante de 8 bits (E4M3, E5M2) que roda LLMs com metade da memória do formato de 16 bits. Diferenças para o INT8 e GPUs compatíveis."
url: https://broadrouter.com/pt/glossary/fp8/
lang: pt-BR
updated: 2026-11-14
publisher: BroadRouter (a BroadNet site); API by BroadNet Inference, https://inference.broadnet.ai
---

Traduzido do inglês com ajuda de IA. [Leia o original em inglês](https://broadrouter.com/glossary/fp8/) (atualizado em 2026-11-14).

# FP8 (ponto flutuante de 8 bits)

Atualizado em 2026-11-14

FP8 é um formato numérico de ponto flutuante de 8 bits usado em deep learning, definido em duas codificações: E4M3, com 4 bits de expoente e 3 de mantissa, e E5M2, com 5 bits de expoente e 2 de mantissa. Ele reduz pela metade a memória em relação aos formatos de 16 bits e roda nativamente em GPUs recentes.

Também chamado de: ponto flutuante de 8 bits, quantização FP8, 8-bit floating point, E4M3, E5M2, FP8 quantization, W8A8 FP8

FP8 é o formato numérico de 8 bits que a maioria das GPUs novas suporta nativamente. Muitas vezes é o primeiro passo abaixo dos 16 bits ao servir um modelo grande.

## Como funciona

Um número de ponto flutuante tem sinal, expoente e mantissa. O artigo sobre FP8 de Micikevicius et al. define dois layouts, cada um com um bit de sinal:

| Codificação | Bits de expoente | Bits de mantissa | Trade-off |
| --- | --- | --- | --- |
| E4M3 | 4 | 3 | Mais precisão; o vLLM indica máximo de ±448 |
| E5M2 | 5 | 2 | Menos precisão; o vLLM indica máximo de ±57.344 |

O E5M2 segue as regras do IEEE 754 para valores especiais. O E4M3 abre mão dos infinitos e mantém um único padrão NaN para ampliar a faixa. Ambos têm só 256 valores possíveis, então um fator de escala leva cada tensor para a faixa que o formato cobre.

Como alvo de [quantização](https://broadrouter.com/pt/glossary/quantization/), o FP8 costuma ser aplicado como **W8A8**: pesos e ativações em 8 bits, com um fator de escala por tensor ou por bloco. O artigo relata que o FP8 iguala a qualidade do treinamento em 16 bits em modelos de até 175B de parâmetros. Ele também observa que a quantização pós-treinamento em FP8 funcionou em modelos de linguagem “that resisted fixed point int8 quantization” (tradução: que resistiam à quantização int8 de ponto fixo), porque o expoente lida melhor com outliers.

O FP8 também aparece dentro de outros formatos. O card da DeepSeek para o DeepSeek V4.1 Flash guarda o [KV cache](https://broadrouter.com/pt/glossary/kv-cache/) principal em floats de 4 bits com “one E4M3 scale per 16 channels” (tradução: uma escala E4M3 a cada 16 canais).

## Por que isso importa

A documentação do vLLM afirma que o FP8 traz “a 2x reduction in model memory requirements and up to a 1.6x improvement in throughput with minimal impact on accuracy.” (tradução: redução de 2x na memória exigida pelo modelo e até 1,6x de melhora no throughput, com impacto mínimo na precisão). Para um provedor, isso significa que um modelo cabe em menos GPUs, ou que as mesmas GPUs atendem mais requisições ao mesmo tempo, o que aumenta o [throughput](https://broadrouter.com/pt/glossary/throughput/) e reduz o custo por token.

Para quem usa uma API, o FP8 é a ponta leve da quantização: o vLLM relata impacto mínimo na precisão, mas vale testar as tarefas de que você depende. É um passo menos agressivo que o [INT4](https://broadrouter.com/pt/glossary/int4/), que economiza mais memória, mas traz mais risco em tarefas difíceis.

## Na BroadNet Inference

O [catálogo de modelos](https://www.broadnet.ai/inference/models) da BroadNet diz que a build de produção do Gemma 4 26B A4B guarda o KV cache em FP8, com pesos AWQ [INT4](https://broadrouter.com/pt/glossary/int4/). Essa é a descrição da própria BroadNet; a documentação da API não informa a precisão dos outros modelos. Se um formato numérico exato importa para uma auditoria ou um fluxo regulado, pergunte diretamente à BroadNet. Para o que de fato afeta a sua conta, veja os preços por token na [página de preços](https://broadrouter.com/pt/pricing/).

## Perguntas frequentes

### FP8 é a mesma coisa que INT8?

Não. Os dois usam 8 bits, mas o FP8 gasta alguns bits com um expoente, então cobre uma faixa maior de grandezas com menos precisão entre elas. O INT8 distribui seus 256 níveis de forma uniforme e depende mais de bons fatores de escala.

### Quais GPUs suportam FP8?

A documentação do vLLM lista computação em FP8 nas GPUs NVIDIA com compute capability 8.9 ou superior (Ada Lovelace, Hopper, Blackwell) e na AMD MI300x. Placas Turing e Ampere mais antigas conseguem carregar pesos FP8, mas calculam em 16 bits.

### Qual a diferença entre FP8 e INT4?

O FP8 usa 8 bits com expoente e costuma ser aplicado a pesos e ativações. O INT4 usa 16 níveis inteiros igualmente espaçados e costuma ser aplicado só aos pesos. O INT4 economiza mais memória; o FP8 traz menos risco de perda de precisão.

## Veja também

-   [Quantização (quantization)](https://broadrouter.com/pt/glossary/quantization/) (termo)
-   [INT4 (quantização de 4 bits)](https://broadrouter.com/pt/glossary/int4/) (termo)
-   [KV cache (cache de chave-valor)](https://broadrouter.com/pt/glossary/kv-cache/) (termo)
-   [Throughput (vazão)](https://broadrouter.com/pt/glossary/throughput/) (termo)
-   [Como usar o SDK Python da OpenAI com a BroadNet Inference](https://broadrouter.com/pt/guides/openai-python-sdk/) (guia)
-   [Hospedar um LLM próprio ou usar API: custo real e ponto de equilíbrio](https://broadrouter.com/pt/blog/self-hosting-llm-vs-api-cost/) (artigo)

Teste com a sua carga de trabalho real. Contas novas começam com US$ 5 de crédito para Gemma e transcrição. DeepSeek, GLM e Qwen3.8 exigem uma recarga.

[Começar](https://inference.broadnet.ai/account/?utm_source=broadrouter&utm_medium=referral&utm_campaign=pt-glossary-fp8&utm_content=page-cta) ·

**Fontes**

-   [Catálogo de modelos da BroadNet (Gemma 4 26B A4B, KV cache em FP8) (em inglês)](https://www.broadnet.ai/inference/models)
-   [Micikevicius et al., FP8 Formats for Deep Learning, arXiv 2209.05433](https://arxiv.org/abs/2209.05433)
-   [Documentação do vLLM, quantização FP8 W8A8](https://docs.vllm.ai/en/latest/features/quantization/llm_compressor/fp8/)
-   [NVIDIA TensorRT-LLM, precisão numérica](https://nvidia.github.io/TensorRT-LLM/reference/precision.html)
-   [DeepSeek, model card do DeepSeek-V4.1-Flash (escalas E4M3 no KV cache em FP4)](https://huggingface.co/deepseek-ai/DeepSeek-V4.1-Flash)
