---
title: "Qu’est-ce que la quantification d’un LLM ? Moins de bits"
description: "La quantification stocke les poids d’un LLM, parfois ses activations, sur moins de bits : moins de mémoire GPU, inférence plus rapide. Formats, calculs, qualité."
url: https://broadrouter.com/fr/glossary/quantization/
lang: fr
updated: 2026-11-14
publisher: BroadRouter (a BroadNet site); API by BroadNet Inference, https://inference.broadnet.ai
---

Traduit de l’anglais avec l’aide de l’IA. [Lire l’original en anglais](https://broadrouter.com/glossary/quantization/) (mis à jour le 2026-11-14).

# Quantification (quantization)

Mis à jour 2026-11-14

La quantification consiste à stocker les nombres d’un réseau de neurones, surtout ses poids, dans un format de moindre précision comme 8 ou 4 bits au lieu de 16 bits, pour que le modèle utilise moins de mémoire et tourne souvent plus vite. Les bonnes méthodes limitent la perte de précision.

Aussi appelé : quantification, quantification de modèle, quantification LLM, modèle quantifié, quantification des poids, quantisation, quantization, model quantization, LLM quantization, quantized model, weight quantization

La plupart des modèles ouverts sont publiés avec des poids en 16 bits. La quantification réduit ces nombres pour qu’un modèle tienne sur moins de GPU.

## Comment ça marche

Hugging Face décrit la quantification comme le fait de « representing weights and activations with lower-precision data types like 8-bit integers (int8) » (traduction : « représenter les poids et les activations avec des types de données de moindre précision, comme des entiers 8 bits (int8) »). Chaque bloc de poids reçoit un facteur d’échelle. Les poids sont arrondis à un petit nombre de niveaux, puis multipliés à nouveau par ce facteur à l’exécution.

La mémoire des poids est proportionnelle au nombre de bits par paramètre. Prenons Gemma 4 26B A4B de Google, qui compte 25,2B paramètres :

| Précision | Octets par poids | Poids seuls |
| --- | --- | --- |
| 16 bits (BF16) | 2 | 25,2B × 2 = 50,4 Go |
| 8 bits ([FP8](https://broadrouter.com/fr/glossary/fp8/) ou INT8) | 1 | 25,2 Go |
| 4 bits ([INT4](https://broadrouter.com/fr/glossary/int4/)) | 0,5 | 12,6 Go |

Le [cache KV](https://broadrouter.com/fr/glossary/kv-cache/) et les activations demandent de la place en plus.

Les méthodes diffèrent par ce qu’elles quantifient et par la façon de choisir les niveaux :

-   **LLM.int8()** divise par deux la mémoire d’inférence et garde quelques caractéristiques aberrantes en 16 bits ; l’article indique que plus de 99,9 % des valeurs utilisent tout de même des calculs en 8 bits.
-   **GPTQ** est une méthode en une passe sur les poids, qui atteint 3 ou 4 bits par poids avec une « negligible accuracy degradation » (traduction : « dégradation négligeable de la précision ») et quantifie un modèle de 175B en environ quatre heures de GPU.
-   **Poids seuls ou poids et activations.** Les formats limités aux poids économisent de la mémoire. Quantifier aussi les activations peut en plus accélérer les calculs matriciels sur le matériel qui le permet.

## Pourquoi c’est important

Pour qui appelle une API, la quantification est invisible dans la requête, mais elle se voit à trois endroits. Le prix : des modèles plus petits demandent moins de GPU, ce qui réduit le coût de service. La vitesse : la génération est souvent limitée par la bande passante mémoire, donc moins d’octets par poids peut signifier plus de [tokens par seconde](https://broadrouter.com/fr/glossary/tokens-per-second/). La qualité : moins de bits, c’est plus d’erreurs d’arrondi, et un modèle peut conserver son score moyen tout en faiblissant sur les tâches précises dont vous dépendez.

Si deux fournisseurs servant le « même » modèle ouvert donnent des résultats différents, la précision est une cause probable.

## Sur BroadNet Inference

La référence de l’API de BroadNet n’indique pas la précision de service. Son catalogue de modèles présente la version de production de Gemma 4 26B A4B, proposée sous le nom [BroadNet Gemma 4 VL 26B](https://broadrouter.com/fr/models/gemma-4-vl-26b/), avec des poids AWQ en 4 bits et un cache KV en FP8. Il n’indique pas la précision de l’API pour les autres modèles. Si la précision compte pour votre usage, faites passer le même jeu d’évaluation à chaque fournisseur ; la [checklist pour évaluer un modèle avant de changer](https://broadrouter.com/fr/blog/evaluate-llm-before-switching/) explique comment.

## Questions fréquentes

### La quantification dégrade-t-elle un modèle ?

Parfois, légèrement. LLM.int8() ne signale aucune dégradation en inférence 8 bits jusqu’à 175B paramètres, et GPTQ une perte négligeable à 3 ou 4 bits par poids. Moins de bits et des tâches plus difficiles augmentent le risque : testez sur vos propres prompts.

### Peut-on savoir si une API sert un modèle quantifié ?

En général, seulement si le fournisseur le dit. L’API renvoie le même format de réponse dans les deux cas : comparez les sorties sur vos propres tests et demandez au fournisseur quelle précision il utilise.

### Combien de mémoire la quantification fait-elle gagner ?

La mémoire des poids est proportionnelle au nombre de bits par poids. Un modèle de 25,2B paramètres demande environ 50,4 Go en 16 bits, 25,2 Go en 8 bits et 12,6 Go en 4 bits, sans compter le cache KV et les activations.

## Voir aussi

-   [FP8](https://broadrouter.com/fr/glossary/fp8/) (terme)
-   [INT4 (quantification 4 bits)](https://broadrouter.com/fr/glossary/int4/) (terme)
-   [Cache KV (KV cache)](https://broadrouter.com/fr/glossary/kv-cache/) (terme)
-   [Mixture of experts (MoE, mélange d’experts)](https://broadrouter.com/fr/glossary/mixture-of-experts/) (terme)
-   [Modèle open-weight (à poids ouverts)](https://broadrouter.com/fr/glossary/open-weight-model/) (terme)
-   [AWQ (activation-aware weight quantization)](https://broadrouter.com/fr/glossary/awq/) (terme)
-   [GGUF](https://broadrouter.com/fr/glossary/gguf/) (terme)
-   [Utiliser le SDK Python d’OpenAI avec BroadNet Inference](https://broadrouter.com/fr/guides/openai-python-sdk/) (guide)
-   [IA open-weight ou fermée en entreprise : coût, contrôle, risque](https://broadrouter.com/fr/blog/open-weight-vs-closed-models/) (article)
-   [Auto-héberger un LLM ou passer par une API : coût réel et rentabilité](https://broadrouter.com/fr/blog/self-hosting-llm-vs-api-cost/) (article)

Essayez-le sur votre vraie charge de travail. Les nouveaux comptes démarrent avec USD 5 de crédit pour Gemma et transcription. DeepSeek, GLM et Qwen3.8 nécessitent une recharge.

[Commencer](https://inference.broadnet.ai/account/?utm_source=broadrouter&utm_medium=referral&utm_campaign=fr-glossary-quantization&utm_content=page-cta) ·

**Sources**

-   [Hugging Face Transformers, référence de la quantification](https://huggingface.co/docs/transformers/en/main_classes/quantization)
-   [Dettmers et al., LLM.int8() 8-bit Matrix Multiplication for Transformers at Scale, arXiv 2208.07339](https://arxiv.org/abs/2208.07339)
-   [Frantar et al., GPTQ, Accurate Post-Training Quantization for Generative Pre-trained Transformers, arXiv 2210.17323](https://arxiv.org/abs/2210.17323)
-   [Google, fiche du modèle Gemma 4 26B A4B (nombre de paramètres)](https://huggingface.co/google/gemma-4-26B-A4B-it)
-   [Catalogue des modèles de BroadNet (mesures en laboratoire, septembre 2026) (en anglais)](https://www.broadnet.ai/inference/models)
