---
title: "Qu’est-ce que l’AWQ ? Quantification guidée par activations"
description: "L’AWQ quantifie les poids en 4 bits en s’appuyant sur les statistiques d’activation pour protéger les poids les plus importants. Principe et usages."
url: https://broadrouter.com/fr/glossary/awq/
lang: fr
updated: 2026-11-16
publisher: BroadRouter (a BroadNet site); API by BroadNet Inference, https://inference.broadnet.ai
---

Traduit de l’anglais avec l’aide de l’IA. [Lire l’original en anglais](https://broadrouter.com/glossary/awq/) (mis à jour le 2026-11-16).

# AWQ (activation-aware weight quantization)

Mis à jour 2026-11-16

L’AWQ (activation-aware weight quantization) est une méthode post-entraînement qui compresse les poids d’un LLM en basse précision, généralement des entiers 4 bits. Elle utilise les statistiques d’activation d’un petit jeu de calibration pour repérer les canaux de poids les plus importants et les met à l’échelle pour qu’ils perdent moins de précision. Elle ne nécessite aucune rétropropagation.

Aussi appelé : AWQ, quantification AWQ, quantification des poids sensible aux activations, activation-aware weight quantization, AWQ quantization

Un modèle en 4 bits fait environ le quart de la taille de son original en 16 bits. L’AWQ est l’une des méthodes les plus utilisées pour y parvenir sans perdre beaucoup de qualité.

## Comment ça marche

La [quantification](https://broadrouter.com/fr/glossary/quantization/) simple arrondit chaque poids à un petit ensemble de valeurs. Certains poids comptent plus que d’autres, et c’est en les arrondissant qu’on fait le plus de dégâts. Le constat central de l’article sur l’AWQ est que « Protecting only 1% salient weights can greatly reduce quantization error » (traduction : « protéger seulement 1 % de poids saillants peut réduire fortement l’erreur de quantification »), et que pour trouver ces poids « we should refer to the activation distribution, not weights » (traduction : « il faut se référer à la distribution des activations, pas aux poids »).

Les étapes, dans les grandes lignes :

1.  Faire passer un petit jeu de calibration dans le modèle en pleine précision et relever la taille des activations par canal.
2.  Agrandir les canaux de poids saillants par ce que l’article appelle « an equivalent transformation » (traduction : « une transformation équivalente »), pour que l’arrondi leur coûte moins tout en laissant la sortie de la couche inchangée. On évite ainsi une « hardware-inefficient mix-precision quantization » (traduction : « quantification en précision mixte peu efficace pour le matériel »).
3.  Arrondir tous les poids en basse précision, typiquement des entiers 4 bits avec un facteur d’échelle par groupe de poids.

L’article souligne que « AWQ does not rely on any backpropagation or reconstruction » (traduction : « l’AWQ ne repose sur aucune rétropropagation ni reconstruction »), si bien qu’elle « generalizes to different domains and modalities » (traduction : « se généralise à différents domaines et modalités ») sans surajuster le jeu de calibration. Il a reçu le Best Paper Award de MLSys 2024.

Dans vLLM, un checkpoint AWQ déjà quantifié se charge avec un seul argument :

```python
from vllm import LLM
llm = LLM(model="TheBloke/Llama-2-7b-Chat-AWQ", quantization="auto_awq")
```

La page de vLLM décrit le format comme réduisant les poids « from BF16/FP16 to INT4 » (traduction : « de BF16/FP16 à INT4 ») et prévient que « The AutoAWQ library is deprecated » (traduction : « la bibliothèque AutoAWQ est dépréciée ») ; les nouveaux modèles AWQ se produisent avec llm-compressor de vLLM.

## Pourquoi c’est important

-   **Mémoire et coût.** Des poids plus petits tiennent sur moins de GPU, ou des GPU moins chers, et laissent plus de mémoire au [cache KV](https://broadrouter.com/fr/glossary/kv-cache/), donc plus de requêtes simultanées.
-   **Vitesse.** Le décodage lit chaque poids pour chaque token : des poids plus petits peuvent donc accélérer la sortie. L’article indique que son runtime TinyChat offre « more than 3x speedup over the Huggingface FP16 implementation » (traduction : « une accélération de plus de 3x par rapport à l’implémentation FP16 de Huggingface »).
-   **Mêmes poids, résultats différents.** Deux hébergeurs qui servent « le même modèle » peuvent utiliser des quantifications différentes. Demandez quel format sert un fournisseur quand vous comparez la qualité.

L’AWQ ne quantifie que les poids. Elle se distingue du [FP8](https://broadrouter.com/fr/glossary/fp8/), qui peut aussi quantifier les activations, et du [GGUF](https://broadrouter.com/fr/glossary/gguf/), un format de fichier doté de ses propres types de quantification pour llama.cpp.

## Sur BroadNet Inference

BroadNet indique servir [Gemma 4 VL 26B](https://broadrouter.com/fr/models/gemma-4-vl-26b/) avec des poids AWQ 4 bits qu’il a quantifiés lui-même, avec un décodage spéculatif par prédiction multi-tokens (k=2) et un cache KV en fp8. Selon sa page de modèle, il a testé le NVFP4 puis l’a abandonné après une comparaison directe. BroadNet indique aussi que les mêmes poids Gemma 4 servis par un fournisseur hébergé ont obtenu en moyenne 0,13 de moins que son propre service (BroadNet ne précise ni la métrique ni l’échelle) ; l’[article sur la flotte GPU et le service](https://broadrouter.com/fr/blog/broadnet-gpu-fleet-and-serving/) donne les détails. BroadNet ne publie pas le format de quantification de ses autres modèles d’API. Si vous comptez exécuter vous-même des poids AWQ, le [guide auto-hébergement ou API](https://broadrouter.com/fr/blog/self-hosting-llm-vs-api-cost/) fait le calcul.

## Questions fréquentes

### L’AWQ, est-ce la même chose que l’INT4 ?

L’AWQ est une méthode, l’INT4 un format numérique. L’AWQ produit généralement des poids en entiers 4 bits : un modèle AWQ est donc une sorte de modèle INT4. D’autres méthodes, comme GPTQ ou les types de quantification GGUF, peuvent aussi produire des poids en 4 bits.

### L’AWQ dégrade-t-elle la qualité ?

Toute quantification à faible nombre de bits peut le faire. L’article sur l’AWQ indique que protéger environ 1 % des poids saillants réduit fortement l’erreur de quantification, mais testez le modèle quantifié sur vos propres prompts.

### Peut-on exécuter des modèles AWQ dans vLLM ?

Oui. La documentation de vLLM montre comment charger un checkpoint AWQ déjà quantifié. Elle signale aussi que la bibliothèque AutoAWQ est dépréciée et renvoie vers le projet llm-compressor de vLLM pour produire de nouveaux modèles AWQ.

## Voir aussi

-   [Quantification (quantization)](https://broadrouter.com/fr/glossary/quantization/) (terme)
-   [INT4 (quantification 4 bits)](https://broadrouter.com/fr/glossary/int4/) (terme)
-   [FP8](https://broadrouter.com/fr/glossary/fp8/) (terme)
-   [GGUF](https://broadrouter.com/fr/glossary/gguf/) (terme)
-   [vLLM](https://broadrouter.com/fr/glossary/vllm/) (terme)
-   [Modèle open-weight (à poids ouverts)](https://broadrouter.com/fr/glossary/open-weight-model/) (terme)
-   [Matériel GPU et serving de BroadNet, tels que BroadNet les décrit](https://broadrouter.com/fr/blog/broadnet-gpu-fleet-and-serving/) (article)
-   [Auto-héberger un LLM ou passer par une API : coût réel et rentabilité](https://broadrouter.com/fr/blog/self-hosting-llm-vs-api-cost/) (article)

Essayez-le sur votre vraie charge de travail. Les nouveaux comptes démarrent avec USD 5 de crédit pour Gemma et transcription. DeepSeek, GLM et Qwen3.8 nécessitent une recharge.

[Commencer](https://inference.broadnet.ai/account/?utm_source=broadrouter&utm_medium=referral&utm_campaign=fr-glossary-awq&utm_content=page-cta) ·

**Sources**

-   [Lin et al., AWQ: Activation-aware Weight Quantization for LLM Compression and Acceleration, arXiv 2306.00978 (vérifié le 2026-11-15)](https://arxiv.org/abs/2306.00978)
-   [Documentation de vLLM, quantification AutoAWQ (vérifié le 2026-11-15)](https://docs.vllm.ai/en/latest/features/quantization/auto_awq.html)
-   [BroadNet, page du modèle Gemma 4 VL 26B : configuration de service (vérifié le 2026-11-15) (en anglais)](https://www.broadnet.ai/inference/models/gemma-4-vl-26b)
