---
title: "Uno dans vLLM : étude de BroadNet, DOI et résultats | BroadRouter"
description: "BroadNet a intégré l’adaptateur d’auto-drafting Uno à vLLM et l’a mesuré sur H100 : débit 2,58x à un flux, 1,74x à 32. La méthode, le DOI et les limites."
url: https://broadrouter.com/fr/blog/uno-in-vllm-serving-study/
lang: fr
updated: 2026-11-15
publisher: BroadRouter (a BroadNet site); API by BroadNet Inference, https://inference.broadnet.ai
---

Traduit de l’anglais avec l’aide de l’IA. [Lire l’original en anglais](https://broadrouter.com/blog/uno-in-vllm-serving-study/) (mis à jour le 2026-11-15).

# Uno dans vLLM : ce qu’a mesuré l’étude de service de BroadNet

Par l’équipe BroadNet Inference · 4 min de lecture · Publié 2026-11-15

Uno dans vLLM est un preprint de BroadNet de septembre 2026 (DOI 10.5281/zenodo.22652610). Il ajoute à vLLM Uno, un adaptateur qui permet à un modèle de rédiger ses propres tokens à l’avance. Sur une H100 avec Qwen3-8B, BroadNet a mesuré 2,58 fois le débit de vLLM simple à un flux, 2,20 fois à huit et 1,74 fois à 32, à moins de 3 % de l’implémentation de référence.

## À retenir

-   L’article est un preprint sur Zenodo, DOI 10.5281/zenodo.22652610, publié le 8 septembre 2026 sous CC BY 4.0. Il n’est pas évalué par les pairs.
-   Uno est la méthode d’IFM ; la contribution de BroadNet est l’intégration native à vLLM et les mesures de service.
-   Sur une charge mathématique contrôlée avec H100 et Qwen3-8B : 2,58x vLLM simple à 1 flux, 2,20x à 8, 1,74x à 32.
-   Avec les réglages de production, 7 657 tokens par seconde à 32 flux, contre 7 505 pour la référence SGLang.
-   Les gains valent pour un modèle, une charge et des réglages précis. Mesurez sur votre propre trafic avant de vous y fier.

**Sur cette page**

1.  Quel problème Uno traite-t-il ?
2.  Qu’a construit BroadNet ?
3.  Comment a-t-il été mesuré ?
4.  Qu’a trouvé l’étude ?
5.  Quelles sont les limites ?
6.  Pourquoi est-ce important si vous appelez simplement une API ?

Uno dans vLLM est un preprint de la branche de recherche de BroadNet, publié sur Zenodo le 8 septembre 2026 sous le DOI [10.5281/zenodo.22652610](https://doi.org/10.5281/zenodo.22652610). Il décrit une implémentation native dans vLLM d’Uno, une méthode de speculative decoding développée par IFM, et mesure à quel point elle sert plus vite que vLLM simple. Sa notice Zenodo indique Mohammad Al Zubaidi comme auteur.

Cette page résume ce que dit l’article, comment il l’a mesuré, et ce qu’il vous apprend ou non. Les chiffres sont ceux de BroadNet ; nous ne les avons pas reproduits.

## Quel problème Uno traite-t-il ?

Un modèle de langage génère normalement un token par passe avant. Le speculative decoding accélère cela en devinant plusieurs tokens à l’avance et en les vérifiant en une seule passe du modèle complet. La plupart des méthodes utilisent un modèle de draft séparé, plus petit. Uno attache plutôt un adaptateur entraîné au modèle lui-même : le modèle rédige ses propres tokens, puis les vérifie avec ses poids d’origine. Voir [speculative decoding](https://broadrouter.com/fr/glossary/speculative-decoding/) pour l’idée générale.

La question de l’article est pratique : cette accélération survit-elle dans un moteur de service en production, avec batching, cache et de nombreuses requêtes simultanées ?

## Qu’a construit BroadNet ?

L’article de blog de BroadNet est clair sur la paternité : « Uno, developed by IFM and collaborators » (traduction : « Uno, développé par IFM et ses collaborateurs ») est la méthode, et la contribution de BroadNet est « the native vLLM integration, the engineering that makes its execution paths work together, and the serving evaluation » (traduction : « l’intégration native à vLLM, l’ingénierie qui fait fonctionner ensemble ses chemins d’exécution, et l’évaluation en service »). Le résumé liste les éléments d’exécution : routage conditionnel de l’adaptateur, état clé/valeur complet du draft, ordonnancement asynchrone, rejeu de graphes CUDA, calcul de l’adaptateur en recouvrement et réutilisation des lignes d’amorce.

Le code est public dans le [dépôt vllm-uno](https://github.com/brntech/vllm-uno) de BroadNet, et BroadNet l’a proposé en amont à vLLM sous forme de pull request 55947.

## Comment a-t-il été mesuré ?

Le test principal est contrôlé :

-   **Matériel et modèle :** une NVIDIA H100, Qwen3-8B en bfloat16, avec l’adaptateur Uno publié pour Qwen3-8B.
-   **Charge :** huit prompts mathématiques, répétés pour remplir des lots plus grands, générant chacun jusqu’à 512 tokens, avec le cache de préfixe désactivé.
-   **Référence :** vLLM autorégressif ordinaire (« vLLM simple ») sur la même configuration.
-   **Concurrence :** 1, 8 et 32 flux simultanés.

Une seconde comparaison, séparée, active le cache de préfixe et utilise les réglages de service choisis par BroadNet, pour comparer avec l’implémentation de référence SGLang.

## Qu’a trouvé l’étude ?

| Mesure | Résultat rapporté par BroadNet |
| --- | --- |
| Débit par rapport à vLLM simple, 1 flux | 2,58x |
| Débit par rapport à vLLM simple, 8 flux | 2,20x |
| Débit par rapport à vLLM simple, 32 flux | 1,74x |
| Écart avec l’implémentation de référence SGLang | moins de 3 % à 1, 8 et 32 flux |
| Réglages de production, 32 flux | 7 657 tokens/s, contre 7 505 pour SGLang (2,0 % devant) |
| Latence du premier token à chaud, ablation au sein de vLLM | 25 % plus basse avec deux processus d’API au lieu d’un |

Le chiffre clé pour la planification de capacité est la dernière ligne du premier bloc : 74 % de sortie en plus par seconde à 32 flux simultanés, sur le même GPU. C’est ce que le blog de BroadNet appelle « the central payoff » (traduction : « le gain central »), car une accélération qui disparaît sous charge n’apporte pas grand-chose à une API partagée.

Une version ultérieure (v0.2.0, sur le Model Runner V2 de vLLM) est décrite sur le blog de BroadNet avec 2,1 à 2,4 fois la sortie sur un seul flux sur Blackwell, 1,7 à 1,9 fois sur Ampere et 2,6 fois sur Hopper. Ce sont un matériel et des versions différents de ceux du tableau principal de l’article, d’où l’écart entre les chiffres.

## Quelles sont les limites ?

-   **Un modèle, une charge.** Le résultat contrôlé porte sur Qwen3-8B avec des prompts mathématiques. Du code, du chat ou de longs documents peuvent faire accepter moins de tokens rédigés.
-   **Les gains diminuent avec la charge.** La baisse de 2,58x à 1,74x a la forme attendue : quand le GPU est occupé, la puissance libre pour le draft s’épuise.
-   **Un preprint.** L’article est déposé sur Zenodo, sans évaluation par les pairs. Son archive associée contient l’inventaire des preuves et les données des figures, ce qui permet à d’autres de le vérifier.
-   **Auto-déclaré.** BroadNet a exécuté les deux variantes. L’accord à 3 % près avec l’implémentation de référence est le contrôle que l’article fait lui-même sur ce point.

## Pourquoi est-ce important si vous appelez simplement une API ?

Le débit par GPU détermine ce qu’un fournisseur peut facturer et sa rapidité de réponse sous charge. Le catalogue de BroadNet indique qu’il mesure les méthodes de draft à une concurrence réelle avant d’en choisir une, et qu’il a écarté EAGLE3 après que celle-ci a coûté 69 % du débit à 32 requêtes simultanées. [L’étude complémentaire sur Gemma 4 26B](https://broadrouter.com/fr/blog/uno-mixture-of-experts-gemma-4-study/) applique la même méthode au modèle mixture of experts que BroadNet vend sous le nom [Gemma 4 VL 26B](https://broadrouter.com/fr/models/gemma-4-vl-26b/). Pour voir comment cela s’inscrit dans les choix de service plus larges de BroadNet, lisez [le matériel GPU et l’approche de service de BroadNet](https://broadrouter.com/fr/blog/broadnet-gpu-fleet-and-serving/).

Si vous exploitez vos propres serveurs vLLM, la leçon pratique est de mesurer toute méthode de draft à la concurrence que vous avez réellement, pas à un seul flux.

Outils gratuits sur ce sujet (en anglais)

-   [OpenAI to BroadNet migration helper](https://broadrouter.com/tools/openai-to-broadnet-migration/) Paste OpenAI SDK code; get base URL, key and model edits, a diff and the checks that remain.
-   [max\_tokens calculator for reasoning models](https://broadrouter.com/tools/reasoning-token-budget/) Answer length + reasoning budget + margin = a max\_tokens that does not cut the answer off.
-   [JSON schema generator for LLM structured output](https://broadrouter.com/tools/json-schema-generator/) Sample JSON to strict schema, Pydantic, Zod and a ready request.
-   [LLM JSON output validator](https://broadrouter.com/tools/llm-json-output-validator/) Parse errors by line and column, safe repairs, cut-off detection and JSON Schema checks for model output.

[Outils gratuits (en anglais)](https://broadrouter.com/tools/)

## Termes de cet article

[vLLM](https://broadrouter.com/fr/glossary/vllm/)

vLLM est une bibliothèque open source d’inférence et de serving de LLM, développée à l’origine au Sky Computing Lab de UC Berkeley. Elle gère la mémoire du cache KV avec PagedAttention, regroupe en continu les requêtes entrantes (continuous batching), prend en charge de nombreux formats de quantification et expose un serveur HTTP compatible OpenAI.

[Token](https://broadrouter.com/fr/glossary/token/)

Un token est l’unité de texte qu’un modèle de langage lit et écrit : un mot, une partie de mot, un signe de ponctuation ou une suite d’octets produite par le tokenizer du modèle. Les API LLM comptent, limitent et facturent généralement l’usage en tokens.

[Décodage spéculatif (speculative decoding)](https://broadrouter.com/fr/glossary/speculative-decoding/)

Le décodage spéculatif est une technique d’inférence dans laquelle un petit modèle brouillon rapide propose plusieurs tokens suivants, que le grand modèle cible vérifie en une seule passe avant (forward pass) en gardant ceux qu’il accepte. Il accélère la génération sans changer la distribution de la sortie.

[Concurrence (requêtes simultanées)](https://broadrouter.com/fr/glossary/concurrency/)

La concurrence est le nombre de requêtes qu’un client a en cours au même moment. Les API de LLM la plafonnent souvent par clé ou par forfait, indépendamment des requêtes par minute, car chaque requête ouverte occupe de la capacité GPU jusqu’à la fin de sa réponse.

[Débit (throughput)](https://broadrouter.com/fr/glossary/throughput/)

Le débit (throughput), dans le service de LLM, est la quantité totale de travail qu’un système accomplit par unité de temps sur toutes les requêtes simultanées, généralement mesurée en tokens de sortie par seconde ou en requêtes par seconde. Il se distingue de la vitesse par flux, c’est-à-dire la vitesse à laquelle une seule requête reçoit ses tokens.

[Latence (LLM)](https://broadrouter.com/fr/glossary/latency/)

Pour une API de modèle de langage, la latence est le temps que prend une requête entre son envoi et la réception du dernier token de sortie. C’est la somme du time to first token et du temps de génération, généralement exprimée en percentiles comme le p50 et le p95 plutôt qu’en moyenne.

[Mixture of experts (MoE, mélange d’experts)](https://broadrouter.com/fr/glossary/mixture-of-experts/)

Le mixture of experts (MoE) est une architecture de réseau de neurones dans laquelle une couche contient de nombreux sous-réseaux experts et un routeur appris envoie chaque token vers quelques-uns seulement. Un modèle de langage MoE a un grand nombre total de paramètres mais n’en utilise qu’un petit sous-ensemble actif par token.

[Time to first token (TTFT)](https://broadrouter.com/fr/glossary/time-to-first-token/)

Le time to first token (TTFT) est le temps écoulé entre l’envoi d’une requête à un modèle de langage et l’arrivée du premier token de sortie. Il comprend le temps réseau, la file d’attente côté serveur et le prefill, où le modèle lit tout le prompt : il augmente donc avec la longueur du prompt et la charge.

## Questions fréquentes

### Qu’est-ce qu’Uno ?

Uno est une méthode de speculative decoding développée par IFM et ses collaborateurs. Un petit adaptateur entraîné permet au modèle de proposer plusieurs tokens à la fois, que les propres poids du modèle vérifient ensuite. Il n’y a pas de modèle de draft séparé.

### L’accélération est-elle sans perte ?

BroadNet l’affirme pour sa version : chaque fois que vLLM simple reproduit sa propre sortie, Uno retrouve ses tokens en décodage glouton, et ses tests de distribution échantillonnée passent. Le speculative decoding vérifie chaque token rédigé avec le modèle complet, donc la qualité de sortie ne devrait pas changer ; vérifiez-le sur vos propres prompts.

### Uno aide-t-il à forte concurrence ?

Moins qu’à faible concurrence. Dans le test contrôlé de l’article, le gain passait de 2,58x à un flux à 1,74x à 32. Le catalogue de BroadNet rapporte aussi qu’une autre méthode, EAGLE3, coûtait 69 % du débit à 32 requêtes simultanées : les méthodes de draft doivent donc être testées à votre charge réelle.

### Puis-je l’exécuter moi-même ?

Oui. BroadNet publie l’implémentation dans son dépôt vllm-uno, avec une image de conteneur, des versions figées et un dossier de validation pour chaque version, et l’a proposée à vLLM sous forme de pull request 55947.

### BroadNet Inference utilise-t-il Uno pour les modèles de son API ?

BroadNet ne le dit pas. Son catalogue indique des drafters multi-token prediction (k=2) en production pour Gemma 4 26B. Uno est un résultat de recherche que BroadNet publie ; demandez à BroadNet si vous en avez besoin sur un endpoint privé.

## À lire ensuite

-   [Uno sur Gemma 4 26B : l’étude mixture of experts de BroadNet](https://broadrouter.com/fr/blog/uno-mixture-of-experts-gemma-4-study/)
-   [Matériel GPU et serving de BroadNet, tels que BroadNet les décrit](https://broadrouter.com/fr/blog/broadnet-gpu-fleet-and-serving/)
-   [Latence LLM : TTFT, tokens par seconde et temps de bout en bout](https://broadrouter.com/fr/blog/llm-latency-ttft-throughput/)
-   [Les modèles que BroadNet a évalués puis écartés, et pourquoi](https://broadrouter.com/fr/blog/models-broadnet-ruled-out/)
-   [Mettre en cache les réponses d’API LLM : un cache exact en Python](https://broadrouter.com/fr/blog/cache-llm-responses-cut-cost/)
-   [Intégrer la relecture humaine à votre workflow d’IA documentaire](https://broadrouter.com/fr/blog/document-review-queues/)

Essayez-le sur votre vraie charge de travail. Les nouveaux comptes démarrent avec USD 5 de crédit pour Gemma et transcription. DeepSeek, GLM et Qwen3.8 nécessitent une recharge.

[Commencer](https://inference.broadnet.ai/account/?utm_source=broadrouter&utm_medium=referral&utm_campaign=fr-blog-uno-in-vllm-serving-study&utm_content=page-cta) ·

**Sources**

-   [Al Zubaidi, Uno in vLLM: An Independent Implementation and Empirical Serving Study, preprint Zenodo v1.0, 2026-09-08 (notice consultée le 2026-11-15)](https://doi.org/10.5281/zenodo.22652610)
-   [BroadNet Research : articles publiés et principaux résultats (consulté le 2026-11-15) (en anglais)](https://www.broadnet.ai/research)
-   [Blog de BroadNet, Bringing Uno to vLLM (8 septembre 2026 ; consulté le 2026-11-15) (en anglais)](https://www.broadnet.ai/blog/bringing-uno-to-vllm)
-   [Dépôt vllm-uno de BroadNet (consulté le 2026-11-15)](https://github.com/brntech/vllm-uno)
-   [IFM, dépôt du projet Uno (consulté le 2026-11-15)](https://github.com/ifm-ai/uno)
