---
title: "Uno su Gemma 4 26B MoE: lo studio BroadNet e il DOI | BroadRouter"
description: "BroadNet ha addestrato il primo adapter Uno di self-drafting per un modello mixture of experts, Gemma 4 26B A4B. Che cosa ha misurato, quando conviene e il DOI."
url: https://broadrouter.com/it/blog/uno-mixture-of-experts-gemma-4-study/
lang: it
updated: 2026-11-15
publisher: BroadRouter (a BroadNet site); API by BroadNet Inference, https://inference.broadnet.ai
---

Tradotto dall’inglese con l’aiuto dell’IA. [Leggi l’originale in inglese](https://broadrouter.com/blog/uno-mixture-of-experts-gemma-4-study/) (aggiornato il 2026-11-16).

# Uno su Gemma 4 26B: lo studio di BroadNet sul mixture of experts

A cura del team di BroadNet Inference · 3 min di lettura · Pubblicato 2026-11-15 · Aggiornato 2026-11-16

Il preprint di BroadNet di settembre 2026 (DOI 10.5281/zenodo.22820511) addestra il primo adapter Uno per un modello mixture of experts, Gemma 4 26B A4B, servito a 4 bit. L’adapter decodifica 1,166 volte più veloce della decodifica semplice su 72 prompt di produzione, dietro due drafter separati a 1,474 e 1,553, ma supera il drafter di produzione a circa 10.500 token di contesto.

## Punti chiave

-   Preprint su Zenodo, DOI 10.5281/zenodo.22820511, versione 2.3, 18 settembre 2026, CC BY 4.0. Non sottoposto a revisione paritaria.
-   Modello target: Gemma 4 26B A4B, la base di BroadNet Gemma 4 VL 26B, servito con pesi a 4 bit.
-   Un adapter di rank 16 addestrato su 965 righe ha portato le bozze accettate dal 42,4% al 48,9%.
-   Accelerazione rispetto alla decodifica semplice: 1.166x per l’adapter Uno, 1.474x per un drafter multi-token prediction, 1.553x per un drafter a blocchi.
-   A circa 10.500 token di contesto l’adapter ha superato il drafter di produzione, 1.089x contro 1.011x.

**In questa pagina**

1.  Qual era la domanda?
2.  Come l’ha testato BroadNet?
3.  Che cosa ha trovato?
4.  Che cosa significa in pratica?
5.  Quali sono i limiti?

Il secondo preprint di BroadNet su Uno applica per la prima volta il self-drafting a un modello [mixture of experts](https://broadrouter.com/it/glossary/mixture-of-experts/). Pubblicato su Zenodo il 18 settembre 2026 con DOI [10.5281/zenodo.22820511](https://doi.org/10.5281/zenodo.22820511), serve Gemma 4 26B A4B a 4 bit e addestra per lui un adapter Uno. Il modello target è la stessa base di [BroadNet Gemma 4 VL 26B](https://broadrouter.com/it/models/gemma-4-vl-26b/) su BroadNet Inference.

Segue lo [studio su Uno nel serving con vLLM](https://broadrouter.com/it/blog/uno-in-vllm-serving-study/), che aveva testato un modello denso da 8B. I numeri qui sotto sono di BroadNet; non li abbiamo riprodotti.

## Qual era la domanda?

Lo speculative decoding propone in bozza diversi token e li verifica in un solo passaggio. Su un modello mixture of experts c’è un timore in più: le righe della bozza possono essere instradate verso esperti diversi, quindi proporre quattro token potrebbe leggere molti più pesi di esperti che generarne uno. Il paper si chiede se questo «expert fan-out» renda il self-drafting troppo costoso, e quando il self-drafting batte un drafter separato.

## Come l’ha testato BroadNet?

Dall’abstract del paper e dalla descrizione dei metodi di BroadNet:

-   **Modello:** Gemma 4 26B A4B, circa 4B parametri attivi per token, con pesi a 4 bit.
-   **Hardware:** GPU di classe 24 GB, una sequenza alla volta.
-   **Carico di lavoro:** 72 prompt presi dal traffico di produzione di BroadNet; ogni accelerazione è divisa per un’esecuzione con decodifica semplice nella stessa sessione.
-   **Contesto lungo:** un set separato di cinque prompt da circa 10.500 token.
-   **Adapter:** rank 16, addestrato su 965 righe attraverso lo stesso checkpoint a 4 bit con cui viene servito, su una sola GPU da 24 GB, senza pesi a precisione piena nel ciclo.

## Che cosa ha trovato?

| Come è stato decodificato Gemma 4 26B A4B | Accelerazione rispetto alla decodifica semplice |
| --- | --- |
| Decodifica semplice | 1,000 |
| Adapter pilota Uno, ampiezza 4 | 1,166 |
| Drafter multi-token prediction, ampiezza 2 | 1,474 |
| Drafter a blocchi, ampiezza 8 | 1,553 |
| Uno a circa 10.500 token di contesto | 1,089 (drafter MTP: 1,011) |

Altri risultati riportati da BroadNet:

-   **L’addestramento ha aiutato.** La quota accettata è salita dal 42,4% al 48,9% in 1.500 aggiornamenti, e un corpus più grande da 2.000 righe, addestrato con la stessa ricetta, ha fatto accettare 0,49 token di bozza in più per passo di verifica rispetto all’esecuzione di riferimento corrispondente.
-   **L’expert fan-out è reale ma costa poco.** Quattro righe di bozza hanno toccato 22 esperti distinti contro gli 8 di una riga sola, eppure l’intero costo legato alle righe è rimasto entro 0,53 passi su un ciclo di circa 2,4. BroadNet conclude che il costo di instradamento vale “under a fifth of a cycle” (traduzione: «meno di un quinto di ciclo») su questa classe di hardware.
-   **Senza perdite.** BroadNet ha costruito un controllo per un profilo il cui output semplice non si riproduce identico da una sessione all’altra, e riporta Uno “as close to plain as plain is to itself” (traduzione: «vicino alla decodifica semplice quanto la decodifica semplice lo è a sé stessa»).
-   **Cinque lingue.** Il paper fornisce quella che definisce la prima misura dell’accettazione di questo adapter in cinque lingue.

## Che cosa significa in pratica?

La regola del paper è semplice: se per il tuo modello esiste un buon piccolo drafter, usalo; il self-drafting si guadagna il posto con contesti lunghi e sui modelli che non hanno drafter. Coincide con ciò che BroadNet dice di usare: il suo catalogo indica Gemma 4 26B in produzione con un drafter multi-token prediction (k=2), con “90%+ acceptance on structured prompts” (traduzione: «oltre il 90% di accettazione sui prompt strutturati»).

Quanto aggiunge un drafter in produzione? Il catalogo di BroadNet riporta che la multi-token prediction ha aggiunto il 48,8% su una RTX 3090, e la sua pagina di Gemma 4 VL 26B indica circa 136 token al secondo su un singolo stream con lo speculative decoding attivo. Sono entrambe misure di BroadNet, sulla configurazione di serving descritta nella sua pagina del modello, quindi la velocità che ottieni tramite l’API dipende anche dal carico e dalla lunghezza del tuo prompt e della risposta.

Per chi compra un’API, la parte utile è il metodo, non l’adapter. BroadNet dice che ogni modello che serve passa da questo calcolo prima di arrivare a un cliente: misura il costo di un ciclo di bozza, poi scegli il drafter che vince sul carico di lavoro reale. La stessa disciplina l’ha portata a [scartare EAGLE3](https://broadrouter.com/it/blog/models-broadnet-ruled-out/) per il serving a pieno carico.

## Quali sono i limiti?

-   **Solo stream singolo.** Una sequenza alla volta, una esecuzione per variante. Il serving in batch si comporta diversamente, come ha mostrato lo studio sul modello denso.
-   **Un solo modello.** I risultati valgono per Gemma 4 26B A4B a 4 bit su schede di classe 24 GB.
-   **Un preprint.** Versione 2.3 su Zenodo, non sottoposta a revisione paritaria, con un archivio di evidenze allegato.

La release v0.3.0 di [vllm-uno](https://github.com/brntech/vllm-uno/releases/tag/v0.3.0) include il profilo di serving, un’immagine del container e il registro di validazione, quindi i numeri si possono verificare. Per provare il modello servito, il [playground nel browser](https://broadrouter.com/it/guides/try-broadnet-inference-playground/) di BroadNet esegue Gemma 4 senza bisogno di un account.

Strumenti gratuiti sul tema (in inglese)

-   [OpenAI to BroadNet migration helper](https://broadrouter.com/tools/openai-to-broadnet-migration/) Paste OpenAI SDK code; get base URL, key and model edits, a diff and the checks that remain.
-   [max\_tokens calculator for reasoning models](https://broadrouter.com/tools/reasoning-token-budget/) Answer length + reasoning budget + margin = a max\_tokens that does not cut the answer off.
-   [JSON schema generator for LLM structured output](https://broadrouter.com/tools/json-schema-generator/) Sample JSON to strict schema, Pydantic, Zod and a ready request.
-   [LLM JSON output validator](https://broadrouter.com/tools/llm-json-output-validator/) Parse errors by line and column, safe repairs, cut-off detection and JSON Schema checks for model output.

[Strumenti gratuiti (in inglese)](https://broadrouter.com/tools/)

## Termini in questo articolo

[Token](https://broadrouter.com/it/glossary/token/)

Un token è l’unità di testo che un modello linguistico legge e scrive: una parola, una parte di parola, un segno di punteggiatura o una sequenza di byte prodotta dal tokenizer del modello. Le API LLM contano, limitano e di solito fatturano l’uso in token.

[Prefill e decode](https://broadrouter.com/it/glossary/prefill-and-decode/)

Prefill e decode sono le due fasi dell’inferenza di un LLM. Nel prefill il modello elabora tutto il prompt in parallelo e riempie la sua KV cache; nel decode genera la risposta un token alla volta, riusando quella cache. Il prefill determina soprattutto il tempo al primo token; il decode la velocità di output.

[Mixture of experts (MoE)](https://broadrouter.com/it/glossary/mixture-of-experts/)

La mixture of experts (MoE) è un’architettura di rete neurale in cui un layer contiene molte sotto-reti esperte e un router appreso manda ogni token solo ad alcune di esse. Un modello linguistico MoE ha un numero totale di parametri elevato, ma per ogni token ne usa un piccolo sottoinsieme attivo.

[Speculative decoding (decodifica speculativa)](https://broadrouter.com/it/glossary/speculative-decoding/)

Lo speculative decoding (decodifica speculativa) è una tecnica di inferenza in cui un modello draft piccolo e veloce propone diversi token successivi e il modello target, più grande, li verifica in un solo forward pass, tenendo quelli accettati. Accelera la generazione senza cambiare la distribuzione dell’output.

[Token al secondo (tokens per second)](https://broadrouter.com/it/glossary/tokens-per-second/)

I token al secondo (TPS) sono la velocità con cui un modello linguistico genera token di output, di solito misurata per una richiesta dopo l’arrivo del primo token. Stabiliscono quanto scorre veloce una risposta una volta partita. Sommati su tutte le richieste concorrenti diventano throughput di sistema; l’attesa del primo token si misura a parte.

[vLLM](https://broadrouter.com/it/glossary/vllm/)

vLLM è una libreria open source per l’inferenza e il serving di LLM, sviluppata inizialmente allo Sky Computing Lab di UC Berkeley. Gestisce la memoria della KV cache con PagedAttention, raggruppa in batch continuo le richieste in arrivo, supporta molti formati di quantizzazione ed espone un server HTTP compatibile OpenAI.

## Domande frequenti

### Che cos’è un modello mixture of experts?

Un modello i cui layer contengono molte sottoreti esperte, di cui solo poche si attivano per ogni token. Gemma 4 26B A4B ha 26B parametri in totale e circa 4B attivi per token, ed è per questo che costa poco da servire per la sua taglia.

### Perché qui l’adapter Uno è più lento degli altri drafter?

Il paper lo spiega come un fatto strutturale: un ciclo di self-drafting costa due forward pass del modello completo, mentre un drafter separato ne sostituisce uno con una rete piccola. Per questo, quando esiste un piccolo drafter dedicato, di solito vince lui.

### Quando conviene il self-drafting?

Secondo il paper, con contesti lunghi, dove la bozza più ampia conferma più token per ciclo (1.089x contro 1.011x a circa 10.500 token), e per i modelli che non hanno alcun piccolo drafter.

### BroadNet usa questo adapter per la sua API Gemma 4?

La pagina del modello di BroadNet dice che la sua build di Gemma 4 26B è servita con speculative decoding multi-token prediction (k=2). L’adapter Uno è pubblicato come artefatto di ricerca; BroadNet non dice di usarlo per servire il traffico dell’API.

### Posso scaricare l’adapter?

Sì. BroadNet lo pubblica su Hugging Face come Broadnet/gemma-4-26B-A4B-uno-pilot-adapter, con il profilo di serving e l’immagine del container nella release v0.3.0 di vllm-uno.

## Continua a leggere

-   [Uno in vLLM: che cosa ha misurato lo studio di BroadNet](https://broadrouter.com/it/blog/uno-in-vllm-serving-study/)
-   [Hardware GPU e serving di BroadNet, come li descrive BroadNet](https://broadrouter.com/it/blog/broadnet-gpu-fleet-and-serving/)
-   [I modelli che BroadNet ha valutato e scartato, e perché](https://broadrouter.com/it/blog/models-broadnet-ruled-out/)
-   [Quando conviene una finestra di contesto da 1M di token (e quando no)](https://broadrouter.com/it/blog/million-token-context-window-guide/)
-   [Cache delle risposte delle API LLM: una cache esatta in Python](https://broadrouter.com/it/blog/cache-llm-responses-cut-cost/)
-   [Revisione umana nel flusso di document AI: regole e code](https://broadrouter.com/it/blog/document-review-queues/)

Provalo sul tuo carico di lavoro reale. I nuovi account partono con USD 5 di credito per Gemma e trascrizione. DeepSeek, GLM e Qwen3.8 richiedono una ricarica.

[Inizia](https://inference.broadnet.ai/account/?utm_source=broadrouter&utm_medium=referral&utm_campaign=it-blog-uno-mixture-of-experts-gemma-4-study&utm_content=page-cta) ·

**Fonti**

-   [Al Zubaidi, Self-drafting with Uno on a mixture of experts: serving and training an adapter for Gemma 4 26B A4B, preprint Zenodo v2.3, 2026-09-18 (record consultato il 2026-11-15)](https://doi.org/10.5281/zenodo.22820511)
-   [Blog di BroadNet, Uno for vLLM now runs mixture-of-experts models (17 settembre 2026; consultato il 2026-11-15) (in inglese)](https://www.broadnet.ai/blog/uno-mixture-of-experts)
-   [BroadNet Research: risultati principali (consultato il 2026-11-15) (in inglese)](https://www.broadnet.ai/research)
-   [Release v0.3.0 di vllm-uno (consultata il 2026-11-15)](https://github.com/brntech/vllm-uno/releases/tag/v0.3.0)
-   [Pagina del modello BroadNet Gemma 4 VL 26B: configurazione di serving (consultata il 2026-11-15) (in inglese)](https://www.broadnet.ai/inference/models/gemma-4-vl-26b)
