---
title: "Cos’è l’inferenza serverless? Modelli AI a consumo | BroadRouter"
description: "L’inferenza serverless esegue un modello dietro un endpoint che scala con il traffico, anche fino a zero, e fattura solo l’uso. Cold start, prezzi e confronto."
url: https://broadrouter.com/it/glossary/serverless-inference/
lang: it
updated: 2026-11-16
publisher: BroadRouter (a BroadNet site); API by BroadNet Inference, https://inference.broadnet.ai
---

Tradotto dall’inglese con l’aiuto dell’IA. [Leggi l’originale in inglese](https://broadrouter.com/glossary/serverless-inference/) (aggiornato il 2026-11-16).

# Inferenza serverless (serverless inference)

Aggiornato 2026-11-16

L’inferenza serverless è un modo di eseguire modelli di machine learning in cui la piattaforma avvia, scala e ferma automaticamente le risorse di calcolo dietro un endpoint, spesso fino a zero quando è inattivo, e fattura l’uso invece delle macchine riservate. Il compromesso è un possibile ritardo da cold start.

Detto anche: inferenza serverless, LLM serverless, endpoint serverless, scalare a zero, GPU serverless, serverless inference, serverless LLM, serverless model endpoint, scale to zero, serverless GPU inference

Serverless non significa che non ci siano server. Significa che non li vedi mai e che smetti di pagare quando smetti di inviare richieste.

## Come funziona

La guida di SageMaker di AWS offre una versione di riferimento chiara. Gli endpoint serverless “automatically launch compute resources and scale them in and out depending on traffic” (traduzione: avviano automaticamente le risorse di calcolo e le scalano in base al traffico), e quando non ci sono richieste il servizio “scales your endpoint down to 0” (traduzione: riduce il tuo endpoint a 0). Paghi in base all’uso invece che per istanza.

Il prezzo dello scalare a zero è il **cold start**. Se un endpoint è rimasto inattivo e arriva una richiesta, “it can take some time for your endpoint to spin up the compute resources” (traduzione: può volerci un po’ di tempo perché il tuo endpoint avvii le risorse di calcolo). Per i modelli linguistici di grandi dimensioni, caricare decine di gigabyte di pesi rende quel ritardo più lungo. La soluzione abituale è pagare per tenere pronta una parte della capacità; AWS la chiama provisioned concurrency e la fattura in base a memoria, durata e concorrenza.

Le funzionalità variano da piattaforma a piattaforma. La lista di esclusioni di AWS per SageMaker Serverless Inference comprende le GPU, quindi l’hosting serverless di modelli grandi come un LLM arriva di solito da altre piattaforme. Hugging Face descrive i suoi Inference Providers come un modo per usare la “serverless inference of models” (traduzione: inferenza serverless di modelli) su diversi provider con un solo token.

## Perché è importante

|  | Endpoint serverless | GPU a noleggio ([ora GPU](https://broadrouter.com/it/glossary/gpu-hour/)) | API condivisa a token |
| --- | --- | --- | --- |
| Paghi quando è inattivo | No (salvo capacità tenuta pronta) | Sì | No |
| Cold start | Possibili | No, una volta avviata | Rari per i modelli in listino |
| Il tuo modello | Sì | Sì | Solo quelli in listino del provider |
| Chi gestisce la scalabilità | La piattaforma | Tu | Il provider |

Il serverless è adatto a traffico basso o a picchi con un modello tuo. Un carico pesante e costante di solito costa meno su hardware riservato. I cold start si vedono nella coda lunga della [latenza](https://broadrouter.com/it/glossary/latency/), non nella media, quindi controlla il p95.

## Su BroadNet Inference

BroadNet non descrive la sua API come serverless, e la sua documentazione non dice nulla sui cold start. In pratica, le sue chiavi a [pagamento a consumo](https://broadrouter.com/it/glossary/pay-as-you-go/) hanno le caratteristiche serverless che contano per chi chiama: nessuna istanza da scegliere, niente da scalare e fatturazione per token o per minuto di audio. I limiti sono per chiave, 30 richieste al minuto e 4 in corso, non per macchina. Puoi chiamare solo i modelli che BroadNet ha in listino, come [Qwen3.8 27B](https://broadrouter.com/it/models/qwen3.8-27b/); endpoint privati e altri modelli sono disponibili su richiesta. Una [prima richiesta con curl](https://broadrouter.com/it/guides/curl-quickstart/) richiede un minuto.

## Domande frequenti

### Cos’è un cold start nell’inferenza serverless?

È il ritardo che si ha quando un endpoint ridimensionato riceve una richiesta e deve prima avviare le risorse di calcolo e caricare il modello. La documentazione di SageMaker di AWS lo descrive e offre la provisioned concurrency per tenere la capacità pronta, a pagamento.

### Un’API LLM a token è serverless?

Dal lato di chi chiama, in gran parte sì. Invii richieste, paghi a token e non gestisci server. La differenza è che un’API condivisa tiene caricati i modelli più usati per molti clienti, quindi di solito non aspetti l’avvio di un tuo modello.

### L’inferenza serverless costa meno di una GPU dedicata?

Con traffico basso o a picchi, di solito sì, perché smetti di pagare quando sei inattivo. Con un carico pesante e costante, una GPU riservata spesso costa meno per richiesta. Confronta il tuo profilo di traffico con entrambi i prezzi.

## Vedi anche

-   [Provider di inferenza (inference provider)](https://broadrouter.com/it/glossary/inference-provider/) (termine)
-   [Ora GPU (GPU-hour)](https://broadrouter.com/it/glossary/gpu-hour/) (termine)
-   [Pagamento a consumo (pay-as-you-go)](https://broadrouter.com/it/glossary/pay-as-you-go/) (termine)
-   [Latenza (latency)](https://broadrouter.com/it/glossary/latency/) (termine)
-   [Concorrenza (concurrency)](https://broadrouter.com/it/glossary/concurrency/) (termine)
-   [Prima richiesta a BroadNet Inference con curl](https://broadrouter.com/it/guides/curl-quickstart/) (guida)
-   [LLM in self-hosting o via API: costo reale e punto di pareggio](https://broadrouter.com/it/blog/self-hosting-llm-vs-api-cost/) (articolo)
-   [Prezzi delle API LLM spiegati: input, cache, output e ragionamento](https://broadrouter.com/it/blog/llm-api-pricing-explained/) (articolo)

Provalo sul tuo carico di lavoro reale. I nuovi account partono con USD 5 di credito per Gemma e trascrizione. DeepSeek, GLM e Qwen3.8 richiedono una ricarica.

[Inizia](https://inference.broadnet.ai/account/?utm_source=broadrouter&utm_medium=referral&utm_campaign=it-glossary-serverless-inference&utm_content=page-cta) ·

**Fonti**

-   [AWS, guida per sviluppatori di Amazon SageMaker Serverless Inference (verificato il 2026-11-16)](https://docs.aws.amazon.com/sagemaker/latest/dg/serverless-endpoints.html)
-   [Hugging Face, documentazione di Inference Providers (inferenza serverless) (verificato il 2026-11-16)](https://huggingface.co/docs/inference-providers/index)
-   [Riferimento API di BroadNet Inference, limiti (verificato il 2026-11-16) (in inglese)](https://inference.broadnet.ai/docs?utm_source=broadrouter&utm_medium=referral&utm_campaign=it-glossary-serverless-inference&utm_content=sources#limits)
