---
title: "Glossario delle API LLM: token, contesto, router e prezzi"
description: "Definizioni chiare dei termini che incontri quando chiami un’API LLM o di trascrizione vocale: token, finestra di contesto, input in cache e rate limit."
url: https://broadrouter.com/it/glossary/
lang: it
updated: 2026-11-16
publisher: BroadRouter (a BroadNet site); API by BroadNet Inference, https://inference.broadnet.ai
---

Queste pagine sono state tradotte dall’inglese con l’aiuto dell’IA. [Tutti i termini in inglese](https://broadrouter.com/glossary/) (129).

# Glossario delle API LLM

Aggiornato 2026-11-16

Definizioni brevi e con fonti dei termini che gli sviluppatori incontrano quando chiamano un’API LLM o di trascrizione vocale: cosa sono i token e la finestra di contesto, come l’input in cache e i piani a tariffa fissa cambiano il conto e cosa significano in pratica i rate limit e la zero data retention.

[Accordo sul trattamento dei dati (DPA)](https://broadrouter.com/it/glossary/dpa/)[Agente AI (AI agent)](https://broadrouter.com/it/glossary/agent/)[Agente di coding AI (AI coding agent)](https://broadrouter.com/it/glossary/coding-agent/)[AI multimodale (multimodal AI)](https://broadrouter.com/it/glossary/multimodal/)[Allucinazione (hallucination)](https://broadrouter.com/it/glossary/hallucination/)[API compatibile con OpenAI](https://broadrouter.com/it/glossary/openai-compatible-api/)[Arabizi](https://broadrouter.com/it/glossary/arabizi/)[Arabo dialettale (dialectal Arabic)](https://broadrouter.com/it/glossary/dialectal-arabic/)[Arabo standard moderno (MSA)](https://broadrouter.com/it/glossary/msa/)[AWQ (activation-aware weight quantization)](https://broadrouter.com/it/glossary/awq/)[Backoff esponenziale (exponential backoff)](https://broadrouter.com/it/glossary/exponential-backoff/)[Base URL (URL di base)](https://broadrouter.com/it/glossary/base-url/)[Batch API](https://broadrouter.com/it/glossary/batch-api/)[Benchmark LLM](https://broadrouter.com/it/glossary/llm-benchmark/)[BM25](https://broadrouter.com/it/glossary/bm25/)[Byte pair encoding (BPE)](https://broadrouter.com/it/glossary/bpe/)[Chain-of-thought (CoT)](https://broadrouter.com/it/glossary/chain-of-thought/)[Character error rate (CER)](https://broadrouter.com/it/glossary/character-error-rate/)[Chat Completions API](https://broadrouter.com/it/glossary/chat-completions-api/)[Chat template](https://broadrouter.com/it/glossary/chat-template/)[Chiamate parallele a strumenti (parallel tool calls)](https://broadrouter.com/it/glossary/parallel-tool-calls/)[Chiave API (API key)](https://broadrouter.com/it/glossary/api-key/)[Chiave di idempotenza (idempotency key)](https://broadrouter.com/it/glossary/idempotency-key/)[Chunking (RAG)](https://broadrouter.com/it/glossary/chunking/)[Code-switching (commutazione di codice)](https://broadrouter.com/it/glossary/code-switching/)[Concorrenza (concurrency)](https://broadrouter.com/it/glossary/concurrency/)[Context compaction (compattazione del contesto)](https://broadrouter.com/it/glossary/context-compaction/)[Context engineering (ingegneria del contesto)](https://broadrouter.com/it/glossary/context-engineering/)[Context rot (degrado del contesto)](https://broadrouter.com/it/glossary/context-rot/)[Credito prepagato (prepaid credit)](https://broadrouter.com/it/glossary/prepaid-credit/)[Database vettoriale (vector database)](https://broadrouter.com/it/glossary/vector-database/)[Deprecazione dei modelli (model deprecation)](https://broadrouter.com/it/glossary/model-deprecation/)[Diacritici arabi (tashkeel)](https://broadrouter.com/it/glossary/arabic-diacritics/)[Dimensione del vocabolario (vocabulary size)](https://broadrouter.com/it/glossary/vocabulary-size/)[Distillazione (knowledge distillation)](https://broadrouter.com/it/glossary/distillation/)[Embedding (embeddings)](https://broadrouter.com/it/glossary/embeddings/)[Eval (valutazione degli LLM)](https://broadrouter.com/it/glossary/eval/)[Fallback del modello (model fallback)](https://broadrouter.com/it/glossary/model-fallback/)[Few-shot prompting (prompt con esempi)](https://broadrouter.com/it/glossary/few-shot-prompting/)[Fine-tuning (addestramento di un LLM)](https://broadrouter.com/it/glossary/fine-tuning/)[Finestra di contesto (context window)](https://broadrouter.com/it/glossary/context-window/)[finish\_reason](https://broadrouter.com/it/glossary/finish-reason/)[FP8 (virgola mobile a 8 bit)](https://broadrouter.com/it/glossary/fp8/)[Frequency e presence penalty](https://broadrouter.com/it/glossary/frequency-and-presence-penalty/)[Frequenza di campionamento (sample rate)](https://broadrouter.com/it/glossary/sample-rate/)[GDPR (Regolamento generale sulla protezione dei dati)](https://broadrouter.com/it/glossary/gdpr/)[GGUF (formato dei modelli llama.cpp)](https://broadrouter.com/it/glossary/gguf/)[Grounding (ancoraggio alle fonti)](https://broadrouter.com/it/glossary/grounding/)[Guardrail (controlli di sicurezza per LLM)](https://broadrouter.com/it/glossary/guardrails/)[Hamza (lettera araba)](https://broadrouter.com/it/glossary/hamza/)[Identificazione del dialetto arabo (dialect identification)](https://broadrouter.com/it/glossary/arabic-dialect-identification/)[Inferenza serverless (serverless inference)](https://broadrouter.com/it/glossary/serverless-inference/)[INT4 (quantizzazione a 4 bit)](https://broadrouter.com/it/glossary/int4/)[IP allow list (whitelist di IP)](https://broadrouter.com/it/glossary/ip-allow-list/)[Jailbreak (LLM)](https://broadrouter.com/it/glossary/jailbreak/)[JSON mode (modalità JSON)](https://broadrouter.com/it/glossary/json-mode/)[JSON Schema](https://broadrouter.com/it/glossary/json-schema/)[KV cache (cache chiave-valore)](https://broadrouter.com/it/glossary/kv-cache/)[Latenza (latency)](https://broadrouter.com/it/glossary/latency/)[Licenza del modello (model license)](https://broadrouter.com/it/glossary/model-license/)[Limite di spesa (spend limit)](https://broadrouter.com/it/glossary/spend-limit/)[LLM router (router per LLM)](https://broadrouter.com/it/glossary/llm-router/)[LLM-as-a-judge (LLM come giudice)](https://broadrouter.com/it/glossary/llm-as-judge/)[Logprobs (log-probabilità)](https://broadrouter.com/it/glossary/logprobs/)[LoRA (low-rank adaptation)](https://broadrouter.com/it/glossary/lora/)[Lost in the middle (perso nel mezzo)](https://broadrouter.com/it/glossary/lost-in-the-middle/)[max\_tokens](https://broadrouter.com/it/glossary/max-tokens/)[MCP (Model Context Protocol)](https://broadrouter.com/it/glossary/mcp/)[Mixture of experts (MoE)](https://broadrouter.com/it/glossary/mixture-of-experts/)[Modello open-weight (a pesi aperti)](https://broadrouter.com/it/glossary/open-weight-model/)[Modello vision-language (VLM)](https://broadrouter.com/it/glossary/vision-language-model/)[Normalizzazione del testo arabo (Arabic text normalization)](https://broadrouter.com/it/glossary/arabic-text-normalization/)[Normalizzazione Unicode (Unicode normalization)](https://broadrouter.com/it/glossary/unicode-normalization/)[Ogg Opus](https://broadrouter.com/it/glossary/ogg-opus/)[Ora GPU (GPU-hour)](https://broadrouter.com/it/glossary/gpu-hour/)[Output strutturato (structured output)](https://broadrouter.com/it/glossary/structured-output/)[Pagamento a consumo (pay-as-you-go)](https://broadrouter.com/it/glossary/pay-as-you-go/)[Parametro seed](https://broadrouter.com/it/glossary/seed-parameter/)[PDPL (leggi privacy di Arabia Saudita ed EAU)](https://broadrouter.com/it/glossary/pdpl/)[Piano LLM flat (flat-rate)](https://broadrouter.com/it/glossary/flat-rate-llm-plan/)[PII (informazioni personali identificabili)](https://broadrouter.com/it/glossary/pii/)[Prefill e decode](https://broadrouter.com/it/glossary/prefill-and-decode/)[Prompt engineering (ingegneria dei prompt)](https://broadrouter.com/it/glossary/prompt-engineering/)[Prompt injection](https://broadrouter.com/it/glossary/prompt-injection/)[Provider di inferenza (inference provider)](https://broadrouter.com/it/glossary/inference-provider/)[Quantizzazione (quantization)](https://broadrouter.com/it/glossary/quantization/)[RAG (retrieval-augmented generation)](https://broadrouter.com/it/glossary/rag/)[Rate limit (limite di frequenza)](https://broadrouter.com/it/glossary/rate-limit/)[ReAct (reason and act)](https://broadrouter.com/it/glossary/react-agent/)[Reranking (riordinamento dei risultati)](https://broadrouter.com/it/glossary/reranking/)[Residenza dei dati (data residency)](https://broadrouter.com/it/glossary/data-residency/)[Ricerca ibrida (hybrid search)](https://broadrouter.com/it/glossary/hybrid-search/)[Riconoscimento di entità nominate (NER)](https://broadrouter.com/it/glossary/named-entity-recognition/)[Riconoscimento ottico dei caratteri (OCR)](https://broadrouter.com/it/glossary/ocr/)[Sequenze di stop (stop sequences)](https://broadrouter.com/it/glossary/stop-sequences/)[Server-sent events (SSE)](https://broadrouter.com/it/glossary/sse/)[Sistema multi-agente (multi-agent system)](https://broadrouter.com/it/glossary/multi-agent-system/)[SLA (accordo sul livello di servizio)](https://broadrouter.com/it/glossary/sla/)[Sottotitoli SRT (file .srt)](https://broadrouter.com/it/glossary/srt-subtitles/)[Speaker diarization (diarizzazione del parlato)](https://broadrouter.com/it/glossary/diarization/)[Speculative decoding (decodifica speculativa)](https://broadrouter.com/it/glossary/speculative-decoding/)[Speech-to-text (riconoscimento vocale)](https://broadrouter.com/it/glossary/speech-to-text/)[Streaming](https://broadrouter.com/it/glossary/streaming/)[Sub-responsabile del trattamento (subprocessor)](https://broadrouter.com/it/glossary/subprocessor/)[Subagent (sub-agente)](https://broadrouter.com/it/glossary/subagent/)[System prompt (prompt di sistema)](https://broadrouter.com/it/glossary/system-prompt/)[Tā’ marbūṭa (taa marbuta, ة)](https://broadrouter.com/it/glossary/taa-marbuta/)[Temperatura (temperature)](https://broadrouter.com/it/glossary/temperature/)[Testo da destra a sinistra (RTL, right-to-left)](https://broadrouter.com/it/glossary/rtl-text/)[Text-to-speech (TTS, sintesi vocale)](https://broadrouter.com/it/glossary/text-to-speech/)[Throughput](https://broadrouter.com/it/glossary/throughput/)[Time to first token (TTFT)](https://broadrouter.com/it/glossary/time-to-first-token/)[Timeout della richiesta (request timeout)](https://broadrouter.com/it/glossary/request-timeout/)[Timestamp (speech-to-text)](https://broadrouter.com/it/glossary/timestamps-asr/)[Token](https://broadrouter.com/it/glossary/token/)[Token al secondo (tokens per second)](https://broadrouter.com/it/glossary/tokens-per-second/)[Token di input e di output](https://broadrouter.com/it/glossary/input-and-output-tokens/)[Token di input in cache (cached input)](https://broadrouter.com/it/glossary/cached-input-tokens/)[Token di ragionamento (reasoning tokens)](https://broadrouter.com/it/glossary/reasoning-tokens/)[Token immagine (image tokens)](https://broadrouter.com/it/glossary/image-tokens/)[Tokenizer](https://broadrouter.com/it/glossary/tokenizer/)[Tool calling (chiamata di strumenti)](https://broadrouter.com/it/glossary/tool-calling/)[tool\_choice](https://broadrouter.com/it/glossary/tool-choice/)[Top-p (nucleus sampling)](https://broadrouter.com/it/glossary/top-p/)[vLLM](https://broadrouter.com/it/glossary/vllm/)[Voice activity detection (VAD)](https://broadrouter.com/it/glossary/vad/)[WAV (file audio WAV)](https://broadrouter.com/it/glossary/wav/)[Word error rate (WER)](https://broadrouter.com/it/glossary/word-error-rate/)[Zero data retention (nessuna conservazione dei dati)](https://broadrouter.com/it/glossary/zero-data-retention/)

## API e integrazione

[Agente AI (AI agent)](https://broadrouter.com/it/glossary/agent/)

Un agente AI è un sistema in cui un modello linguistico dirige da solo i propri passi verso un obiettivo: decide quali strumenti chiamare, legge i risultati e ripete finché produce una risposta finale o raggiunge un limite. Uno script fisso che chiama un modello in punti prestabiliti di solito si chiama invece workflow.

[Agente di coding AI (AI coding agent)](https://broadrouter.com/it/glossary/coding-agent/)

Un agente di coding AI è uno strumento software in cui un modello linguistico lavora su una codebase in un ciclo: legge file, li modifica, esegue comandi come i test, legge l’output e decide il passo successivo finché il compito è finito o si raggiunge un limite.

[API compatibile con OpenAI](https://broadrouter.com/it/glossary/openai-compatible-api/)

Un’API compatibile con OpenAI è un’API HTTP che accetta gli stessi formati di richiesta e di risposta dell’API di OpenAI, come POST /v1/chat/completions, così SDK e strumenti di OpenAI possono usarla cambiando solo base URL, chiave API e nome del modello.

[Backoff esponenziale (exponential backoff)](https://broadrouter.com/it/glossary/exponential-backoff/)

Il backoff esponenziale è una strategia di retry in cui un client aspetta sempre di più dopo ogni tentativo fallito, di solito raddoppiando il ritardo fino a un tetto, prima di riprovare. Aggiungere un jitter casuale a ogni attesa distribuisce i retry di molti client, così non colpiscono il server nello stesso istante.

[Base URL (URL di base)](https://broadrouter.com/it/glossary/base-url/)

La base URL è l’indirizzo radice fisso di un’API, come https://api.example.com/v1, che un client antepone a ogni percorso di endpoint, come /chat/completions. Negli SDK compatibili con OpenAI, cambiare la base URL, insieme alla chiave API e all’ID del modello, punta lo stesso codice verso un altro provider.

[Batch API](https://broadrouter.com/it/glossary/batch-api/)

Una batch API è un endpoint LLM asincrono che accetta molte richieste insieme, di solito come file, le elabora entro una finestra prestabilita invece che subito, e restituisce i risultati tutti insieme. Provider come OpenAI e Anthropic applicano alle richieste batch uno sconto rispetto alle loro API standard.

[BM25](https://broadrouter.com/it/glossary/bm25/)

BM25 (Okapi BM25) è una funzione di ranking per la ricerca per parole chiave che assegna un punteggio a un documento in base a quanto spesso vi compaiono i termini della query, a quanto sono rari nella collezione e alla lunghezza del documento. È la similarità predefinita in Lucene ed Elasticsearch.

[Chat Completions API](https://broadrouter.com/it/glossary/chat-completions-api/)

La Chat Completions API è l’endpoint HTTP di OpenAI, POST /v1/chat/completions, che riceve il nome di un modello e una lista di messaggi con un ruolo e restituisce il messaggio successivo del modello. La forma della sua richiesta e risposta è diventata il formato comune che riusano provider e SDK compatibili con OpenAI.

[Chiamate parallele a strumenti (parallel tool calls)](https://broadrouter.com/it/glossary/parallel-tool-calls/)

Le chiamate parallele a strumenti (parallel tool calls) si hanno quando un modello restituisce più di una chiamata a strumenti in un’unica risposta, per esempio tre letture di file insieme. Nel formato OpenAI arrivano come più voci in tool\_calls, e parallel\_tool\_calls impostato a false limita il modello a zero o una chiamata per turno.

[Chiave di idempotenza (idempotency key)](https://broadrouter.com/it/glossary/idempotency-key/)

Una chiave di idempotenza è un valore univoco, di solito un ID casuale come un UUID, che il client allega a una richiesta che modifica lo stato, come un pagamento o un acquisto. Se la stessa richiesta arriva di nuovo con la stessa chiave, il server restituisce il risultato originale invece di eseguire l’azione due volte.

[Chunking (RAG)](https://broadrouter.com/it/glossary/chunking/)

Il chunking è il passaggio di una pipeline di retrieval che divide i documenti in pezzi più piccoli, detti chunk, prima di trasformarli in embedding e indicizzarli. La chunk size fissa quanto testo contiene ogni pezzo, e il chunk overlap ripete parte del testo tra chunk vicini, così le idee tagliate su un confine non si perdono.

[Concorrenza (concurrency)](https://broadrouter.com/it/glossary/concurrency/)

La concorrenza è il numero di richieste che un client ha in corso nello stesso momento. Le API LLM spesso la limitano per chiave o per piano, separatamente dalle richieste al minuto, perché ogni richiesta aperta occupa capacità GPU finché la sua risposta non è terminata.

[Database vettoriale (vector database)](https://broadrouter.com/it/glossary/vector-database/)

Un database vettoriale è un archivio dati che conserva vettori di embedding, spesso con il testo di origine e i metadati, e risponde a query di nearest neighbour: dato un vettore di query, restituisce i vettori memorizzati più simili, di solito per distanza coseno, distanza euclidea o prodotto scalare.

[Deprecazione dei modelli (model deprecation)](https://broadrouter.com/it/glossary/model-deprecation/)

La deprecazione di un modello avviene quando un provider di API annuncia che un modello non sarà più offerto, di solito indicando una data di ritiro o di spegnimento e un sostituto consigliato. Dopo quella data le richieste al modello falliscono, quindi le applicazioni devono passare prima a un altro ID di modello.

[Fallback del modello (model fallback)](https://broadrouter.com/it/glossary/model-fallback/)

Il fallback del modello è uno schema di affidabilità in cui una richiesta LLM fallita viene ritentata su un altro modello o provider di una lista ordinata. Può scattare per un errore, un rate limit, un errore di lunghezza del contesto o un rifiuto per policy sui contenuti. Gira nel client o in un gateway davanti alle API.

[finish\_reason](https://broadrouter.com/it/glossary/finish-reason/)

finish\_reason è un campo di ogni choice nella risposta di una chat completion che dice perché il modello ha smesso di generare. Nel formato OpenAI i valori sono stop, length, tool\_calls, content\_filter e il deprecato function\_call. La Messages API di Anthropic riporta la stessa informazione come stop\_reason.

[Inferenza serverless (serverless inference)](https://broadrouter.com/it/glossary/serverless-inference/)

L’inferenza serverless è un modo di eseguire modelli di machine learning in cui la piattaforma avvia, scala e ferma automaticamente le risorse di calcolo dietro un endpoint, spesso fino a zero quando è inattivo, e fattura l’uso invece delle macchine riservate. Il compromesso è un possibile ritardo da cold start.

[JSON mode (modalità JSON)](https://broadrouter.com/it/glossary/json-mode/)

La JSON mode è un’impostazione delle API LLM, response\_format {"type": "json\_object"} nelle API in stile OpenAI, che rende la risposta del modello JSON valido e analizzabile. A differenza degli structured output con un JSON Schema, non garantisce quali chiavi, tipi o valori contenga l’oggetto.

[JSON Schema](https://broadrouter.com/it/glossary/json-schema/)

JSON Schema è un vocabolario, scritto in JSON, per descrivere e validare la struttura dei dati JSON: tipi, campi obbligatori, valori ammessi e annidamento. La versione attuale è la 2020-12. Le API LLM lo usano per definire i parametri dei tool e la forma esatta che un output strutturato deve seguire.

[Latenza (latency)](https://broadrouter.com/it/glossary/latency/)

La latenza, per un’API di modelli linguistici, è il tempo che passa dall’invio di una richiesta alla ricezione dell’ultimo token di output. È la somma del time to first token e del tempo di generazione, e di solito si riporta in percentili come p50 e p95 invece che come media.

[LLM router (router per LLM)](https://broadrouter.com/it/glossary/llm-router/)

Un LLM router è un software o un servizio che si mette tra un’applicazione e una o più API di modelli linguistici e decide, per ogni richiesta, quale modello o provider la gestisce, in base a regole come costo, latenza, disponibilità o tipo di compito.

[MCP (Model Context Protocol)](https://broadrouter.com/it/glossary/mcp/)

L’MCP (Model Context Protocol) è un protocollo aperto, basato su JSON-RPC 2.0, che standardizza il modo in cui le applicazioni LLM si collegano a strumenti e dati esterni. Un server MCP espone strumenti, risorse e prompt; un client MCP dentro l’applicazione host li scopre e inoltra al server le chiamate agli strumenti fatte dal modello.

[Normalizzazione Unicode (Unicode normalization)](https://broadrouter.com/it/glossary/unicode-normalization/)

La normalizzazione Unicode converte il testo in una forma standard, così che stringhe che appaiono uguali usino gli stessi code point. Le quattro forme sono NFD, NFC, NFKD e NFKC; le forme K riducono anche i caratteri di compatibilità, come le forme di presentazione arabe e le legature, a lettere ordinarie.

[Output strutturato (structured output)](https://broadrouter.com/it/glossary/structured-output/)

L’output strutturato è una funzionalità delle API LLM che vincola la risposta di un modello a un formato indicato dallo sviluppatore, di solito un JSON Schema, così il codice può interpretarla in modo affidabile. È più rigoroso della JSON mode, che garantisce un JSON valido ma non una struttura precisa.

[Parametro seed](https://broadrouter.com/it/glossary/seed-parameter/)

Il parametro seed è un intero che invii con una richiesta perché l’API provi a campionare gli stessi token quando la stessa richiesta viene ripetuta. OpenAI lo descrive come best effort: il determinismo non è garantito, e il campo system\_fingerprint indica quando la configurazione del backend è cambiata.

[Provider di inferenza (inference provider)](https://broadrouter.com/it/glossary/inference-provider/)

Un provider di inferenza è un’azienda che fa girare modelli di machine learning, spesso LLM open-weight, su GPU di proprietà, in leasing o a noleggio, e ne vende l’accesso tramite un’API, di solito a prezzo per token, per richiesta o per unità di tempo. Si occupa di serving, scalabilità e hardware.

[RAG (retrieval-augmented generation)](https://broadrouter.com/it/glossary/rag/)

La RAG (retrieval-augmented generation, generazione aumentata dal recupero) è uno schema in cui un’applicazione prima recupera da un archivio esterno, come un indice di ricerca o vettoriale, i passaggi pertinenti a una domanda, poi li aggiunge al prompt, così un modello linguistico può rispondere a partire da quel testo e non solo dalla memoria.

[Rate limit (limite di frequenza)](https://broadrouter.com/it/glossary/rate-limit/)

Un rate limit è un tetto che un’API pone a quanto un client può usarla in un intervallo di tempo, per esempio richieste al minuto o token al minuto. Le richieste oltre il limite vengono rifiutate, di solito con HTTP 429 Too Many Requests, finché l’uso non torna sotto la soglia.

[ReAct (reason and act)](https://broadrouter.com/it/glossary/react-agent/)

ReAct (reason and act) è un pattern di prompting, introdotto da Yao et al. nel 2022, in cui un modello linguistico alterna tracce di ragionamento e azioni come ricerche o chiamate a strumenti. Legge ogni osservazione, aggiorna il suo piano e ripete finché può dare una risposta finale.

[Reranking (riordinamento dei risultati)](https://broadrouter.com/it/glossary/reranking/)

Il reranking è una seconda fase di retrieval in cui un modello più accurato ma più lento, di solito un cross-encoder, assegna un punteggio a ogni coppia query-documento candidato di una prima ricerca e le riordina, così solo i pochi documenti più pertinenti arrivano al modello linguistico.

[Ricerca ibrida (hybrid search)](https://broadrouter.com/it/glossary/hybrid-search/)

La ricerca ibrida è un metodo di retrieval che esegue sulla stessa query sia una ricerca per parole chiave, come BM25, sia una ricerca vettoriale sugli embedding, poi fonde le due classifiche in una sola, spesso con la reciprocal rank fusion (RRF) o con una somma pesata di punteggi normalizzati.

[Sequenze di stop (stop sequences)](https://broadrouter.com/it/glossary/stop-sequences/)

Le sequenze di stop sono stringhe che invii con una richiesta e che fanno smettere il modello di generare appena ne produce una. OpenAI chiama il campo stop e accetta fino a 4 sequenze; Anthropic lo chiama stop\_sequences. Di norma il testo trovato non compare nell’output restituito.

[Server-sent events (SSE)](https://broadrouter.com/it/glossary/sse/)

I server-sent events (SSE) sono uno standard web con cui un server invia a un client un flusso di eventi testuali su un’unica risposta HTTP di lunga durata, con content type text/event-stream. Ogni evento è composto da una o più righe di campo, come data:, ed è chiuso da una riga vuota.

[Sistema multi-agente (multi-agent system)](https://broadrouter.com/it/glossary/multi-agent-system/)

Un sistema multi-agente è un’applicazione LLM in cui più agenti, ognuno con il proprio prompt, i propri strumenti e il proprio contesto, lavorano su parti di un unico compito. Uno schema comune è orchestrator-worker: un agente principale pianifica, avvia agenti worker in parallelo e combina i loro risultati.

[SLA (accordo sul livello di servizio)](https://broadrouter.com/it/glossary/sla/)

Uno SLA (service level agreement, accordo sul livello di servizio) è un impegno contrattuale di un fornitore su un livello di servizio misurabile, di solito una percentuale di uptime mensile, con un rimedio definito, di solito crediti di servizio, se non viene rispettato. Lo SLA stabilisce cosa conta come downtime, cosa è escluso e come fare reclamo.

[Streaming](https://broadrouter.com/it/glossary/streaming/)

Lo streaming è un modo di restituire la risposta di un modello linguistico in piccoli pezzi mentre viene ancora generata, invece che in un’unica risposta alla fine. Le API compatibili con OpenAI trasmettono in streaming tramite server-sent event quando la richiesta imposta stream a true.

[Subagent (sub-agente)](https://broadrouter.com/it/glossary/subagent/)

Un subagent è un agente separato che un agente principale avvia per gestire un compito specifico. Lavora con una propria finestra di contesto, un proprio system prompt e propri strumenti, svolge il lavoro e restituisce all’agente principale solo un risultato o un riepilogo, mantenendo piccola la conversazione principale.

[System prompt (prompt di sistema)](https://broadrouter.com/it/glossary/system-prompt/)

Il system prompt è il testo di istruzioni che un’applicazione invia a un modello linguistico prima della conversazione, di solito come messaggio con ruolo system o developer. Stabilisce ruolo, regole, tono e formato di output del modello, che dovrebbe seguirlo anche quando i messaggi dell’utente lo contraddicono.

[Testo da destra a sinistra (RTL, right-to-left)](https://broadrouter.com/it/glossary/rtl-text/)

Il testo da destra a sinistra (RTL) è una scrittura, come l’arabo o l’ebraico, visualizzata da destra verso sinistra. I computer lo memorizzano in ordine logico di lettura, e l’algoritmo bidirezionale Unicode decide l’ordine di visualizzazione quando si mescola con testo da sinistra a destra, cifre, nomi di modelli o codice.

[Throughput](https://broadrouter.com/it/glossary/throughput/)

Il throughput, nel serving di LLM, è la quantità totale di lavoro che un sistema completa per unità di tempo su tutte le richieste concorrenti, di solito misurata in token di output al secondo o richieste al secondo. È diverso dalla velocità per stream, cioè quanto rapidamente una singola richiesta riceve i suoi token.

[Time to first token (TTFT)](https://broadrouter.com/it/glossary/time-to-first-token/)

Il time to first token (TTFT) è il tempo che passa dall’invio di una richiesta a un modello linguistico all’arrivo del primo token di output. Comprende il tempo di rete, la coda sul server e il prefill, la fase in cui il modello legge l’intero prompt, quindi cresce con la lunghezza del prompt e con il carico.

[Timeout della richiesta (request timeout)](https://broadrouter.com/it/glossary/request-timeout/)

Il timeout di una richiesta è il tempo massimo che un client HTTP aspetta un server prima di abbandonare la richiesta. I client di solito lo dividono in un timeout di connessione, per aprire la connessione, e un timeout di lettura, per l’attesa dei dati. Le chiamate LLM richiedono timeout di lettura generosi perché le risposte lunghe richiedono tempo.

[Tool calling (chiamata di strumenti)](https://broadrouter.com/it/glossary/tool-calling/)

Il tool calling, detto anche function calling, è una funzionalità delle API LLM in cui il modello restituisce una richiesta strutturata di eseguire una funzione definita dallo sviluppatore, con argomenti JSON. L’applicazione esegue la funzione e rimanda il risultato; il modello non esegue mai codice da solo.

[tool\_choice](https://broadrouter.com/it/glossary/tool-choice/)

tool\_choice è un parametro della richiesta che controlla l’uso degli strumenti. In Chat Completions di OpenAI può valere auto (decide il modello), required (deve chiamare uno o più strumenti), none (nessuno strumento) o una funzione specifica da forzare. Le opzioni equivalenti di Anthropic sono auto, any, tool e none.

## Modelli e token

[AI multimodale (multimodal AI)](https://broadrouter.com/it/glossary/multimodal/)

L’AI multimodale è un modello o un sistema che lavora con più di un tipo di dato, come testo, immagini, video e audio. Un modello multimodale può leggere insieme una foto e una domanda, oppure ricevere parlato e rispondere in testo. Il tipo più comune è il modello vision-language.

[Allucinazione (hallucination)](https://broadrouter.com/it/glossary/hallucination/)

Un’allucinazione è un output di un modello linguistico che sembra plausibile ma è falso, inventato o non supportato dall’input ricevuto: una citazione inesistente, un numero sbagliato, un’API che non esiste. Nasce dal fatto che il modello predice il testo più probabile invece di verificare i fatti.

[Arabizi](https://broadrouter.com/it/glossary/arabizi/)

L’Arabizi è arabo scritto in modo informale con lettere latine, usando cifre per i suoni arabi senza equivalente latino, come 3 per ع. È diffuso in chat e sui social, è per lo più dialettale, non ha un’ortografia standard e spesso si mescola con inglese o francese.

[Arabo dialettale (dialectal Arabic)](https://broadrouter.com/it/glossary/dialectal-arabic/)

L’arabo dialettale è l’arabo parlato ogni giorno in una regione o in una città, come l’arabo egiziano, del Golfo, levantino o maghrebino. I dialetti differiscono dall’arabo standard moderno per suoni, parole e grammatica, non hanno un’ortografia standard e si scrivono sempre più online, il che li rende più difficili per i modelli linguistici.

[Arabo standard moderno (MSA)](https://broadrouter.com/it/glossary/msa/)

L’arabo standard moderno (MSA) è la forma standardizzata dell’arabo usata nella scrittura, nei notiziari, nell’istruzione e nei discorsi formali in tutto il mondo arabo. Non è la lingua madre quotidiana di nessuno: le persone parlano dialetti regionali, come l’egiziano o l’arabo del Golfo, e passano all’MSA nei contesti formali.

[AWQ (activation-aware weight quantization)](https://broadrouter.com/it/glossary/awq/)

AWQ (activation-aware weight quantization) è un metodo post-training che comprime i pesi di un LLM a bassa precisione, di solito interi a 4 bit. Usa le statistiche delle attivazioni di un piccolo set di calibrazione per trovare i canali di pesi più importanti e li scala perché perdano meno accuratezza. Non richiede backpropagation.

[Benchmark LLM](https://broadrouter.com/it/glossary/llm-benchmark/)

Un benchmark LLM è un insieme fisso di compiti, di solito pubblico, con un metodo di punteggio, usato per misurare e confrontare i modelli linguistici su una capacità, come domande di conoscenza, programmazione o riconoscimento vocale. Il punteggio mostra la capacità relativa su quel test, non come andrà un modello sul tuo carico di lavoro.

[Byte pair encoding (BPE)](https://broadrouter.com/it/glossary/bpe/)

Il byte pair encoding (BPE) è un algoritmo di tokenizzazione in sottoparole che parte da singoli caratteri o byte e unisce ripetutamente la coppia adiacente più frequente in una nuova voce del vocabolario, fino a raggiungere la dimensione di vocabolario prevista. La maggior parte dei tokenizer LLM attuali usa BPE o una sua variante a livello di byte.

[Chain-of-thought (CoT)](https://broadrouter.com/it/glossary/chain-of-thought/)

Il chain-of-thought (CoT, catena di pensiero) è una tecnica di prompting in cui a un modello linguistico si mostra o si chiede di scrivere i passaggi di ragionamento intermedi prima della risposta finale. Migliora l’accuratezza nei problemi a più passaggi, come aritmetica e logica, e i modelli di reasoning ora lo generano in automatico.

[Chat template](https://broadrouter.com/it/glossary/chat-template/)

Un chat template è la regola di formattazione, di solito scritta in Jinja e distribuita con il tokenizer di un modello, che converte una lista di messaggi di chat con i rispettivi ruoli nell’unica sequenza di token che il modello si aspetta, compresi i suoi token speciali di controllo. Usare il template sbagliato può peggiorare molto le risposte del modello.

[Context compaction (compattazione del contesto)](https://broadrouter.com/it/glossary/context-compaction/)

La context compaction è la pratica di riassumere una conversazione che si avvicina al limite della finestra di contesto e di proseguire la sessione da quel riassunto, così un agente conserva decisioni chiave e stato e scarta la cronologia grezza, come i vecchi output dei tool.

[Context engineering (ingegneria del contesto)](https://broadrouter.com/it/glossary/context-engineering/)

Il context engineering è il lavoro di scegliere e mantenere l’insieme di token che un modello linguistico vede a ogni richiesta, tra system prompt, definizioni dei tool, cronologia, documenti recuperati e note, così che il modello riceva il minimo di informazioni ad alto segnale che gli servono per svolgere bene il compito.

[Context rot (degrado del contesto)](https://broadrouter.com/it/glossary/context-rot/)

Il context rot è la perdita graduale di accuratezza e affidabilità che i modelli linguistici mostrano quando l’input si allunga, anche se il compito resta lo stesso e l’input è ben dentro la context window. Il termine è stato reso popolare da un report tecnico di Chroma del 2025 che ha testato 18 modelli.

[Diacritici arabi (tashkeel)](https://broadrouter.com/it/glossary/arabic-diacritics/)

I diacritici arabi, o tashkeel, sono piccoli segni scritti sopra o sotto le lettere per indicare le vocali brevi, le consonanti doppie e l’assenza di vocale. Sono facoltativi: quasi tutto il testo arabo, notizie comprese, li omette, quindi lettori e software deducono le vocali dal contesto.

[Dimensione del vocabolario (vocabulary size)](https://broadrouter.com/it/glossary/vocabulary-size/)

La dimensione del vocabolario è il numero di token distinti nel tokenizer di un modello linguistico, ognuno con il proprio ID e il proprio embedding. Un vocabolario più grande può codificare il testo comune in meno token, ma ingrandisce i livelli di embedding e di output, e aiuta solo sul testo su cui è stato addestrato.

[Distillazione (knowledge distillation)](https://broadrouter.com/it/glossary/distillation/)

La distillazione, o knowledge distillation, è un metodo di addestramento in cui un modello student più piccolo impara a riprodurre gli output di un modello teacher più grande, come le sue distribuzioni di probabilità o le risposte generate, così da conservare buona parte della qualità del teacher a un costo di esecuzione inferiore.

[Embedding (embeddings)](https://broadrouter.com/it/glossary/embeddings/)

Gli embedding sono liste di numeri in virgola mobile (vettori) che un modello produce per rappresentare un testo, un’immagine o un altro input. Input con significato simile ottengono vettori vicini tra loro, quindi la distanza tra vettori serve a ordinare i risultati di ricerca, raggruppare documenti o trovare elementi correlati.

[Eval (valutazione degli LLM)](https://broadrouter.com/it/glossary/eval/)

Una eval (abbreviazione di evaluation, valutazione) è un test ripetibile di un modello linguistico o di un prompt: un insieme fisso di input, una descrizione di come deve essere un buon output e un valutatore (codice, una persona o un altro modello) che assegna un punteggio a ogni output, così da poter confrontare le versioni.

[Few-shot prompting (prompt con esempi)](https://broadrouter.com/it/glossary/few-shot-prompting/)

Il few-shot prompting è una tecnica in cui il prompt include un piccolo numero di esempi svolti di input e output prima dell’input reale, così il modello linguistico ne ricava compito e formato. I pesi del modello non cambiano; lo zero-shot non usa esempi e il one-shot ne usa uno.

[Fine-tuning (addestramento di un LLM)](https://broadrouter.com/it/glossary/fine-tuning/)

Il fine-tuning è il processo con cui si continua ad addestrare un modello linguistico già pre-addestrato su un dataset più piccolo e specifico, come conversazioni di esempio, così che i suoi pesi cambino e svolga quel compito o quello stile in modo più affidabile, senza istruzioni lunghe o esempi in ogni prompt.

[Finestra di contesto (context window)](https://broadrouter.com/it/glossary/context-window/)

La finestra di contesto è il numero massimo di token con cui un modello linguistico può lavorare in una singola richiesta. Comprende prompt, cronologia della conversazione, definizioni degli strumenti, immagini e output generato, token di ragionamento inclusi. Ciò che non ci sta va tagliato, riassunto o diviso su più richieste.

[FP8 (virgola mobile a 8 bit)](https://broadrouter.com/it/glossary/fp8/)

FP8 è un formato numerico in virgola mobile a 8 bit usato nel deep learning, definito in due codifiche: E4M3, con 4 bit di esponente e 3 di mantissa, ed E5M2, con 5 bit di esponente e 2 di mantissa. Dimezza la memoria rispetto ai formati a 16 bit e gira in modo nativo sulle GPU recenti.

[Frequency e presence penalty](https://broadrouter.com/it/glossary/frequency-and-presence-penalty/)

Frequency e presence penalty sono impostazioni di campionamento che abbassano il punteggio dei token già presenti nell’output. La presence penalty si applica appena un token è comparso; la frequency penalty cresce a ogni ripetizione. Nell’API di OpenAI entrambe vanno da -2.0 a 2.0, con 0 come predefinito.

[GGUF (formato dei modelli llama.cpp)](https://broadrouter.com/it/glossary/gguf/)

GGUF è un formato di file binario per salvare modelli linguistici da usare per l’inferenza con runtime basati su GGML, come llama.cpp. Un solo file GGUF contiene i pesi, spesso quantizzati, e i metadati necessari a caricare il modello, compresi tokenizer e dettagli dell’architettura, e può essere mappato in memoria per un caricamento rapido.

[Grounding (ancoraggio alle fonti)](https://broadrouter.com/it/glossary/grounding/)

Il grounding è la pratica di collegare l’output di un modello linguistico a fonti di informazione specifiche e verificabili, come documenti forniti, risultati di ricerca o record di database, chiedendogli di rispondere a partire da quelle. Le risposte ancorate si possono ricondurre a una fonte e contengono meno spesso fatti inventati.

[Hamza (lettera araba)](https://broadrouter.com/it/glossary/hamza/)

La hamza (ء) è la lettera araba che indica il colpo di glottide. Si scrive da sola o su un supporto: alef (أ إ), waw (ؤ) o yeh (ئ), e آ unisce alef e madda. Dato che il testo digitato la usa in modo incoerente, motori di ricerca e valutazione del parlato spesso riducono le forme con alef a ا.

[Identificazione del dialetto arabo (dialect identification)](https://broadrouter.com/it/glossary/arabic-dialect-identification/)

L’identificazione del dialetto arabo è il compito di stabilire in quale varietà di arabo è un testo o una registrazione, come egiziano, del Golfo, levantino, maghrebino o arabo standard moderno, a livello di regione, paese o città. Serve a instradare i messaggi, scegliere i prompt e dividere i set di valutazione.

[INT4 (quantizzazione a 4 bit)](https://broadrouter.com/it/glossary/int4/)

INT4 è un formato numerico intero a 4 bit che può rappresentare 16 livelli. Nell’inferenza degli LLM indica di solito la quantizzazione a 4 bit dei soli pesi (W4A16): i pesi sono salvati in INT4 con fattori di scala ed espansi a 16 bit durante il calcolo, usando circa un quarto della memoria dei pesi a 16 bit.

[KV cache (cache chiave-valore)](https://broadrouter.com/it/glossary/kv-cache/)

La KV cache è la memoria in cui un modello linguistico transformer conserva le chiavi e i valori di attenzione calcolati per ogni token già elaborato, così ogni nuovo token li riusa invece di ricalcolare l’intera sequenza. Cresce con la lunghezza del contesto e spesso limita quante richieste una GPU può servire.

[Licenza del modello (model license)](https://broadrouter.com/it/glossary/model-license/)

La licenza di un modello è l’insieme delle condizioni legali con cui pesi, codice e output di un modello possono essere usati, modificati e condivisi. I modelli open-weight usano licenze software standard come Apache 2.0 o MIT, oppure licenze custom che possono aggiungere condizioni, per esempio limiti per i grandi servizi commerciali.

[LLM-as-a-judge (LLM come giudice)](https://broadrouter.com/it/glossary/llm-as-judge/)

LLM-as-a-judge è un metodo di valutazione in cui un modello linguistico giudica gli output di altri modelli, dando un punteggio a una singola risposta secondo una rubrica oppure scegliendo la migliore tra due. Approssima il giudizio umano a un costo molto più basso, ma ha bias noti, come preferire la prima risposta o quella più lunga.

[Logprobs (log-probabilità)](https://broadrouter.com/it/glossary/logprobs/)

I logprobs sono le log-probabilità che un modello linguistico ha assegnato ai token che ha generato. Un’API che li restituisce mostra, per ogni token di output, quanto il modello lo riteneva probabile e, facoltativamente, i token alternativi più probabili in quella posizione.

[LoRA (low-rank adaptation)](https://broadrouter.com/it/glossary/lora/)

LoRA (low-rank adaptation, adattamento a basso rango) è un metodo di fine-tuning efficiente nei parametri che congela i pesi di un modello pre-addestrato e addestra una coppia di piccole matrici a basso rango per i layer scelti. L’aggiornamento appreso può essere salvato come piccolo adapter o fuso nei pesi, senza aggiungere latenza in inferenza.

[Lost in the middle (perso nel mezzo)](https://broadrouter.com/it/glossary/lost-in-the-middle/)

Lost in the middle è la tendenza osservata dei modelli linguistici a usare meglio le informazioni rilevanti quando compaiono vicino all’inizio o alla fine di un input lungo, e peggio quando stanno nel mezzo. Il nome viene da uno studio del 2023 di Liu et al.

[max\_tokens](https://broadrouter.com/it/glossary/max-tokens/)

max\_tokens è un parametro delle API LLM che fissa il numero massimo di token che un modello può generare in una risposta. Quando la generazione raggiunge il limite, si ferma e la risposta viene segnata come troncata, per esempio con finish\_reason impostato a "length".

[Mixture of experts (MoE)](https://broadrouter.com/it/glossary/mixture-of-experts/)

La mixture of experts (MoE) è un’architettura di rete neurale in cui un layer contiene molte sotto-reti esperte e un router appreso manda ogni token solo ad alcune di esse. Un modello linguistico MoE ha un numero totale di parametri elevato, ma per ogni token ne usa un piccolo sottoinsieme attivo.

[Modello open-weight (a pesi aperti)](https://broadrouter.com/it/glossary/open-weight-model/)

Un modello open-weight è un modello di machine learning i cui pesi addestrati sono pubblicati perché chiunque possa scaricarli ed eseguirli, di solito con una licenza che pone condizioni. Si distingue dall’AI completamente open source, che rilascia anche il codice di addestramento e informazioni dettagliate sui dati, così altri possono studiare e riprodurre il modello.

[Modello vision-language (VLM)](https://broadrouter.com/it/glossary/vision-language-model/)

Un modello vision-language (VLM) è un modello che riceve in input immagini e testo insieme e produce testo, quindi può descrivere foto, rispondere a domande su di esse e leggere documenti, grafici o screenshot. I VLM sono chiamati anche modelli image-text-to-text o multimodali.

[Normalizzazione del testo arabo (Arabic text normalization)](https://broadrouter.com/it/glossary/arabic-text-normalization/)

La normalizzazione del testo arabo è il passaggio che riporta a una sola forma le varianti grafiche della stessa parola prima del confronto: toglie diacritici e tatweel, unifica le forme di alef e spesso trasforma ى in ي e ة in ه. Si applica alle chiavi di ricerca e alla valutazione, non al testo che mostri.

[Prefill e decode](https://broadrouter.com/it/glossary/prefill-and-decode/)

Prefill e decode sono le due fasi dell’inferenza di un LLM. Nel prefill il modello elabora tutto il prompt in parallelo e riempie la sua KV cache; nel decode genera la risposta un token alla volta, riusando quella cache. Il prefill determina soprattutto il tempo al primo token; il decode la velocità di output.

[Prompt engineering (ingegneria dei prompt)](https://broadrouter.com/it/glossary/prompt-engineering/)

Il prompt engineering è il processo con cui si scrivono, strutturano e testano le istruzioni date a un modello linguistico, perché produca in modo costante un output che rispetta i tuoi requisiti. Comprende messaggi di ruolo, istruzioni chiare, esempi, formattazione e la misura dei risultati su casi di test.

[Quantizzazione (quantization)](https://broadrouter.com/it/glossary/quantization/)

La quantizzazione è il processo con cui si memorizzano i numeri di una rete neurale, soprattutto i pesi, in un formato a precisione ridotta come 8 o 4 bit invece di 16 bit, così il modello usa meno memoria e spesso gira più veloce. I metodi validi mantengono piccola la perdita di accuratezza.

[Riconoscimento di entità nominate (NER)](https://broadrouter.com/it/glossary/named-entity-recognition/)

La named entity recognition (NER) è il compito di trovare i nomi in un testo ed etichettare ciascuno con un tipo, come persona, organizzazione o luogo. I sistemi classici etichettano ogni token; agli LLM si chiede spesso invece di restituire una lista di entità in JSON, che poi si verifica sul testo originale.

[Riconoscimento ottico dei caratteri (OCR)](https://broadrouter.com/it/glossary/ocr/)

L’OCR (riconoscimento ottico dei caratteri) è la tecnologia che individua il testo stampato o scritto a mano in un’immagine, una scansione o un PDF e lo converte in caratteri leggibili dalle macchine. L’OCR classico restituisce il testo e la sua posizione nella pagina; i modelli vision-language possono leggere il testo e rispondere direttamente a domande su di esso.

[Speculative decoding (decodifica speculativa)](https://broadrouter.com/it/glossary/speculative-decoding/)

Lo speculative decoding (decodifica speculativa) è una tecnica di inferenza in cui un modello draft piccolo e veloce propone diversi token successivi e il modello target, più grande, li verifica in un solo forward pass, tenendo quelli accettati. Accelera la generazione senza cambiare la distribuzione dell’output.

[Tā’ marbūṭa (taa marbuta, ة)](https://broadrouter.com/it/glossary/taa-marbuta/)

La taa marbuta (ة, U+0629) è una lettera araba che compare solo alla fine di una parola e spesso segna sostantivi e aggettivi femminili. Somiglia a una heh (ه, U+0647) con due punti, quindi nel testo digitato le due si confondono, e molti normalizzatori per la ricerca mappano ة su ه.

[Temperatura (temperature)](https://broadrouter.com/it/glossary/temperature/)

La temperatura è un parametro di campionamento che regola quanto è casuale l’output di un modello linguistico. Il modello divide i punteggi dei token per la temperatura prima di trasformarli in probabilità: con valori bassi domina il token più probabile, con valori alti la distribuzione si appiattisce e i token meno probabili vengono scelti più spesso.

[Token](https://broadrouter.com/it/glossary/token/)

Un token è l’unità di testo che un modello linguistico legge e scrive: una parola, una parte di parola, un segno di punteggiatura o una sequenza di byte prodotta dal tokenizer del modello. Le API LLM contano, limitano e di solito fatturano l’uso in token.

[Token al secondo (tokens per second)](https://broadrouter.com/it/glossary/tokens-per-second/)

I token al secondo (TPS) sono la velocità con cui un modello linguistico genera token di output, di solito misurata per una richiesta dopo l’arrivo del primo token. Stabiliscono quanto scorre veloce una risposta una volta partita. Sommati su tutte le richieste concorrenti diventano throughput di sistema; l’attesa del primo token si misura a parte.

[Token di ragionamento (reasoning tokens)](https://broadrouter.com/it/glossary/reasoning-tokens/)

I token di ragionamento sono token che un modello di ragionamento genera per elaborare un problema prima di scrivere la risposta visibile. Di solito sono fatturati come token di output, contano nel limite di output e nella finestra di contesto, e l’API può nasconderli o riassumerli.

[Token immagine (image tokens)](https://broadrouter.com/it/glossary/image-tokens/)

I token immagine sono i token di input con cui un modello vision-language rappresenta un’immagine nel prompt. I provider li calcolano dalle dimensioni dell’immagine, di solito dividendola in patch o tile di misura fissa dopo il ridimensionamento, e li fatturano come token di input testuali: le immagini più grandi costano di più.

[Tokenizer](https://broadrouter.com/it/glossary/tokenizer/)

Un tokenizer è il componente che converte il testo nella sequenza di ID interi di token che un modello linguistico legge, e riconverte in testo gli ID generati. Ogni modello ha il proprio tokenizer, quindi lo stesso testo può produrre un numero di token diverso su modelli diversi.

[Top-p (nucleus sampling)](https://broadrouter.com/it/glossary/top-p/)

Il top-p, detto anche nucleus sampling, è un metodo di decodifica in cui un modello linguistico sceglie il token successivo solo dal più piccolo insieme di token più probabili la cui probabilità complessiva raggiunge una soglia p, per esempio 0,9, scartando la coda improbabile.

[vLLM](https://broadrouter.com/it/glossary/vllm/)

vLLM è una libreria open source per l’inferenza e il serving di LLM, sviluppata inizialmente allo Sky Computing Lab di UC Berkeley. Gestisce la memoria della KV cache con PagedAttention, raggruppa in batch continuo le richieste in arrivo, supporta molti formati di quantizzazione ed espone un server HTTP compatibile OpenAI.

## Prezzi e fatturazione

[Credito prepagato (prepaid credit)](https://broadrouter.com/it/glossary/prepaid-credit/)

Il credito prepagato è denaro aggiunto a un account API prima dell’uso. Ogni richiesta scala il proprio costo dal saldo e, quando il saldo si esaurisce, le richieste a consumo si fermano finché non ricarichi. Limita la spesa a quanto hai versato.

[Limite di spesa (spend limit)](https://broadrouter.com/it/glossary/spend-limit/)

Un limite di spesa è un tetto a quanto un account, un progetto o una chiave API può spendere in un periodo, di solito un mese. Quando l’uso lo raggiunge, il provider rifiuta le richieste successive, spesso con un errore HTTP 429 o 400, finché il periodo non si azzera o il limite non viene alzato.

[Ora GPU (GPU-hour)](https://broadrouter.com/it/glossary/gpu-hour/)

Un’ora GPU (GPU-hour) è un processore grafico usato per un’ora. I provider cloud fatturano le istanze GPU a noleggio a ore o a secondi, e i ricercatori usano le ore GPU per indicare quanto calcolo ha richiesto un lavoro. Paghi il tempo della macchina, che sia occupata o no.

[Pagamento a consumo (pay-as-you-go)](https://broadrouter.com/it/glossary/pay-as-you-go/)

Il pagamento a consumo è un modello di prezzo in cui paghi solo ciò che usi, misurato per unità come token, richieste o minuti di audio, senza abbonamento né impegno minimo. La maggior parte delle API LLM fattura così, da un saldo prepagato o con una fattura periodica.

[Piano LLM flat (flat-rate)](https://broadrouter.com/it/glossary/flat-rate-llm-plan/)

Un piano LLM flat applica un prezzo fisso per un periodo, per esempio un mese, per accedere all’API di un modello linguistico invece di fatturare per token. Di solito questi piani limitano qualcos’altro, come concorrenza, velocità, modelli o finestre di utilizzo, quindi i limiti contano quanto il prezzo.

[Token di input e di output](https://broadrouter.com/it/glossary/input-and-output-tokens/)

I token di input sono quelli che un modello linguistico legge in una richiesta: system prompt, cronologia, definizioni degli strumenti e immagini. I token di output sono quelli che genera in risposta, ragionamento compreso. Le API LLM di solito li prezzano separatamente, e l’output costa di più.

[Token di input in cache (cached input)](https://broadrouter.com/it/glossary/cached-input-tokens/)

I token di input in cache sono token del prompt che un provider LLM ha elaborato da poco e può riusare da una cache invece di ricalcolarli, di solito un prefisso ripetuto come un system prompt o un documento. I provider li fatturano a una tariffa più bassa dei token di input nuovi.

## Privacy e sicurezza

[Accordo sul trattamento dei dati (DPA)](https://broadrouter.com/it/glossary/dpa/)

Un accordo sul trattamento dei dati (DPA) è il contratto tra titolare e responsabile del trattamento che regola come il responsabile gestisce i dati personali. L’articolo 28, paragrafo 3, del GDPR lo impone e ne elenca i contenuti: istruzioni documentate, riservatezza, sicurezza, regole sui sub-responsabili, cancellazione o restituzione dei dati e audit.

[Chiave API (API key)](https://broadrouter.com/it/glossary/api-key/)

Una chiave API è una stringa segreta che identifica e autorizza un client che chiama un’API. Le API LLM di solito la vogliono in un header Authorization: Bearer, e chiunque possieda la chiave può fare richieste fatturate all’account a cui appartiene.

[GDPR (Regolamento generale sulla protezione dei dati)](https://broadrouter.com/it/glossary/gdpr/)

Il GDPR (Regolamento generale sulla protezione dei dati, Regolamento (UE) 2016/679) è la legge UE sul trattamento dei dati personali. Si applica dal 25 maggio 2018 a organizzazioni stabilite nell’UE e ad alcune extra UE. Per le API LLM regola i contratti con i responsabili del trattamento, i trasferimenti internazionali e la minimizzazione dei dati.

[Guardrail (controlli di sicurezza per LLM)](https://broadrouter.com/it/glossary/guardrails/)

I guardrail sono controlli che un’applicazione esegue attorno alla chiamata a un modello linguistico per tenerla entro limiti stabiliti. I guardrail di input esaminano ciò che entra nel modello, quelli di output controllano ciò che esce e quelli sui tool validano le azioni prima che vengano eseguite. Un controllo fallito blocca, riscrive o segnala la richiesta.

[IP allow list (whitelist di IP)](https://broadrouter.com/it/glossary/ip-allow-list/)

Una IP allow list è un controllo di sicurezza che accetta richieste solo da indirizzi IP o intervalli CIDR elencati e rifiuta tutti gli altri. Su un’API limita i danni di una chiave trapelata, perché la chiave non funziona dalle reti che non sono nella lista.

[Jailbreak (LLM)](https://broadrouter.com/it/glossary/jailbreak/)

Un jailbreak è un input costruito per far ignorare a un modello linguistico il suo addestramento di sicurezza o le regole fissate dall’applicazione che lo usa, così che produca contenuti o compia azioni che normalmente rifiuterebbe. OWASP considera il jailbreaking una forma di prompt injection.

[PDPL (leggi privacy di Arabia Saudita ed EAU)](https://broadrouter.com/it/glossary/pdpl/)

PDPL (Personal Data Protection Law) è il nome comune della legge saudita sui dati personali, emanata con il Regio Decreto M/19 e applicata dalla SDAIA, e del Decreto-legge federale n. 45 del 2021 degli EAU. Entrambe regolano il trattamento dei dati personali e pongono condizioni ai trasferimenti all’estero, compresi i prompt inviati ad API LLM straniere.

[PII (informazioni personali identificabili)](https://broadrouter.com/it/glossary/pii/)

I PII (personally identifiable information) sono informazioni che permettono di distinguere o rintracciare l’identità di una persona, come nome, numero identificativo o dato biometrico, più altre informazioni collegate o collegabili a essa. Il GDPR usa il termine più ampio dati personali. Con gli LLM, l’oscuramento dei PII li toglie dai prompt prima che escano dai tuoi sistemi.

[Prompt injection](https://broadrouter.com/it/glossary/prompt-injection/)

La prompt injection è un attacco in cui un testo fornito a un modello linguistico, da un utente oppure nascosto in una pagina web, un’email, un file o il risultato di uno strumento, cambia il comportamento del modello contro le intenzioni dello sviluppatore. OWASP la mette al primo posto (LLM01:2025) nella sua Top 10 per le applicazioni LLM.

[Residenza dei dati (data residency)](https://broadrouter.com/it/glossary/data-residency/)

La residenza dei dati è un requisito o un impegno per cui i dati vengono conservati ed elaborati in un paese o in una regione specifici. Per un’API LLM riguarda dove vengono elaborati i prompt durante l’inferenza e dove si trova l’eventuale contenuto salvato, e spesso esclude i dati di account e fatturazione.

[Sub-responsabile del trattamento (subprocessor)](https://broadrouter.com/it/glossary/subprocessor/)

Un sub-responsabile del trattamento (subprocessor) è un terzo a cui un responsabile affida attività di trattamento di dati personali per conto del titolare. Per un’API LLM può includere host GPU, provider di inferenza partner e capacità di backup. Secondo l’articolo 28 del GDPR serve l’autorizzazione del titolare e gli stessi obblighi di protezione dei dati.

[Zero data retention (nessuna conservazione dei dati)](https://broadrouter.com/it/glossary/zero-data-retention/)

La zero data retention (ZDR) è una policy di gestione dei dati in cui un provider AI elabora prompt e output solo per servire una richiesta e poi non ne conserva il contenuto, né in log né in cache né in dati di addestramento. Di solito restano registri senza contenuti, come conteggi di token e tempi.

## Voce

[Character error rate (CER)](https://broadrouter.com/it/glossary/character-error-rate/)

Il character error rate (CER, tasso di errore sui caratteri) misura l’accuratezza di una trascrizione o di un OCR a livello di carattere: sostituzioni, cancellazioni e inserimenti necessari per trasformare l’output nel testo di riferimento, divisi per il numero di caratteri del riferimento. Più è basso meglio è, e 0 è una corrispondenza perfetta.

[Code-switching (commutazione di codice)](https://broadrouter.com/it/glossary/code-switching/)

Il code-switching è l’uso di due o più lingue, o varietà di una stessa lingua, all’interno della stessa conversazione o frase, nel parlato o nello scritto. Ne sono esempi gli arabofoni che inseriscono parole inglesi nel dialetto, o che passano dall’arabo standard moderno al loro dialetto.

[Frequenza di campionamento (sample rate)](https://broadrouter.com/it/glossary/sample-rate/)

La frequenza di campionamento (sample rate) è il numero di campioni audio acquisiti al secondo, misurato in hertz (Hz). I modelli di riconoscimento vocale si aspettano di solito audio mono a 16.000 Hz (16 kHz). Insieme a profondità di bit e numero di canali, determina quanto pesa al minuto un file audio non compresso.

[Ogg Opus](https://broadrouter.com/it/glossary/ogg-opus/)

Ogg Opus è audio codificato con il codec Opus (RFC 6716) e salvato in un container Ogg (RFC 7845). È pensato per il parlato e l’audio interattivo a bitrate bassi, ed è il formato che WhatsApp usa per i messaggi vocali, di solito come file .ogg o .opus.

[Sottotitoli SRT (file .srt)](https://broadrouter.com/it/glossary/srt-subtitles/)

SRT (SubRip) è un formato di sottotitoli in testo semplice. Ogni sottotitolo è composto da un numero progressivo, un tempo di inizio e di fine scritto come hh:mm:ss,mmm --> hh:mm:ss,mmm, una o più righe di testo e una riga vuota. WebVTT è il formato web simile usato dai video HTML.

[Speaker diarization (diarizzazione del parlato)](https://broadrouter.com/it/glossary/diarization/)

La speaker diarization è il compito di dividere una registrazione audio in segmenti per parlante, rispondendo a "chi ha parlato e quando". Etichetta ogni tratto di parlato con un ID anonimo come SPEAKER\_00 e di solito si combina con una trascrizione per mostrare chi ha detto ogni battuta.

[Speech-to-text (riconoscimento vocale)](https://broadrouter.com/it/glossary/speech-to-text/)

Lo speech-to-text, detto anche riconoscimento automatico del parlato (ASR), è la tecnologia che converte l’audio parlato in testo scritto. Un’API speech-to-text riceve un file o uno stream audio e restituisce una trascrizione, di solito a prezzo per minuto di audio. L’accuratezza si misura con il word error rate e varia con accento, dialetto e qualità della registrazione.

[Text-to-speech (TTS, sintesi vocale)](https://broadrouter.com/it/glossary/text-to-speech/)

Il text-to-speech (TTS), o sintesi vocale, converte il testo scritto in audio parlato. Un’API TTS riceve un testo, una voce e un formato di output come MP3 o WAV, e restituisce il parlato generato. È l’opposto dello speech-to-text, che trasforma l’audio in testo.

[Timestamp (speech-to-text)](https://broadrouter.com/it/glossary/timestamps-asr/)

I timestamp nello speech-to-text sono tempi di inizio e fine, in secondi, associati a parti di una trascrizione. I timestamp di segmento coprono una frase o un periodo; quelli per parola coprono ogni parola. Servono per sottotitoli, ricerca dentro le registrazioni e allineamento del testo con i parlanti.

[Voice activity detection (VAD)](https://broadrouter.com/it/glossary/vad/)

La voice activity detection (VAD, rilevamento dell’attività vocale) è un passaggio di elaborazione del segnale che classifica brevi frame audio come parlato o non parlato. I sistemi vocali la usano per saltare i silenzi, dividere registrazioni lunghe nelle pause, capire quando chi parla ha finito ed evitare di trascrivere il rumore di fondo.

[WAV (file audio WAV)](https://broadrouter.com/it/glossary/wav/)

WAV (Waveform Audio File Format, o WAVE) è un contenitore audio basato sul formato RIFF di Microsoft e IBM. Di solito contiene campioni PCM lineari non compressi, quindi la sua dimensione è prevedibile: frequenza di campionamento per byte per campione per canali, al secondo.

[Word error rate (WER)](https://broadrouter.com/it/glossary/word-error-rate/)

Il word error rate (WER, tasso di errore sulle parole) è la misura standard di accuratezza del riconoscimento vocale: il numero di sostituzioni, cancellazioni e inserimenti di parole necessari per trasformare una trascrizione nel riferimento corretto, diviso per il numero di parole del riferimento. Più è basso, meglio è.

Provalo sul tuo carico di lavoro reale. I nuovi account partono con USD 5 di credito per Gemma e trascrizione. DeepSeek, GLM e Qwen3.8 richiedono una ricarica.

[Inizia](https://inference.broadnet.ai/account/?utm_source=broadrouter&utm_medium=referral&utm_campaign=it-glossary&utm_content=page-cta) ·

**Fonti**

-   [Riferimento API (in inglese)](https://inference.broadnet.ai/docs?utm_source=broadrouter&utm_medium=referral&utm_campaign=it-glossary&utm_content=sources)
