---
title: "Cos’è una batch API per LLM? Job asincroni a metà prezzo"
description: "Una batch API riceve un file con molte richieste LLM, le esegue in modo asincrono entro una finestra di tempo e restituisce i risultati, di solito scontati."
url: https://broadrouter.com/it/glossary/batch-api/
lang: it
updated: 2026-11-16
publisher: BroadRouter (a BroadNet site); API by BroadNet Inference, https://inference.broadnet.ai
---

Tradotto dall’inglese con l’aiuto dell’IA. [Leggi l’originale in inglese](https://broadrouter.com/glossary/batch-api/) (aggiornato il 2026-11-16).

# Batch API

Aggiornato 2026-11-16

Una batch API è un endpoint LLM asincrono che accetta molte richieste insieme, di solito come file, le elabora entro una finestra prestabilita invece che subito, e restituisce i risultati tutti insieme. Provider come OpenAI e Anthropic applicano alle richieste batch uno sconto rispetto alle loro API standard.

Detto anche: API batch, elaborazione batch LLM, richieste batch asincrone, inferenza batch, batch processing API, Message Batches API, OpenAI Batch API, batch inference, async batch requests

Molti job LLM non hanno bisogno di una risposta immediata. Una batch API rinuncia alla velocità di risposta in cambio di un prezzo più basso e di volumi più alti.

## Come funziona

Prepari molte richieste, le invii insieme e raccogli i risultati più tardi. Le due versioni meglio documentate:

|  | OpenAI Batch API | Anthropic Message Batches API |
| --- | --- | --- |
| Input | Un file `.jsonl`, una richiesta per riga | Una lista di richieste Messages |
| Prezzo | “50% cost discount compared to synchronous APIs” (traduzione: sconto del 50% rispetto alle API sincrone) | “50 percent discount on all usage” (traduzione: sconto del 50% su tutto l’utilizzo) |
| Tempi | “Each batch completes within 24 hours (and often more quickly)” (traduzione: ogni batch si completa entro 24 ore, e spesso prima) | Per lo più entro 1 ora; scade se non finisce entro 24 ore |
| Limite di dimensione | 50.000 richieste, file di input da 200 MB | 100.000 richieste o 256 MB per batch |
| Rate limit | Separati dai limiti per modello | Valgono anche per le richieste batch in coda |

Con OpenAI carichi il file, crei un batch con `completion_window: "24h"`, controlli lo stato e scarichi il file di output. Entrambe le API richiedono un `custom_id` univoco per ogni richiesta, perché i risultati possono tornare in un ordine diverso da quello dell’input. Anthropic conserva i risultati per 29 giorni, e i suoi sconti batch e di [prompt caching](https://broadrouter.com/it/glossary/cached-input-tokens/) si possono sommare.

## Perché è importante

Casi adatti sono le valutazioni, la classificazione di grandi dataset, i riassunti in massa e il recupero di dati arretrati. La guida di OpenAI cita l’esecuzione di valutazioni e la classificazione di grandi dataset come usi tipici. Non è adatta a nulla per cui un utente sta aspettando.

Il risparmio è reale ma ha un limite. Un batch dimezza il prezzo per token presso quei provider; non riduce quanti [token di input e di output](https://broadrouter.com/it/glossary/input-and-output-tokens/) invii. Accorciare i prompt resta importante.

Un batch aggira anche il problema del [rate limit](https://broadrouter.com/it/glossary/rate-limit/). Invece di gestire tu i 429 e il backoff, è il provider a pianificare il lavoro.

## Su BroadNet Inference

La documentazione di BroadNet non elenca una batch API, un endpoint per i file né uno sconto batch. Il lavoro di massa su BroadNet significa richieste sincrone eseguite in parallelo entro i limiti della tua chiave: 30 richieste al minuto e 4 in corso su una chiave a consumo. Gestisci le risposte 429 e 5xx con un backoff esponenziale limitato, come mostra la [guida a errori e retry](https://broadrouter.com/it/guides/errors-and-retries/).

Per job lunghi su DeepSeek V4.1 Flash, una sessione di un piano flat esegue una richiesta alla volta senza contatore di token, quindi il costo dipende dal tempo e non dal volume. Usa il [calcolatore piano flat o a token](https://broadrouter.com/tools/flat-rate-vs-per-token-calculator/) per confrontare le due opzioni per le dimensioni del tuo job, e il [pianificatore di job batch LLM](https://broadrouter.com/tools/llm-batch-job-planner/) per il tempo di esecuzione con i tuoi limiti e le sessioni che servono per rispettare una scadenza.

## Domande frequenti

### Quanto costa meno una batch API?

OpenAI e Anthropic documentano entrambe uno sconto del 50% rispetto alle loro API standard. Lo sconto di Anthropic si applica a token di input, di output e speciali.

### Quanto ci mette un batch?

OpenAI dichiara che ogni batch si completa entro 24 ore, spesso prima. Anthropic dice che la maggior parte dei batch finisce entro 1 ora e che scadono se l’elaborazione non termina entro 24 ore.

### BroadNet ha una batch API?

La documentazione di BroadNet non ne elenca una. Puoi eseguire job di massa inviando richieste in parallelo entro i limiti della tua chiave, oppure con un piano flat per DeepSeek V4.1 Flash.

## Vedi anche

-   [Rate limit (limite di frequenza)](https://broadrouter.com/it/glossary/rate-limit/) (termine)
-   [Concorrenza (concurrency)](https://broadrouter.com/it/glossary/concurrency/) (termine)
-   [Throughput](https://broadrouter.com/it/glossary/throughput/) (termine)
-   [Pagamento a consumo (pay-as-you-go)](https://broadrouter.com/it/glossary/pay-as-you-go/) (termine)
-   [Token di input e di output](https://broadrouter.com/it/glossary/input-and-output-tokens/) (termine)
-   [Codici di errore di BroadNet Inference e quando ritentare](https://broadrouter.com/it/guides/errors-and-retries/) (guida)
-   [Errore 429 nelle API LLM: backoff, jitter e limitatori](https://broadrouter.com/it/blog/handle-llm-api-429-rate-limits/) (articolo)
-   [Come stimare il costo delle API LLM prima di lanciare una funzione](https://broadrouter.com/it/blog/estimate-llm-api-cost-before-launch/) (articolo)
-   [Elaborazione batch con LLM senza Batch API: un runner riprendibile](https://broadrouter.com/it/blog/llm-batch-processing-without-batch-api/) (articolo)

Provalo sul tuo carico di lavoro reale. I nuovi account partono con USD 5 di credito per Gemma e trascrizione. DeepSeek, GLM e Qwen3.8 richiedono una ricarica.

[Inizia](https://inference.broadnet.ai/account/?utm_source=broadrouter&utm_medium=referral&utm_campaign=it-glossary-batch-api&utm_content=page-cta) ·

**Fonti**

-   [OpenAI, guida alla Batch API (verificato il 2026-11-16)](https://developers.openai.com/api/docs/guides/batch)
-   [Anthropic, elaborazione batch con la Message Batches API (verificato il 2026-11-16)](https://platform.claude.com/docs/en/build-with-claude/batch-processing)
-   [Riferimento API di BroadNet Inference (verificato il 2026-11-16) (in inglese)](https://inference.broadnet.ai/docs?utm_source=broadrouter&utm_medium=referral&utm_campaign=it-glossary-batch-api&utm_content=sources)
