Concetto di Batch API
In questa pagina
Aggiornato il 2 novembre 2026, sulla base della documentazione di xAI: lo sconto batch è del 20% sui modelli di testo idonei (non del 50%), gli esempi seguono l’API REST e l’SDK ufficiale
xai-sdk(client.batch.*; la Batch API di xAI non utilizza il formato di OpenAI, quindi l’SDK di OpenAI non si applica) e l’API Responses precede Chat Completions, un endpoint legacy presso xAI. Fonti: Batch API · Riferimento REST · Prezzi Batch.
Elaborazione asincrona in blocco
La Batch API di xAI ti consente di inviare migliaia di richieste in una singola operazione, per poi recuperare i risultati una volta terminata l’elaborazione. A differenza delle chiamate sincrone, dove attendi ogni risposta, la modalità batch funziona in modo asincrono: invii un batch, continui a lavorare e torni più tardi per recuperare i risultati.
Questo approccio risponde a un’esigenza reale. Quando devi riassumere 10.000 articoli, classificare 50.000 ticket di supporto o scrivere descrizioni per un catalogo, inviare le richieste una alla volta sarebbe lento, costoso e ti porterebbe a superare i limiti di frequenza (rate limits). Le richieste batch non contano verso questi limiti.
Uno sconto del 20% sui modelli idonei
Il vantaggio economico è reale, ma più modesto di quanto suggeriscano alcune fonti. xAI applica uno sconto del 20% alle richieste batch per i suoi modelli di testo idonei — al 2 novembre 2026: grok-4.7, grok-4.6, grok-4.5, grok-4.3 e le tre varianti grok-4.20-0309 — su tutti i tipi di token: input, output, cache e ragionamento. I modelli non presenti in questo elenco non ricevono alcuno sconto, anche se accettano richieste batch.
La generazione di immagini e video avviene in batch, ma ai prezzi standard. Non tutti i modelli accettano il batch: la pagina di ciascun modello indica se lo supporta e una richiesta inviata a un modello non idoneo viene rifiutata con il messaggio not supported for batch processing.
Flusso di lavoro in quattro fasi
La Batch API segue uno schema semplice e prevedibile:
- Crea un batch denominato con
POST /v1/batches - Aggiungi le richieste, tramite chiamate successive o tutte insieme con un file JSONL
- Monitora l’avanzamento utilizzando i contatori del batch
- Recupera i risultati man mano che diventano disponibili o al termine
Questo flusso di lavoro disaccoppia l’invio dall’elaborazione: non devi mantenere una connessione aperta mentre Grok lavora. La maggior parte dei batch viene elaborata in meno di 24 ore, ma xAI non lo garantisce: i tempi di esecuzione variano in base al carico e alle dimensioni del batch.
Endpoint supportati
La Batch API non si limita al testo. Un singolo batch può mescolare richieste a:
/v1/responses— l’API Responses, con strumenti lato server (ricerca web, ricerca su X, esecuzione di codice, MCP)/v1/chat/completions— l’API Chat Completions, un endpoint legacy presso xAI/v1/images/generationse/v1/images/edits— generazione e modifica di immagini/v1/videos/generations(o/v1/videos),/v1/videos/editse/v1/videos/extensions— generazione, modifica ed estensione di video
Ad esempio, puoi scrivere descrizioni di prodotti e generare le relative immagini nello stesso batch.
Quando utilizzare la Batch API
La Batch API è ideale ogni volta che il risultato può attendere:
- Elaborazione massiva di dati: classificazione, estrazione e riassunto di migliaia di documenti
- Valutazioni: esecuzione di migliaia di prompt di test su un modello
- Pipeline di dati: arricchimento di database, moderazione di un backlog di contenuti e report preparati durante la notte
Se il tuo caso d’uso richiede una risposta immediata (chatbot, assistente in tempo reale), la Batch API non è adatta: serve carichi di lavoro per cui un ritardo di alcune ore è accettabile.
Punti chiave
- La Batch API elabora le richieste in modo asincrono, la maggior parte in meno di 24 ore, senza garanzia
- Sconto del 20% su tutti i token per i modelli di testo idonei; immagini e video ai prezzi standard
- Il flusso di lavoro prevede quattro fasi: crea, aggiungi, monitora, recupera
- Testo, immagini e video possono coesistere nello stesso batch
- Le richieste batch non contano verso i limiti di frequenza, ma non sono adatte al tempo reale