Vai al contenuto principale
Italiano— Scegli una lingua
Menu

Concetto di Batch API

Lezione 1 di 12 Aggiornata il 2 novembre 2026 Sviluppatore
In questa pagina
  1. Elaborazione asincrona in blocco
  2. Uno sconto del 20% sui modelli idonei
  3. Flusso di lavoro in quattro fasi
  4. Endpoint supportati
  5. Quando utilizzare la Batch API
  6. Punti chiave

Aggiornato il 2 novembre 2026, sulla base della documentazione di xAI: lo sconto batch è del 20% sui modelli di testo idonei (non del 50%), gli esempi seguono l’API REST e l’SDK ufficiale xai-sdk (client.batch.*; la Batch API di xAI non utilizza il formato di OpenAI, quindi l’SDK di OpenAI non si applica) e l’API Responses precede Chat Completions, un endpoint legacy presso xAI. Fonti: Batch API · Riferimento REST · Prezzi Batch.

Elaborazione asincrona in blocco

La Batch API di xAI ti consente di inviare migliaia di richieste in una singola operazione, per poi recuperare i risultati una volta terminata l’elaborazione. A differenza delle chiamate sincrone, dove attendi ogni risposta, la modalità batch funziona in modo asincrono: invii un batch, continui a lavorare e torni più tardi per recuperare i risultati.

Questo approccio risponde a un’esigenza reale. Quando devi riassumere 10.000 articoli, classificare 50.000 ticket di supporto o scrivere descrizioni per un catalogo, inviare le richieste una alla volta sarebbe lento, costoso e ti porterebbe a superare i limiti di frequenza (rate limits). Le richieste batch non contano verso questi limiti.

Uno sconto del 20% sui modelli idonei

Il vantaggio economico è reale, ma più modesto di quanto suggeriscano alcune fonti. xAI applica uno sconto del 20% alle richieste batch per i suoi modelli di testo idonei — al 2 novembre 2026: grok-4.7, grok-4.6, grok-4.5, grok-4.3 e le tre varianti grok-4.20-0309 — su tutti i tipi di token: input, output, cache e ragionamento. I modelli non presenti in questo elenco non ricevono alcuno sconto, anche se accettano richieste batch.

La generazione di immagini e video avviene in batch, ma ai prezzi standard. Non tutti i modelli accettano il batch: la pagina di ciascun modello indica se lo supporta e una richiesta inviata a un modello non idoneo viene rifiutata con il messaggio not supported for batch processing.

-20%
Token per modelli idonei
24h
Tempo di esecuzione tipico, non garantito
50K
Richieste per file
200 MB
Dimensione massima JSONL

Flusso di lavoro in quattro fasi

La Batch API segue uno schema semplice e prevedibile:

  1. Crea un batch denominato con POST /v1/batches
  2. Aggiungi le richieste, tramite chiamate successive o tutte insieme con un file JSONL
  3. Monitora l’avanzamento utilizzando i contatori del batch
  4. Recupera i risultati man mano che diventano disponibili o al termine

Questo flusso di lavoro disaccoppia l’invio dall’elaborazione: non devi mantenere una connessione aperta mentre Grok lavora. La maggior parte dei batch viene elaborata in meno di 24 ore, ma xAI non lo garantisce: i tempi di esecuzione variano in base al carico e alle dimensioni del batch.

Endpoint supportati

La Batch API non si limita al testo. Un singolo batch può mescolare richieste a:

  • /v1/responses — l’API Responses, con strumenti lato server (ricerca web, ricerca su X, esecuzione di codice, MCP)
  • /v1/chat/completions — l’API Chat Completions, un endpoint legacy presso xAI
  • /v1/images/generations e /v1/images/edits — generazione e modifica di immagini
  • /v1/videos/generations (o /v1/videos), /v1/videos/edits e /v1/videos/extensions — generazione, modifica ed estensione di video

Ad esempio, puoi scrivere descrizioni di prodotti e generare le relative immagini nello stesso batch.

Quando utilizzare la Batch API

La Batch API è ideale ogni volta che il risultato può attendere:

  • Elaborazione massiva di dati: classificazione, estrazione e riassunto di migliaia di documenti
  • Valutazioni: esecuzione di migliaia di prompt di test su un modello
  • Pipeline di dati: arricchimento di database, moderazione di un backlog di contenuti e report preparati durante la notte

Se il tuo caso d’uso richiede una risposta immediata (chatbot, assistente in tempo reale), la Batch API non è adatta: serve carichi di lavoro per cui un ritardo di alcune ore è accettabile.

Punti chiave

  • La Batch API elabora le richieste in modo asincrono, la maggior parte in meno di 24 ore, senza garanzia
  • Sconto del 20% su tutti i token per i modelli di testo idonei; immagini e video ai prezzi standard
  • Il flusso di lavoro prevede quattro fasi: crea, aggiungi, monitora, recupera
  • Testo, immagini e video possono coesistere nello stesso batch
  • Le richieste batch non contano verso i limiti di frequenza, ma non sono adatte al tempo reale