Completazioni Chat e Risposte in batch
In questa pagina
Aggiornato il 3 novembre 2026. In base alle best practice di xAI: si raccomanda un valore di
temperaturepari a 0,7 e ditop_ppari a 0,95, piuttosto che una temperatura bassa. Fonte: Best practices.
Aggiornato il 2 novembre 2026. In base alla documentazione di xAI: lo sconto per i batch è del 20% sui modelli di testo idonei (non del 50%); gli esempi seguono le API REST e l’
xai-sdkufficiale (client.batch.*; le API Batch di xAI non utilizzano il formato OpenAI, quindi l’SDK OpenAI non si applica) e le API Responses hanno la priorità rispetto alle Chat Completions, un endpoint legacy presso xAI. Fonti: Batch API · Riferimento REST · Prezzi Batch.
I due endpoint di testo in modalità batch
Gli endpoint /v1/responses e /v1/chat/completions gestiscono la maggior parte dei batch di testo. Sui modelli idonei, entrambi beneficiano dello sconto del 20%. Tuttavia, xAI non li considera allo stesso livello: Responses è l’API raccomandata, mentre Chat Completions è un endpoint legacy mantenuto per il codice esistente. Questa lezione ne dettaglia le specificità in un contesto batch.
Risposte in un batch
In modalità batch, le API Responses accettano gli stessi parametri della modalità sincrona; cambia solo l’inviluppo JSONL:
{"custom_id": "sum-1", "method": "POST", "url": "/v1/responses", "body": {"model": "grok-4.3", "instructions": "You are a summarization expert.", "input": "Summarize this financial report in five key points: ...", "temperature": 0.3, "max_output_tokens": 500}}
Questo fornisce accesso agli strumenti server di Grok: ricerca web, ricerca su X, esecuzione di codice, MCP, eseguiti durante l’elaborazione del batch:
{"custom_id": "research-1", "method": "POST", "url": "/v1/responses", "body": {"model": "grok-4.3", "input": [{"role": "user", "content": "What are the latest trends in generative AI?"}], "tools": [{"type": "web_search"}]}}
Casi d’uso tipici
- Classificazione del testo (sentiment, categoria, urgenza)
- Estrazione strutturata di informazioni (entità, date, importi)
- Riassunti, riformulazioni e traduzioni su larga scala
- Arricchimento dei dati tramite ricerca web
Completamenti Chat in un batch
Le Chat Completions rimangono accettate, con il loro formato messages:
{"custom_id": "sum-2", "method": "POST", "url": "/v1/chat/completions", "body": {"model": "grok-4.3", "messages": [{"role": "system", "content": "You are a summarization expert."}, {"role": "user", "content": "Summarize this financial report in five key points: ..."}], "temperature": 0.3, "max_completion_tokens": 500}}
Il limite di lunghezza si chiama max_completion_tokens; il vecchio max_tokens è deprecato. Riserva questo endpoint alle richieste provenienti da codice già scritto per esso: le nuove funzionalità arrivano prima su Responses.
Differenze in batch
| Funzionalità | Responses | Chat Completions |
|---|---|---|
| Stato presso xAI | Consigliato | Legacy |
| Formato di input | input (testo o elenco messaggi), instructions | messages |
| Strumenti server | Sì (web, X, codice, MCP) | Non documentato |
| Chiamata di funzioni | Sì | Sì |
| Output strutturati | text.format | response_format |
| Limite di output | max_output_tokens | max_completion_tokens |
| Sconto batch (modelli idonei) | 20% | 20% |
Parametri avanzati comuni
temperature varia da 0 a 2 presso xAI, con valori superiori a 1 campionati come 1. Tuttavia, le best practice di xAI raccomandano di impostarlo a 0,7, con top_p a 0,95, e di non discostarsi troppo da questi valori: la coerenza del batch deriva innanzitutto da istruzioni precise e output strutturati.
Il limite di output (max_output_tokens o max_completion_tokens) deve essere impostato esplicitamente: senza di esso, una richiesta può produrre una risposta molto lunga e consumare token inutilmente. Si applica solo al testo visibile, non ai token di ragionamento.
Gli output strutturati impongono uno schema JSON alla risposta, rendendo i risultati utilizzabili a livello di programma senza parsing fragili. Con Responses, lo schema va in text.format:
{"custom_id": "classify-1", "method": "POST", "url": "/v1/responses", "body": {"model": "grok-4.3", "input": "Classify this comment: « Delivery fast, product as described. »", "text": {"format": {"type": "json_schema", "name": "classification", "schema": {"type": "object", "properties": {"sentiment": {"type": "string", "enum": ["positive", "neutral", "negative"]}}, "required": ["sentiment"], "additionalProperties": false}, "strict": true}}}}
Con Chat Completions, l’equivalente è response_format, di tipo json_schema (o json_object per un JSON valido senza uno schema imposto).
Combinare i due endpoint
Puoi combinare Responses e Chat Completions nello stesso batch, con ogni riga che designa il proprio endpoint nel campo url:
{"custom_id": "simple-1", "method": "POST", "url": "/v1/chat/completions", "body": {"model": "grok-4.3", "messages": [{"role": "user", "content": "Summarize in one sentence: ..."}]}}
{"custom_id": "search-1", "method": "POST", "url": "/v1/responses", "body": {"model": "grok-4.3", "input": "AI news this week", "tools": [{"type": "web_search"}]}}
Questa flessibilità consente alle vecchie richieste Chat Completions e alle nuove richieste Responses di coesistere durante una migrazione.
Punti chiave
- Responses è l’endpoint consigliato, Chat Completions è un endpoint legacy; entrambi beneficiano dello sconto del 20% sui modelli idonei
- Responses è necessario per gli strumenti server (web, X, codice, MCP)
- Imposta
temperaturea 0,7 etop_pa 0,95, come raccomanda xAI, e un limite di output appropriato - Gli output strutturati passano attraverso
text.format(Responses) oresponse_format(Chat Completions) - Entrambi gli endpoint possono coesistere nello stesso batch