Vai al contenuto principale
Italiano— Scegli una lingua
Menu

Completazioni Chat e Risposte in batch

Lezione 8 di 12 Aggiornata il 3 novembre 2026 Sviluppatore
In questa pagina
  1. I due endpoint di testo in modalità batch
  2. Risposte in un batch
  3. Completamenti Chat in un batch
  4. Differenze in batch
  5. Parametri avanzati comuni
  6. Combinare i due endpoint
  7. Punti chiave

Aggiornato il 3 novembre 2026. In base alle best practice di xAI: si raccomanda un valore di temperature pari a 0,7 e di top_p pari a 0,95, piuttosto che una temperatura bassa. Fonte: Best practices.

Aggiornato il 2 novembre 2026. In base alla documentazione di xAI: lo sconto per i batch è del 20% sui modelli di testo idonei (non del 50%); gli esempi seguono le API REST e l’xai-sdk ufficiale (client.batch.*; le API Batch di xAI non utilizzano il formato OpenAI, quindi l’SDK OpenAI non si applica) e le API Responses hanno la priorità rispetto alle Chat Completions, un endpoint legacy presso xAI. Fonti: Batch API · Riferimento REST · Prezzi Batch.

I due endpoint di testo in modalità batch

Gli endpoint /v1/responses e /v1/chat/completions gestiscono la maggior parte dei batch di testo. Sui modelli idonei, entrambi beneficiano dello sconto del 20%. Tuttavia, xAI non li considera allo stesso livello: Responses è l’API raccomandata, mentre Chat Completions è un endpoint legacy mantenuto per il codice esistente. Questa lezione ne dettaglia le specificità in un contesto batch.

Risposte in un batch

In modalità batch, le API Responses accettano gli stessi parametri della modalità sincrona; cambia solo l’inviluppo JSONL:

{"custom_id": "sum-1", "method": "POST", "url": "/v1/responses", "body": {"model": "grok-4.3", "instructions": "You are a summarization expert.", "input": "Summarize this financial report in five key points: ...", "temperature": 0.3, "max_output_tokens": 500}}

Questo fornisce accesso agli strumenti server di Grok: ricerca web, ricerca su X, esecuzione di codice, MCP, eseguiti durante l’elaborazione del batch:

{"custom_id": "research-1", "method": "POST", "url": "/v1/responses", "body": {"model": "grok-4.3", "input": [{"role": "user", "content": "What are the latest trends in generative AI?"}], "tools": [{"type": "web_search"}]}}

Casi d’uso tipici

  • Classificazione del testo (sentiment, categoria, urgenza)
  • Estrazione strutturata di informazioni (entità, date, importi)
  • Riassunti, riformulazioni e traduzioni su larga scala
  • Arricchimento dei dati tramite ricerca web

Completamenti Chat in un batch

Le Chat Completions rimangono accettate, con il loro formato messages:

{"custom_id": "sum-2", "method": "POST", "url": "/v1/chat/completions", "body": {"model": "grok-4.3", "messages": [{"role": "system", "content": "You are a summarization expert."}, {"role": "user", "content": "Summarize this financial report in five key points: ..."}], "temperature": 0.3, "max_completion_tokens": 500}}

Il limite di lunghezza si chiama max_completion_tokens; il vecchio max_tokens è deprecato. Riserva questo endpoint alle richieste provenienti da codice già scritto per esso: le nuove funzionalità arrivano prima su Responses.

Differenze in batch

FunzionalitàResponsesChat Completions
Stato presso xAIConsigliatoLegacy
Formato di inputinput (testo o elenco messaggi), instructionsmessages
Strumenti serverSì (web, X, codice, MCP)Non documentato
Chiamata di funzioniSìSì
Output strutturatitext.formatresponse_format
Limite di outputmax_output_tokensmax_completion_tokens
Sconto batch (modelli idonei)20%20%

Parametri avanzati comuni

temperature varia da 0 a 2 presso xAI, con valori superiori a 1 campionati come 1. Tuttavia, le best practice di xAI raccomandano di impostarlo a 0,7, con top_p a 0,95, e di non discostarsi troppo da questi valori: la coerenza del batch deriva innanzitutto da istruzioni precise e output strutturati.

Il limite di output (max_output_tokens o max_completion_tokens) deve essere impostato esplicitamente: senza di esso, una richiesta può produrre una risposta molto lunga e consumare token inutilmente. Si applica solo al testo visibile, non ai token di ragionamento.

Gli output strutturati impongono uno schema JSON alla risposta, rendendo i risultati utilizzabili a livello di programma senza parsing fragili. Con Responses, lo schema va in text.format:

{"custom_id": "classify-1", "method": "POST", "url": "/v1/responses", "body": {"model": "grok-4.3", "input": "Classify this comment: « Delivery fast, product as described. »", "text": {"format": {"type": "json_schema", "name": "classification", "schema": {"type": "object", "properties": {"sentiment": {"type": "string", "enum": ["positive", "neutral", "negative"]}}, "required": ["sentiment"], "additionalProperties": false}, "strict": true}}}}

Con Chat Completions, l’equivalente è response_format, di tipo json_schema (o json_object per un JSON valido senza uno schema imposto).

Combinare i due endpoint

Puoi combinare Responses e Chat Completions nello stesso batch, con ogni riga che designa il proprio endpoint nel campo url:

{"custom_id": "simple-1", "method": "POST", "url": "/v1/chat/completions", "body": {"model": "grok-4.3", "messages": [{"role": "user", "content": "Summarize in one sentence: ..."}]}}
{"custom_id": "search-1", "method": "POST", "url": "/v1/responses", "body": {"model": "grok-4.3", "input": "AI news this week", "tools": [{"type": "web_search"}]}}

Questa flessibilità consente alle vecchie richieste Chat Completions e alle nuove richieste Responses di coesistere durante una migrazione.

Punti chiave

  • Responses è l’endpoint consigliato, Chat Completions è un endpoint legacy; entrambi beneficiano dello sconto del 20% sui modelli idonei
  • Responses è necessario per gli strumenti server (web, X, codice, MCP)
  • Imposta temperature a 0,7 e top_p a 0,95, come raccomanda xAI, e un limite di output appropriato
  • Gli output strutturati passano attraverso text.format (Responses) o response_format (Chat Completions)
  • Entrambi gli endpoint possono coesistere nello stesso batch