Spårning, status och avbrytande
På denna sida
Uppdaterat 2 november 2026 baserat på xAI:s dokumentation: rabatten för batch är 20 % på berättigade textmodeller (inte 50 %), exemplen följer REST API:t och den officiella
xai-sdk(client.batch.*; xAI:s Batch API matchar inte OpenAI:s format, så OpenAI SDK gäller inte), och Responses API har företräde framför Chat Completions, som är en föråldrad slutpunkt hos xAI. Källor: Batch API · REST-referens · Batch-prissättning.
Hantera batchens livscykel
När du har skickat in dina förfrågningar måste du spåra bearbetningsframstegen, läsa av statusar och veta när och hur du avbryter en batch. Den här lektionen täcker alla tillgängliga hanteringsåtgärder.
Två statusnivåer
xAI spårar framsteg på två nivåer. Själva batchen har ingen global status som “slutförd” eller “misslyckad”: den bär på räknare i sitt state-objekt. Varje förfrågan har dock sin egen status:
| Förfrågningsstatus | Betydelse | Åtgärd |
|---|---|---|
pending | Köad | Vänta |
succeeded | Bearbetad, resultat tillgängligt | Hämta resultat |
failed | Fel under bearbetning | Läs meddelande, försök igen om det är meningsfullt |
cancelled | Avbruten, exempelvis tillsammans med sin batch | Skicka in på nytt om nödvändigt |
Batchen är helt bearbetad när dess räknare num_pending sjunker till noll. Den kan också avbrytas eller löpa ut: efter expire_time är resultaten inte längre tillgängliga.
Kontrollera räknare
Anropet GET /v1/batches/{batch_id} returnerar batchen och dess räknare:
curl "https://api.x.ai/v1/batches/$BATCH_ID" \
-H "Authorization: Bearer $XAI_API_KEY"
Svaret innehåller:
{
"batch_id": "batch_1934e8b5-f3dc-45f1-8329-9841b0aee9d8",
"name": "analyse_avis_clients",
"state": {
"num_requests": 500,
"num_pending": 155,
"num_success": 342,
"num_error": 3,
"num_cancelled": 0
}
}
Dessa räknare spårar framsteg i realtid utan att vänta på att bearbetningen ska avslutas. Med SDK:t läser du dem i client.batch.get(batch_id=...).state.
Lista dina batchar
För att hitta en batch eller kontrollera historiken:
curl "https://api.x.ai/v1/batches?limit=20" \
-H "Authorization: Bearer $XAI_API_KEY"
Listan är paginerad med limit och pagination_token. Batchar finns kvar där tills de löper ut. Med SDK:t returnerar client.batch.list(limit=20) en batches-lista där varje element bär på sitt name, batch_id och state. xAI-konsolen erbjuder samma vy i visuell form.
Hämta resultat
Du kan hämta resultat när som helst, även under pågående bearbetning:
curl "https://api.x.ai/v1/batches/$BATCH_ID/results?limit=100" \
-H "Authorization: Bearer $XAI_API_KEY"
Varje resultat bär på batch_request_id för sin förfrågan. Misslyckade förfrågningar visas här med sitt meddelande; med SDK:t separerar egenskaperna succeeded och failed på varje sida dem åt dig.
Kontrollera metadata för förfrågningar
För att spåra status för varje enskild förfrågan:
curl "https://api.x.ai/v1/batches/$BATCH_ID/requests?limit=50" \
-H "Authorization: Bearer $XAI_API_KEY"
Varje post ger förfrågningsidentifieraren, dess slutpunkt, modell, status samt start- och slutdatum. Detta är ditt diagnostiska verktyg när en räknare stannar av, eller för att verifiera vad som lyckades läggas till.
Avbryt en batch
Om du behöver stoppa en pågående bearbetning:
curl -X POST "https://api.x.ai/v1/batches/$BATCH_ID:cancel" \
-H "Authorization: Bearer $XAI_API_KEY"
Avbrytandet är slutgiltigt: väntande förfrågningar bearbetas inte, och du kan inte längre lägga till förfrågningar i batchen. Förfrågningar som redan bearbetats finns dock kvar i resultaten. Avbryt om:
- Du upptäckt ett fel i dina förfrågningar efter inskickandet
- Batchen inte längre behövs (prioritetsändring)
- Du vill skicka in en korrigerad batch på nytt
Med SDK:t: client.batch.cancel(batch_id=...), vilket returnerar batchen och dess räknare vid tidpunkten för avbrytandet.
Polling-strategi
I produktion väntar du på slutförande med utspridd polling och en maximal fördröjning:
import time
def attendre_batch(client, batch_id, intervalle=300, delai_max=2 * 86400):
"""Wait until all requests in the batch are processed."""
debut = time.monotonic()
while time.monotonic() - debut < delai_max:
batch = client.batch.get(batch_id=batch_id)
etat = batch.state
if batch.cancel_by_xai_message:
raise RuntimeError(f"Canceled by xAI: {batch.cancel_by_xai_message}")
if etat.num_requests > 0 and etat.num_pending == 0:
return batch
print(f"{etat.num_success} succeeded, {etat.num_error} failed, "
f"{etat.num_pending} pending out of {etat.num_requests}")
time.sleep(intervalle)
raise TimeoutError(f"Batch not finished after {delai_max} s")
Ett intervall på några minuter passar stora batchar; xAI:s dokumentation pollar var few sekunder i sina exempel, vilket täcker små batchar. Och eftersom resultaten blir tillgängliga efter hand hindrar inget dig från att hämta dem under väntan.
Viktiga punkter
- Läs av batchen via dess räknare (
num_pending,num_success,num_error…); varje förfrågan har sin status:pending,succeeded,failed,cancelled GET /v1/batches/{id}ger framsteg,/resultsger resultaten,/requestsger detaljer om förfrågningar- Avbrytande (
POST /v1/batches/{id}:cancel) är oåterkalleligt, men behåller redan producerade resultat - Listor och resultat pagineras med
limitochpagination_token - Polla med intervall på några minuter, med en maximal fördröjning, och hämta innan
expire_time