Hoppa till huvudinnehåll
Svenska— Välj ett språk
Meny

Spårning, status och avbrytande

Lektion 11 av 12 Uppdaterad 2 november 2026 Utvecklare
På denna sida
  1. Hantera batchens livscykel
  2. Två statusnivåer
  3. Kontrollera räknare
  4. Lista dina batchar
  5. Hämta resultat
  6. Kontrollera metadata för förfrågningar
  7. Avbryt en batch
  8. Polling-strategi
  9. Viktiga punkter

Uppdaterat 2 november 2026 baserat på xAI:s dokumentation: rabatten för batch är 20 % på berättigade textmodeller (inte 50 %), exemplen följer REST API:t och den officiella xai-sdk (client.batch.*; xAI:s Batch API matchar inte OpenAI:s format, så OpenAI SDK gäller inte), och Responses API har företräde framför Chat Completions, som är en föråldrad slutpunkt hos xAI. Källor: Batch API · REST-referens · Batch-prissättning.

Hantera batchens livscykel

När du har skickat in dina förfrågningar måste du spåra bearbetningsframstegen, läsa av statusar och veta när och hur du avbryter en batch. Den här lektionen täcker alla tillgängliga hanteringsåtgärder.

Två statusnivåer

xAI spårar framsteg på två nivåer. Själva batchen har ingen global status som “slutförd” eller “misslyckad”: den bär på räknare i sitt state-objekt. Varje förfrågan har dock sin egen status:

FörfrågningsstatusBetydelseÅtgärd
pendingKöadVänta
succeededBearbetad, resultat tillgängligtHämta resultat
failedFel under bearbetningLäs meddelande, försök igen om det är meningsfullt
cancelledAvbruten, exempelvis tillsammans med sin batchSkicka in på nytt om nödvändigt

Batchen är helt bearbetad när dess räknare num_pending sjunker till noll. Den kan också avbrytas eller löpa ut: efter expire_time är resultaten inte längre tillgängliga.

Kontrollera räknare

Anropet GET /v1/batches/{batch_id} returnerar batchen och dess räknare:

curl "https://api.x.ai/v1/batches/$BATCH_ID" \
  -H "Authorization: Bearer $XAI_API_KEY"

Svaret innehåller:

{
  "batch_id": "batch_1934e8b5-f3dc-45f1-8329-9841b0aee9d8",
  "name": "analyse_avis_clients",
  "state": {
    "num_requests": 500,
    "num_pending": 155,
    "num_success": 342,
    "num_error": 3,
    "num_cancelled": 0
  }
}

Dessa räknare spårar framsteg i realtid utan att vänta på att bearbetningen ska avslutas. Med SDK:t läser du dem i client.batch.get(batch_id=...).state.

Lista dina batchar

För att hitta en batch eller kontrollera historiken:

curl "https://api.x.ai/v1/batches?limit=20" \
  -H "Authorization: Bearer $XAI_API_KEY"

Listan är paginerad med limit och pagination_token. Batchar finns kvar där tills de löper ut. Med SDK:t returnerar client.batch.list(limit=20) en batches-lista där varje element bär på sitt name, batch_id och state. xAI-konsolen erbjuder samma vy i visuell form.

Hämta resultat

Du kan hämta resultat när som helst, även under pågående bearbetning:

curl "https://api.x.ai/v1/batches/$BATCH_ID/results?limit=100" \
  -H "Authorization: Bearer $XAI_API_KEY"

Varje resultat bär på batch_request_id för sin förfrågan. Misslyckade förfrågningar visas här med sitt meddelande; med SDK:t separerar egenskaperna succeeded och failed på varje sida dem åt dig.

Kontrollera metadata för förfrågningar

För att spåra status för varje enskild förfrågan:

curl "https://api.x.ai/v1/batches/$BATCH_ID/requests?limit=50" \
  -H "Authorization: Bearer $XAI_API_KEY"

Varje post ger förfrågningsidentifieraren, dess slutpunkt, modell, status samt start- och slutdatum. Detta är ditt diagnostiska verktyg när en räknare stannar av, eller för att verifiera vad som lyckades läggas till.

Avbryt en batch

Om du behöver stoppa en pågående bearbetning:

curl -X POST "https://api.x.ai/v1/batches/$BATCH_ID:cancel" \
  -H "Authorization: Bearer $XAI_API_KEY"

Avbrytandet är slutgiltigt: väntande förfrågningar bearbetas inte, och du kan inte längre lägga till förfrågningar i batchen. Förfrågningar som redan bearbetats finns dock kvar i resultaten. Avbryt om:

  • Du upptäckt ett fel i dina förfrågningar efter inskickandet
  • Batchen inte längre behövs (prioritetsändring)
  • Du vill skicka in en korrigerad batch på nytt

Med SDK:t: client.batch.cancel(batch_id=...), vilket returnerar batchen och dess räknare vid tidpunkten för avbrytandet.

Polling-strategi

I produktion väntar du på slutförande med utspridd polling och en maximal fördröjning:

import time


def attendre_batch(client, batch_id, intervalle=300, delai_max=2 * 86400):
    """Wait until all requests in the batch are processed."""
    debut = time.monotonic()
    while time.monotonic() - debut < delai_max:
        batch = client.batch.get(batch_id=batch_id)
        etat = batch.state
        if batch.cancel_by_xai_message:
            raise RuntimeError(f"Canceled by xAI: {batch.cancel_by_xai_message}")
        if etat.num_requests > 0 and etat.num_pending == 0:
            return batch
        print(f"{etat.num_success} succeeded, {etat.num_error} failed, "
              f"{etat.num_pending} pending out of {etat.num_requests}")
        time.sleep(intervalle)
    raise TimeoutError(f"Batch not finished after {delai_max} s")

Ett intervall på några minuter passar stora batchar; xAI:s dokumentation pollar var few sekunder i sina exempel, vilket täcker små batchar. Och eftersom resultaten blir tillgängliga efter hand hindrar inget dig från att hämta dem under väntan.

Viktiga punkter

  • Läs av batchen via dess räknare (num_pending, num_success, num_error…); varje förfrågan har sin status: pending, succeeded, failed, cancelled
  • GET /v1/batches/{id} ger framsteg, /results ger resultaten, /requests ger detaljer om förfrågningar
  • Avbrytande (POST /v1/batches/{id}:cancel) är oåterkalleligt, men behåller redan producerade resultat
  • Listor och resultat pagineras med limit och pagination_token
  • Polla med intervall på några minuter, med en maximal fördröjning, och hämta innan expire_time