Teljes végponttól végpontig tartó folyamat
Ezen az oldalon
A tanfolyam frissítve: 2026. november 2. az xAI dokumentációja alapján: a kötegelt kedvezmény 20% a jogosult szöveges modellekre (nem 50%), a példák a REST API-t és a hivatalos
xai-sdk-t (client.batch.*) követik (az xAI Batch API-ja nem egyezik az OpenAI formátumával, így az OpenAI SDK nem alkalmazható), és a Responses API elsőbbséget élvez a Chat Completionshez képest, amely az xAI-nál már elavult végpont. Források: Batch API · REST hivatkozás · Batch árazás.
Az elemek összeillesztése
Az előző leckék minden lépést elkülönítve tárgyaltak. Ez a lecke egy teljes folyamattá állítja össze őket, az adatelőkészítéstől az eredmények feldolgozásáig. A végén egy olyan szkripttel fogsz rendelkezni, amelyet saját használati esetedhez igazíthatsz.
Teljes Python folyamat
import json
import time
from xai_sdk import Client
client = Client() # a kulcs az XAI_API_KEY változóból olvasható
# --- 1. lépés: adatok előkészítése ---
documents = [
{"id": f"doc-{i}", "text": f"Dokumentum tartalom {i}..."}
for i in range(100)
]
# --- 2. lépés: a JSONL fájl írása ---
with open("batch_requests.jsonl", "w", encoding="utf-8") as f:
for doc in documents:
ligne = {
"custom_id": doc["id"],
"method": "POST",
"url": "/v1/responses",
"body": {
"model": "grok-4.3",
"input": [
{"role": "system", "content": "Foglalja össze két mondatban."},
{"role": "user", "content": doc["text"]},
],
"max_output_tokens": 200,
},
}
f.write(json.dumps(ligne, ensure_ascii=False) + "\n")
# --- 3. lépés: a fájl feltöltése ---
with open("batch_requests.jsonl", "rb") as f:
fichier = client.files.upload(f, filename="batch_requests.jsonl")
# --- 4. lépés: a köteg létrehozása a fájlból (ez most már lezárt) ---
batch = client.batch.create(batch_name="resumes_documents", input_file_id=fichier.id)
print(f"Köteg létrehozva: {batch.batch_id}")
# --- 5. lépés: várakozás a feldolgozás befejezésére ---
while True:
batch = client.batch.get(batch_id=batch.batch_id)
etat = batch.state
if batch.cancel_by_xai_message:
raise RuntimeError(f"A köteget az xAI lemondta: {batch.cancel_by_xai_message}")
if etat.num_requests > 0 and etat.num_pending == 0:
break
print(f"{etat.num_success + etat.num_error}/{etat.num_requests} kérés feldolgozva")
time.sleep(300) # minden 5 percben
# --- 6. lépés: eredmények lekérése, lapról lapra ---
resultats, echecs = {}, []
jeton = None
while True:
page = client.batch.list_batch_results(
batch_id=batch.batch_id, limit=100, pagination_token=jeton
)
for r in page.succeeded:
resultats[r.batch_request_id] = r.response.content
echecs.extend(page.failed)
if page.pagination_token is None:
break
jeton = page.pagination_token
with open("batch_results.json", "w", encoding="utf-8") as f:
json.dump(resultats, f, ensure_ascii=False, indent=2)
print(f"{len(resultats)} eredmény, {len(echecs)} hiba")
print("Teljes költség: $%.4f" % (batch.cost_breakdown.total_cost_usd_ticks / 1e10))
Három részlet számít. A leállási feltételhez szükséges a num_requests > 0, mert a fájlból létrehozott köteget a háttérben olvassa be a rendszer: közvetlenül a létrehozás után a számlálói még mind nullák lehetnek. A cancel_by_xai_message mező jelzi az xAI általi lemondást, például egy érvénytelen sor miatt. A költséget pedig tick-ekben fejezik ki, ami a dollár tízmilliárdod része.
Lépésről lépésre cURL folyamat
Ha inkább a parancssort preferálod, itt van a cURL megfelelője (a jq használatával a válaszok olvasásához):
# 1. A JSONL fájl feltöltése
FILE_ID=$(curl -s -X POST https://api.x.ai/v1/files \
-H "Authorization: Bearer $XAI_API_KEY" \
-F file="@batch_requests.jsonl" | jq -r '.id')
echo "Fájl: $FILE_ID"
# 2. A köteg létrehozása a fájlból
BATCH_ID=$(curl -s -X POST https://api.x.ai/v1/batches \
-H "Authorization: Bearer $XAI_API_KEY" \
-H "Content-Type: application/json" \
-d "{\"name\": \"resumes_documents\", \"input_file_id\": \"$FILE_ID\"}" | jq -r '.batch_id')
echo "Köteg: $BATCH_ID"
# 3. Számlálók olvasása
curl -s "https://api.x.ai/v1/batches/$BATCH_ID" \
-H "Authorization: Bearer $XAI_API_KEY" | jq '.state'
# 4. Az eredmények első lapjának lekérése
curl -s "https://api.x.ai/v1/batches/$BATCH_ID/results?limit=100" \
-H "Authorization: Bearer $XAI_API_KEY" > results-page-1.json
A további lapokat úgy érheted el, hogy hozzáadod az &pagination_token=… paramétert az előző lap által visszaadott értékkel.
Hibakezelés éles környezetben
Egy robusztus folyamat három hibacsaládot különböztet meg:
Beküldési hibák: a fájlfeltöltés vagy a köteg létrehozása meghiúsul. Az átmeneti hibákat (időtúllépés, sebességkorlátozás, szerverhiba) növekvő késleltetéssel próbáld újra: 1 s, 2 s, 4 s, 8 s.
Feldolgozási hibák: egyes kérések meghiúsulnak a kötegen belül. Ezek a page.failed listában jelennek meg a hozzájuk tartozó üzenettel; csak ezeket küldd be újra egy új kötegben.
Időtúllépés és lejárat: a 24 órás időablak tájékoztató jellegű, nem garantált. Ami könyörtelen, az a lejárat (expire_time): e pont után az eredmények már nem elérhetők. Érdemes őket menet közben lekérni és elmenteni, nem pedig mindet egyszerre a végén.
# Sikertelen kérések: azonosítsd őket, hogy egy új kötegben újra beküldhesd
for r in echecs:
print(f"Hiba: {r.batch_request_id} — {r.error_message}")
a_relancer = {r.batch_request_id for r in echecs}
Költségoptimalizálás
A megtakarítás négy emelőn keresztül halmozódik fel. A modellválasztás az első, messze a leghatékonyabb: a 2026. november 2-i szabványos díjszabás szerint a grok-4.3 millió bemeneti tokenenként 1,25 $, kimeneti tokenenként pedig 2,50 $, míg a grok-4.7 esetén ez 2 $ és 6 $ (200 000 token alatti promptoknál). Osztályozáshoz vagy rövid kinyeréshez gyakran elegendő a könnyebb modell, és a 20%-os kötegelt kedvezmény mindkettőre vonatkozik. A válasz hossza következik next: a max_output_tokens megakadályozza, hogy feleslegesen hosszú kimenetekért fizess; osztályozáshoz néhány token is elég. Promptok: tíz token eltávolítása egy 50 000-szer ismételt promptból 500 000 bemeneti tokent spórol meg. Végül a gyorsítótár: az xAI automatikusan gyorsítótárazza az azonos kérések elejét, és a kötegelt kedvezmény a gyorsítótárból szolgáló tokenekre is vonatkozik; ezért helyezd a közös utasításokat minden kérés elejére, még a változó rész elé.
Főbb megállapítások
- Egy teljes folyamat hat lépést fed le: előkészítés, JSONL, feltöltés, létrehozás, monitorozás, lekérés
- A fájlból származó köteget a háttérben olvassa be a rendszer: várd meg, amíg
num_requests > 0, mielőtt befejezettnek nyilvánítanád - Kezeld a három hibacsaládot: beküldési, feldolgozási, időtúllépési és lejárati hibák
- Az eredményeket menet közben kérd le és mentsd el, még az
expire_timeelőtt - A modellválasztás, a kimenet hossza, a rövid promptok és a közös előtagok maximalizálják a megtakarítást