Ugrás a főtartalomra
Magyar— Nyelv kiválasztása
Menü

Teljes végponttól végpontig tartó folyamat

7. lecke 12 közül Frissítve 2026. november 2. Fejlesztő
Ezen az oldalon
  1. Az elemek összeillesztése
  2. Teljes Python folyamat
  3. Lépésről lépésre cURL folyamat
  4. Hibakezelés éles környezetben
  5. Költségoptimalizálás
  6. Főbb megállapítások

A tanfolyam frissítve: 2026. november 2. az xAI dokumentációja alapján: a kötegelt kedvezmény 20% a jogosult szöveges modellekre (nem 50%), a példák a REST API-t és a hivatalos xai-sdk-t (client.batch.*) követik (az xAI Batch API-ja nem egyezik az OpenAI formátumával, így az OpenAI SDK nem alkalmazható), és a Responses API elsőbbséget élvez a Chat Completionshez képest, amely az xAI-nál már elavult végpont. Források: Batch API · REST hivatkozás · Batch árazás.

Az elemek összeillesztése

Az előző leckék minden lépést elkülönítve tárgyaltak. Ez a lecke egy teljes folyamattá állítja össze őket, az adatelőkészítéstől az eredmények feldolgozásáig. A végén egy olyan szkripttel fogsz rendelkezni, amelyet saját használati esetedhez igazíthatsz.

Teljes Python folyamat

import json
import time

from xai_sdk import Client

client = Client()  # a kulcs az XAI_API_KEY változóból olvasható

# --- 1. lépés: adatok előkészítése ---
documents = [
    {"id": f"doc-{i}", "text": f"Dokumentum tartalom {i}..."}
    for i in range(100)
]

# --- 2. lépés: a JSONL fájl írása ---
with open("batch_requests.jsonl", "w", encoding="utf-8") as f:
    for doc in documents:
        ligne = {
            "custom_id": doc["id"],
            "method": "POST",
            "url": "/v1/responses",
            "body": {
                "model": "grok-4.3",
                "input": [
                    {"role": "system", "content": "Foglalja össze két mondatban."},
                    {"role": "user", "content": doc["text"]},
                ],
                "max_output_tokens": 200,
            },
        }
        f.write(json.dumps(ligne, ensure_ascii=False) + "\n")

# --- 3. lépés: a fájl feltöltése ---
with open("batch_requests.jsonl", "rb") as f:
    fichier = client.files.upload(f, filename="batch_requests.jsonl")

# --- 4. lépés: a köteg létrehozása a fájlból (ez most már lezárt) ---
batch = client.batch.create(batch_name="resumes_documents", input_file_id=fichier.id)
print(f"Köteg létrehozva: {batch.batch_id}")

# --- 5. lépés: várakozás a feldolgozás befejezésére ---
while True:
    batch = client.batch.get(batch_id=batch.batch_id)
    etat = batch.state
    if batch.cancel_by_xai_message:
        raise RuntimeError(f"A köteget az xAI lemondta: {batch.cancel_by_xai_message}")
    if etat.num_requests > 0 and etat.num_pending == 0:
        break
    print(f"{etat.num_success + etat.num_error}/{etat.num_requests} kérés feldolgozva")
    time.sleep(300)  # minden 5 percben

# --- 6. lépés: eredmények lekérése, lapról lapra ---
resultats, echecs = {}, []
jeton = None
while True:
    page = client.batch.list_batch_results(
        batch_id=batch.batch_id, limit=100, pagination_token=jeton
    )
    for r in page.succeeded:
        resultats[r.batch_request_id] = r.response.content
    echecs.extend(page.failed)
    if page.pagination_token is None:
        break
    jeton = page.pagination_token

with open("batch_results.json", "w", encoding="utf-8") as f:
    json.dump(resultats, f, ensure_ascii=False, indent=2)

print(f"{len(resultats)} eredmény, {len(echecs)} hiba")
print("Teljes költség: $%.4f" % (batch.cost_breakdown.total_cost_usd_ticks / 1e10))

Három részlet számít. A leállási feltételhez szükséges a num_requests > 0, mert a fájlból létrehozott köteget a háttérben olvassa be a rendszer: közvetlenül a létrehozás után a számlálói még mind nullák lehetnek. A cancel_by_xai_message mező jelzi az xAI általi lemondást, például egy érvénytelen sor miatt. A költséget pedig tick-ekben fejezik ki, ami a dollár tízmilliárdod része.

Lépésről lépésre cURL folyamat

Ha inkább a parancssort preferálod, itt van a cURL megfelelője (a jq használatával a válaszok olvasásához):

# 1. A JSONL fájl feltöltése
FILE_ID=$(curl -s -X POST https://api.x.ai/v1/files \
  -H "Authorization: Bearer $XAI_API_KEY" \
  -F file="@batch_requests.jsonl" | jq -r '.id')
echo "Fájl: $FILE_ID"

# 2. A köteg létrehozása a fájlból
BATCH_ID=$(curl -s -X POST https://api.x.ai/v1/batches \
  -H "Authorization: Bearer $XAI_API_KEY" \
  -H "Content-Type: application/json" \
  -d "{\"name\": \"resumes_documents\", \"input_file_id\": \"$FILE_ID\"}" | jq -r '.batch_id')
echo "Köteg: $BATCH_ID"

# 3. Számlálók olvasása
curl -s "https://api.x.ai/v1/batches/$BATCH_ID" \
  -H "Authorization: Bearer $XAI_API_KEY" | jq '.state'

# 4. Az eredmények első lapjának lekérése
curl -s "https://api.x.ai/v1/batches/$BATCH_ID/results?limit=100" \
  -H "Authorization: Bearer $XAI_API_KEY" > results-page-1.json

A további lapokat úgy érheted el, hogy hozzáadod az &pagination_token=… paramétert az előző lap által visszaadott értékkel.

Hibakezelés éles környezetben

Egy robusztus folyamat három hibacsaládot különböztet meg:

Beküldési hibák: a fájlfeltöltés vagy a köteg létrehozása meghiúsul. Az átmeneti hibákat (időtúllépés, sebességkorlátozás, szerverhiba) növekvő késleltetéssel próbáld újra: 1 s, 2 s, 4 s, 8 s.

Feldolgozási hibák: egyes kérések meghiúsulnak a kötegen belül. Ezek a page.failed listában jelennek meg a hozzájuk tartozó üzenettel; csak ezeket küldd be újra egy új kötegben.

Időtúllépés és lejárat: a 24 órás időablak tájékoztató jellegű, nem garantált. Ami könyörtelen, az a lejárat (expire_time): e pont után az eredmények már nem elérhetők. Érdemes őket menet közben lekérni és elmenteni, nem pedig mindet egyszerre a végén.

# Sikertelen kérések: azonosítsd őket, hogy egy új kötegben újra beküldhesd
for r in echecs:
    print(f"Hiba: {r.batch_request_id} — {r.error_message}")
a_relancer = {r.batch_request_id for r in echecs}

Költségoptimalizálás

A megtakarítás négy emelőn keresztül halmozódik fel. A modellválasztás az első, messze a leghatékonyabb: a 2026. november 2-i szabványos díjszabás szerint a grok-4.3 millió bemeneti tokenenként 1,25 $, kimeneti tokenenként pedig 2,50 $, míg a grok-4.7 esetén ez 2 $ és 6 $ (200 000 token alatti promptoknál). Osztályozáshoz vagy rövid kinyeréshez gyakran elegendő a könnyebb modell, és a 20%-os kötegelt kedvezmény mindkettőre vonatkozik. A válasz hossza következik next: a max_output_tokens megakadályozza, hogy feleslegesen hosszú kimenetekért fizess; osztályozáshoz néhány token is elég. Promptok: tíz token eltávolítása egy 50 000-szer ismételt promptból 500 000 bemeneti tokent spórol meg. Végül a gyorsítótár: az xAI automatikusan gyorsítótárazza az azonos kérések elejét, és a kötegelt kedvezmény a gyorsítótárból szolgáló tokenekre is vonatkozik; ezért helyezd a közös utasításokat minden kérés elejére, még a változó rész elé.

Főbb megállapítások

  • Egy teljes folyamat hat lépést fed le: előkészítés, JSONL, feltöltés, létrehozás, monitorozás, lekérés
  • A fájlból származó köteget a háttérben olvassa be a rendszer: várd meg, amíg num_requests > 0, mielőtt befejezettnek nyilvánítanád
  • Kezeld a három hibacsaládot: beküldési, feldolgozási, időtúllépési és lejárati hibák
  • Az eredményeket menet közben kérd le és mentsd el, még az expire_time előtt
  • A modellválasztás, a kimenet hossza, a rövid promptok és a közös előtagok maximalizálják a megtakarítást