Prejsť na hlavný obsah
Slovenčina— Vyberte jazyk
Menu

Vytvorenie dávkovej úlohy, sledovanie stavu a stiahnutie výsledkov

Lekcia 3 z 16 Aktualizované 3. novembra 2026 Pokročilý
Na tejto strane
  1. Od súboru JSONL k výsledkom: Kompletný životný cyklus
  2. Vytvorenie dávkovej úlohy
  3. Stavy dávkovej úlohy
  4. Sledovanie priebehu
  5. Stiahnutie výsledkov
  6. Zoznam a správa tvojich úloh
  7. Komplexný pracovný postup
  8. Kľúčové poznatky

Aktualizované 3. novembra 2026: Doplnok k 3. novembru: files.download vracia HTTP odpoveď (httpx2.Response); jej obsah si prečítaj pomocou .read() pred volaním .decode(). Nahrávanie očakáva file={"file_name": …, "content": …}. API kľúč už nie je natvrdo zakódovaný.

Od súboru JSONL k výsledkom: Kompletný životný cyklus

Tvoj súbor JSONL je pripravený a nahraný, máš k dispozícii file_id. Ďalším krokom je transformácia tohto nečinného súboru na použiteľné výsledky: vytvor dávkovú úlohu (batch job), monitoruj jej priebeh počas minút alebo hodín potrebných na spracovanie a následne získaj a zosúlaď odpovede. Táto lekcia ťa prevedie kompletným kódom v Pythone presne v poradí, v akom ho napíšeš.

Vytvorenie dávkovej úlohy

Vytvorenie si vyžaduje jediný volanie. Určíš zdrojový súbor, model a cieľový koncový bod:

from mistralai.client import Mistral
import time

client = Mistral(api_key="your-api-key")

# Create the batch job
job = client.batch.jobs.create(
    input_files=[batch_file.id],   # ID of the uploaded file
    model="mistral-small-latest",
    endpoint="/v1/chat/completions",
    metadata={"project": "document-analysis", "version": "1.0"}
)

print(f"Job created: {job.id}")
print(f"Initial status: {job.status}")

Každý parameter si zaslúži poznámku:

  • input_files – Zoznam ID nahraných súborov. Do jednej úlohy môžeš odovzdať viacero súborov.
  • model – Model Mistral, ktorý sa má použiť. Na jednu dávkovú úlohu pripadá iba jeden model.
  • endpoint – Cieľový koncový bod API (musí zodpovedať formátu body v tvojom súbore JSONL).
  • metadata – Voliteľný slovník vlastných metadát na organizáciu a vyhľadávanie tvojich úloh.

Obmedzenie jedného modelu na úlohu určuje spôsob rozdelenia práce: ak chceš porovnať dva modely na rovnakom korpuse, odošli dve samostatné úlohy smerujúce na ten istý súbor. Čo sa týka metadát, môžu sa zdať nepodstatné, kým nemáš v histórii tridsať úloh; vyššie uvedený pár projekt/verzia ti potom umožní nájsť dávku, ktorá vyprodukovala sporné údaje, za tri sekundy.

Stavy dávkovej úlohy

Dávková úloha prechádza počas svojho životného cyklu niekoľkými stavmi:

StavPopis
QUEUEDZaradené do frontu, ešte nezačaté
RUNNINGPrebieha spracovanie
SUCCESSÚspešne dokončené
FAILEDSpracovanie zlyhalo
TIMEOUT_EXCEEDEDPrekročený časový limit vykonávania
CANCELLATION_REQUESTEDPožiadané o zrušenie
CANCELLEDZrušené

Štyri z týchto siedmich stavov sú konečné – SUCCESS, FAILED, TIMEOUT_EXCEEDED a CANCELLED – a toto rozlíšenie riadi slučku monitorovania: pokiaľ stav nie je v tejto množine, úloha stále beží a musíš čakať. CANCELLATION_REQUESTED nie je stav zastavenia, ale prechodný stav; kód, ktorý by ho považoval za konečný, by predčasne ukončil slučku.

Sledovanie priebehu

Nižšie uvedený vzor dotazovania (polling) presne encapsuluje túto logiku vrátane ochrany proti maximálnej dĺžke trvania, aby sa zabránilo zabudnutému skriptu bežať donekonečna:

def wait_for_batch(client, job_id, poll_interval=10, max_wait=3600):
    """Wait for a batch job to complete using polling."""
    elapsed = 0
    terminal_states = {"SUCCESS", "FAILED", "TIMEOUT_EXCEEDED", "CANCELLED"}

    while elapsed < max_wait:
        job = client.batch.jobs.get(job_id=job_id)
        print(f"[{elapsed}s] Status: {job.status}")

        if job.status in terminal_states:
            return job

        time.sleep(poll_interval)
        elapsed += poll_interval

    raise TimeoutError(f"Job {job_id} still running after {max_wait}s")

# Usage
completed_job = wait_for_batch(client, job.id)
print(f"Final result: {completed_job.status}")

Desaťsekundový interval funguje pre dávku trvajúcu niekoľko minút; pri nočnom behu spracúvajúcom niekoľko stotisíc riadkov ho zvýš na minútu alebo viac. Väčšia presnosť dotazovania tam nepridáva žiadnu hodnotu a len hromadí zbytočné volania API.

Stiahnutie výsledkov

Akonáhle stav dosiahne SUCCESS, úloha sprístupní output_file, ktorý si stiahneš a riadok po riadku spracuješ:

import json

if completed_job.status == "SUCCESS":
    # Get the output file ID
    output_file_id = completed_job.output_file

    # Download the content
    result_data = client.files.download(file_id=output_file_id)

    # Parse JSONL results
    results = {}
    for line in result_data.read().decode("utf-8").strip().split("\n"):
        entry = json.loads(line)
        custom_id = entry["custom_id"]
        response = entry["response"]
        results[custom_id] = response

    # Show an example
    for cid, resp in list(results.items())[:3]:
        content = resp["body"]["choices"][0]["message"]["content"]
        print(f"\n--- {cid} ---")
        print(content[:200])

Súbor s výsledkami je tiež vo formáte JSONL a každý riadok obsahuje pôvodné custom_id spolu s úplnou odpoveďou modelu. Tu sa zúročí úsilie o pomenovanie z predchádzajúcej lekcie: indexovanie podľa custom_id v slovníku stačí na zosúladenie odpovedí so zdrojovými dokumentmi bez ohľadu na poradie, v akom sa vrátia. Zobrazenie prvých troch položiek orezaných na 200 znakov je užitočná kontrola sanity predtým, než začneš zapisovať do svojej databázy.

Zoznam a správa tvojich úloh

Inventár úloh môžeš filtrovať podľa stavu, čo ti umožní kedykoľvek vidieť, čo sa práve deje na tvojom účte:

# List all currently running jobs
running_jobs = client.batch.jobs.list(status="RUNNING")
for j in running_jobs.data:
    print(f"Job {j.id} - Model: {j.model} - Created: {j.created_at}")

A keď sa úloha vlečie alebo po odoslaní objavíš chybu v prompte, zrušenie ti ušetrí platby za zbytočné spracovanie:

# Cancel a job that is taking too long
client.batch.jobs.cancel(job_id="job-abc123")

Zrušenie je asynchrónne: stav sa najprv zmení na CANCELLATION_REQUESTED a až po efektívnom zastavení na CANCELLED. Nepovažuj zdroj za uvoľnený okamžite po návrate z volania.

Komplexný pracovný postup

Tieto štyri kroky spolu tvoria krátky skript, ktorý môžeš priamo umiestniť do plánovača:

from mistralai.client import Mistral
import json
import os
import time

client = Mistral(api_key=os.environ["MISTRAL_API_KEY"])

# 1. Upload the file
with open("batch_requests.jsonl", "rb") as f:
    batch_file = client.files.upload(
        file={"file_name": "batch_requests.jsonl", "content": f},
        purpose="batch"
    )

# 2. Create the job
job = client.batch.jobs.create(
    input_files=[batch_file.id],
    model="mistral-small-latest",
    endpoint="/v1/chat/completions"
)

# 3. Wait for completion
completed = wait_for_batch(client, job.id)

# 4. Download and parse results
if completed.status == "SUCCESS":
    data = client.files.download(file_id=completed.output_file)
    for line in data.read().decode("utf-8").strip().split("\n"):
        entry = json.loads(line)
        print(f"{entry['custom_id']}: OK")
else:
    print(f"Batch failed: {completed.status}")

Túto kostru znovu využij na vlastnom korpuse len s desiatimi riadkami: celý reťazec overíš za pár minút predtým, než sa odhodláš na plný objem.

Kľúčové poznatky

  • Vytvor dávkovú úlohu pomocou client.batch.jobs.create() určením súboru, modelu a koncového bodu
  • Sedem možných stavov vrátane troch konečných: SUCCESS, FAILED, CANCELLED
  • Dotazovanie s intervalom je štandardný vzor na sledovanie priebehu
  • Výsledky sú vo formáte JSONL, prepojené s požiadavkami cez custom_id
  • Svoje úlohy môžeš kedykoľvek vypísať, preskúmať a zrušiť