Vytvorenie dávkovej úlohy, sledovanie stavu a stiahnutie výsledkov
Na tejto strane
Aktualizované 3. novembra 2026: Doplnok k 3. novembru:
files.downloadvracia HTTP odpoveď (httpx2.Response); jej obsah si prečítaj pomocou.read()pred volaním.decode(). Nahrávanie očakávafile={"file_name": …, "content": …}. API kľúč už nie je natvrdo zakódovaný.
Od súboru JSONL k výsledkom: Kompletný životný cyklus
Tvoj súbor JSONL je pripravený a nahraný, máš k dispozícii file_id. Ďalším krokom je transformácia tohto nečinného súboru na použiteľné výsledky: vytvor dávkovú úlohu (batch job), monitoruj jej priebeh počas minút alebo hodín potrebných na spracovanie a následne získaj a zosúlaď odpovede. Táto lekcia ťa prevedie kompletným kódom v Pythone presne v poradí, v akom ho napíšeš.
Vytvorenie dávkovej úlohy
Vytvorenie si vyžaduje jediný volanie. Určíš zdrojový súbor, model a cieľový koncový bod:
from mistralai.client import Mistral
import time
client = Mistral(api_key="your-api-key")
# Create the batch job
job = client.batch.jobs.create(
input_files=[batch_file.id], # ID of the uploaded file
model="mistral-small-latest",
endpoint="/v1/chat/completions",
metadata={"project": "document-analysis", "version": "1.0"}
)
print(f"Job created: {job.id}")
print(f"Initial status: {job.status}")
Každý parameter si zaslúži poznámku:
input_files– Zoznam ID nahraných súborov. Do jednej úlohy môžeš odovzdať viacero súborov.model– Model Mistral, ktorý sa má použiť. Na jednu dávkovú úlohu pripadá iba jeden model.endpoint– Cieľový koncový bod API (musí zodpovedať formátubodyv tvojom súbore JSONL).metadata– Voliteľný slovník vlastných metadát na organizáciu a vyhľadávanie tvojich úloh.
Obmedzenie jedného modelu na úlohu určuje spôsob rozdelenia práce: ak chceš porovnať dva modely na rovnakom korpuse, odošli dve samostatné úlohy smerujúce na ten istý súbor. Čo sa týka metadát, môžu sa zdať nepodstatné, kým nemáš v histórii tridsať úloh; vyššie uvedený pár projekt/verzia ti potom umožní nájsť dávku, ktorá vyprodukovala sporné údaje, za tri sekundy.
Stavy dávkovej úlohy
Dávková úloha prechádza počas svojho životného cyklu niekoľkými stavmi:
| Stav | Popis |
|---|---|
QUEUED | Zaradené do frontu, ešte nezačaté |
RUNNING | Prebieha spracovanie |
SUCCESS | Úspešne dokončené |
FAILED | Spracovanie zlyhalo |
TIMEOUT_EXCEEDED | Prekročený časový limit vykonávania |
CANCELLATION_REQUESTED | Požiadané o zrušenie |
CANCELLED | Zrušené |
Štyri z týchto siedmich stavov sú konečné – SUCCESS, FAILED, TIMEOUT_EXCEEDED a CANCELLED – a toto rozlíšenie riadi slučku monitorovania: pokiaľ stav nie je v tejto množine, úloha stále beží a musíš čakať. CANCELLATION_REQUESTED nie je stav zastavenia, ale prechodný stav; kód, ktorý by ho považoval za konečný, by predčasne ukončil slučku.
Sledovanie priebehu
Nižšie uvedený vzor dotazovania (polling) presne encapsuluje túto logiku vrátane ochrany proti maximálnej dĺžke trvania, aby sa zabránilo zabudnutému skriptu bežať donekonečna:
def wait_for_batch(client, job_id, poll_interval=10, max_wait=3600):
"""Wait for a batch job to complete using polling."""
elapsed = 0
terminal_states = {"SUCCESS", "FAILED", "TIMEOUT_EXCEEDED", "CANCELLED"}
while elapsed < max_wait:
job = client.batch.jobs.get(job_id=job_id)
print(f"[{elapsed}s] Status: {job.status}")
if job.status in terminal_states:
return job
time.sleep(poll_interval)
elapsed += poll_interval
raise TimeoutError(f"Job {job_id} still running after {max_wait}s")
# Usage
completed_job = wait_for_batch(client, job.id)
print(f"Final result: {completed_job.status}")
Desaťsekundový interval funguje pre dávku trvajúcu niekoľko minút; pri nočnom behu spracúvajúcom niekoľko stotisíc riadkov ho zvýš na minútu alebo viac. Väčšia presnosť dotazovania tam nepridáva žiadnu hodnotu a len hromadí zbytočné volania API.
Stiahnutie výsledkov
Akonáhle stav dosiahne SUCCESS, úloha sprístupní output_file, ktorý si stiahneš a riadok po riadku spracuješ:
import json
if completed_job.status == "SUCCESS":
# Get the output file ID
output_file_id = completed_job.output_file
# Download the content
result_data = client.files.download(file_id=output_file_id)
# Parse JSONL results
results = {}
for line in result_data.read().decode("utf-8").strip().split("\n"):
entry = json.loads(line)
custom_id = entry["custom_id"]
response = entry["response"]
results[custom_id] = response
# Show an example
for cid, resp in list(results.items())[:3]:
content = resp["body"]["choices"][0]["message"]["content"]
print(f"\n--- {cid} ---")
print(content[:200])
Súbor s výsledkami je tiež vo formáte JSONL a každý riadok obsahuje pôvodné custom_id spolu s úplnou odpoveďou modelu. Tu sa zúročí úsilie o pomenovanie z predchádzajúcej lekcie: indexovanie podľa custom_id v slovníku stačí na zosúladenie odpovedí so zdrojovými dokumentmi bez ohľadu na poradie, v akom sa vrátia. Zobrazenie prvých troch položiek orezaných na 200 znakov je užitočná kontrola sanity predtým, než začneš zapisovať do svojej databázy.
Zoznam a správa tvojich úloh
Inventár úloh môžeš filtrovať podľa stavu, čo ti umožní kedykoľvek vidieť, čo sa práve deje na tvojom účte:
# List all currently running jobs
running_jobs = client.batch.jobs.list(status="RUNNING")
for j in running_jobs.data:
print(f"Job {j.id} - Model: {j.model} - Created: {j.created_at}")
A keď sa úloha vlečie alebo po odoslaní objavíš chybu v prompte, zrušenie ti ušetrí platby za zbytočné spracovanie:
# Cancel a job that is taking too long
client.batch.jobs.cancel(job_id="job-abc123")
Zrušenie je asynchrónne: stav sa najprv zmení na CANCELLATION_REQUESTED a až po efektívnom zastavení na CANCELLED. Nepovažuj zdroj za uvoľnený okamžite po návrate z volania.
Komplexný pracovný postup
Tieto štyri kroky spolu tvoria krátky skript, ktorý môžeš priamo umiestniť do plánovača:
from mistralai.client import Mistral
import json
import os
import time
client = Mistral(api_key=os.environ["MISTRAL_API_KEY"])
# 1. Upload the file
with open("batch_requests.jsonl", "rb") as f:
batch_file = client.files.upload(
file={"file_name": "batch_requests.jsonl", "content": f},
purpose="batch"
)
# 2. Create the job
job = client.batch.jobs.create(
input_files=[batch_file.id],
model="mistral-small-latest",
endpoint="/v1/chat/completions"
)
# 3. Wait for completion
completed = wait_for_batch(client, job.id)
# 4. Download and parse results
if completed.status == "SUCCESS":
data = client.files.download(file_id=completed.output_file)
for line in data.read().decode("utf-8").strip().split("\n"):
entry = json.loads(line)
print(f"{entry['custom_id']}: OK")
else:
print(f"Batch failed: {completed.status}")
Túto kostru znovu využij na vlastnom korpuse len s desiatimi riadkami: celý reťazec overíš za pár minút predtým, než sa odhodláš na plný objem.
Kľúčové poznatky
- Vytvor dávkovú úlohu pomocou
client.batch.jobs.create()určením súboru, modelu a koncového bodu - Sedem možných stavov vrátane troch konečných:
SUCCESS,FAILED,CANCELLED - Dotazovanie s intervalom je štandardný vzor na sledovanie priebehu
- Výsledky sú vo formáte JSONL, prepojené s požiadavkami cez
custom_id - Svoje úlohy môžeš kedykoľvek vypísať, preskúmať a zrušiť