Oħloq Impjieg Batch, Segwi l-Istat, u Nniżżel ir-Riżultati
F'din il-paġna
Aġġornat fit-3 ta’ Novembru, 2026: Addendum għat-3 ta’ Novembru:
files.downloadjirritorna tweġiba HTTP (httpx2.Response); aqra l-kontenut tiegħu b’.read()qabel ma ssejjaħ.decode(). It-tlugħ jistennafile={"file_name": …, "content": …}. Iċ-ċavetta tal-API m’għadhiex imwaħħla fil-kodiċi (hardcoded).
Minn Fajl JSONL għar-Riżultati: Iċ-Ċiklu tal-Ħajja Sħiħ
Il-fajl JSONL tiegħek huwa mħejji u mtella’, u għandek file_id. Il-pass li jmiss huwa li ttrasforma dak il-fajl dormant f’riżultati użabbli: oħloq l-impjieg batch (batch job), immonitorja l-progress tiegħu matul il-minuti jew is-sigħat li jieħu l-ipproċessar, imbagħad irkupra u rrikonċilja t-tweġibiet. Din il-lezzjoni tgħaddik mill-kodiċi Python mit-tmiem għall-bidu fl-eżatt ordni li se tiktbu.
Oħloq Impjieg Batch
Il-ħolqien jeħtieġ sejħa waħda biss. Tispeċifika l-fajl sors, il-mudell, u l-endpoint fil-mira:
from mistralai.client import Mistral
import time
client = Mistral(api_key="your-api-key")
# Oħloq l-impjieg batch
job = client.batch.jobs.create(
input_files=[batch_file.id], # ID tal-fajl imtella'
model="mistral-small-latest",
endpoint="/v1/chat/completions",
metadata={"project": "document-analysis", "version": "1.0"}
)
print(f"Impjieg maħluq: {job.id}")
print(f"Stat inizjali: {job.status}")
Kull parametru jixraq nota:
input_files— Lista ta’ IDs ta’ fajls imtiegħa. Tista’ tgħaddi fajls multipli f’impjieg wieħed.model— Il-mudell Mistral li għandu jintuża. Mudell wieħed biss għal kull impjieg batch.endpoint— L-endpoint tal-API fil-mira (irid jaqbel mal-format tal-bodyfil-JSONL tiegħek).metadata— Dizzjunarju fakultattiv ta’ metadata personalizzata biex torganizza u tirkupra l-impjiegi tiegħek.
Il-vincolu ta’ mudell wieħed għal kull impjieg jistruttura kif taqsam ix-xogħol tiegħek: jekk trid tqabbel żewġ mudelli fuq l-istess corpus, ibgħat żewġ impjiegi distinti li jippuntaw lejn l-istess fajl. Għall-metadata, tista’ tidher inċidentali sakemm ikollok tletin impjieg fl-istorja tiegħek; il-par proġett/verżjoni muri hawn fuq imbagħad jħallik issib il-batch li pproduċa data dubjuża fi tliet sekondi ċatti.
Stati tal-Impjieg Batch
Impjieg batch jgħaddi minn diversi stati matul iċ-ċiklu tal-ħajja tiegħu:
| Stat | Deskrizzjoni |
|---|---|
QUEUED | Fil-kju, għadu ma beda |
RUNNING | Ipproċessar għaddej |
SUCCESS | Tlesta b’suċċess |
FAILED | L-ipproċessar falla |
TIMEOUT_EXCEEDED | Il-limitu ta’ żmien tal-eżekuzzjoni nqabeż |
CANCELLATION_REQUESTED | Tħassir mitlub |
CANCELLED | Imħassar |
Erbgħa minn dawn is-seba’ stati huma terminali—SUCCESS, FAILED, TIMEOUT_EXCEEDED, u CANCELLED—u din id-distinzjoni tmexxi ċ-ċiklu ta’ monitoraġġ: sakemm l-istat ma jkunx f’dan is-sett, l-impjieg għadu ħaj u trid tistenna. CANCELLATION_REQUESTED, b’mod partikolari, mhuwiex stat imwaqqaf iżda wieħed tranżizzjonali; kodiċi li jittrattah bħala terminali joħroġ miċ-ċiklu kmieni wisq.
Segwi l-Progress
Il-mudell ta’ polling hawn taħt jinkapsula din il-loġika eżattament, b’limitu massimu ta’ żmien biex jipprevjeni skript minsija milli tibbaqa’ għaddejja għal dejjem:
def wait_for_batch(client, job_id, poll_interval=10, max_wait=3600):
"""Stenna li impjieg batch jitlesta billi tuża polling."""
elapsed = 0
terminal_states = {"SUCCESS", "FAILED", "TIMEOUT_EXCEEDED", "CANCELLED"}
while elapsed < max_wait:
job = client.batch.jobs.get(job_id=job_id)
print(f"[{elapsed}s] Stat: {job.status}")
if job.status in terminal_states:
return job
time.sleep(poll_interval)
elapsed += poll_interval
raise TimeoutError(f"Impjieg {job_id} għadu għaddej wara {max_wait}s")
# Użu
completed_job = wait_for_batch(client, job.id)
print(f"Riżultat finali: {completed_job.status}")
Intervall ta’ għaxar sekondi jaħdem għal batch li jdum ftit minuti; għal ġirja matul il-lejl li tipproċessa diversi mijiet ta’ eluf ta’ linji, żidu għal minuta jew aktar. Preċiżjoni akbar fil-polling ma żżidx valur hemmhekk u biss takkumula sejħiet API mhux meħtieġa.
Niżżel ir-Riżultati
Ladarba l-istat jilħaq SUCCESS, l-impjieg jesponi output_file li tniżżel u tparseja linja b’linja:
import json
if completed_job.status == "SUCCESS":
# Ikseb l-ID tal-fajl tal-output
output_file_id = completed_job.output_file
# Niżżel il-kontenut
result_data = client.files.download(file_id=output_file_id)
# Ipparseja r-riżultati JSONL
results = {}
for line in result_data.read().decode("utf-8").strip().split("\n"):
entry = json.loads(line)
custom_id = entry["custom_id"]
response = entry["response"]
results[custom_id] = response
# Uri eżempju
for cid, resp in list(results.items())[:3]:
content = resp["body"]["choices"][0]["message"]["content"]
print(f"\n--- {cid} ---")
print(content[:200])
Il-fajl tar-riżultati huwa wkoll fil-format JSONL, u kull linja ġġorr l-custom_id oriġinali flimkien mat-tweġiba sħiħa tal-mudell. Hawnhekk fejn l-isforz tas-smijiet mil-lezzjoni ta’ qabel jagħti l-frott: l-indiċjar b’custom_id f’dizzjunarju huwa biżżejjed biex tirrikonċilja t-tweġibiet mad-dokumenti sors tiegħek, irrispettivament mill-ordni li biha jirritornaw. Li turi l-ewwel tliet entrati maqtugħa għal 200 karattru hija verifika tas-saħħa utli qabel ma tibda tikteb fil-bażi tad-data tiegħek.
Elenska u Mmaniġġja l-Impjiegi Tiegħek
Tista’ tiffiltra l-inventarju tal-impjiegi skont l-istat, u b’hekk tara f’kull mument x’inhu qed jiġri attwalment fuq il-kont tiegħek:
# Elenska l-impjiegi kollha li qed jaħdmu bħalissa
running_jobs = client.batch.jobs.list(status="RUNNING")
for j in running_jobs.data:
print(f"Impjieg {j.id} - Mudell: {j.model} - Maħluq: {j.created_at}")
U meta impjieg jitwal wisq jew tinduna bi żball fil-prompt wara s-sottomissjoni, it-tħassir jevita li tħallas għal ipproċessar inutili:
# Ħassar impjieg li qed jieħu wisq żmien
client.batch.jobs.cancel(job_id="job-abc123")
It-tħassir huwa asinkronu: l-istat l-ewwel jimxi għal CANCELLATION_REQUESTED, imbagħad għal CANCELLED ladarba l-waqfien isir effettiv. Tikkunsidrax ir-riżorsa liberata immedjatament malli s-sejħa tirritorna.
Fluss tax-Xogħol mit-Tmiem għall-Bidu
Assemblati, dawn l-erba’ passi jiffurmaw skript qasir li tista’ tpoġġi direttament f’scheduler:
from mistralai.client import Mistral
import json
import os
import time
client = Mistral(api_key=os.environ["MISTRAL_API_KEY"])
# 1. Itla' l-fajl
with open("batch_requests.jsonl", "rb") as f:
batch_file = client.files.upload(
file={"file_name": "batch_requests.jsonl", "content": f},
purpose="batch"
)
# 2. Oħloq l-impjieg
job = client.batch.jobs.create(
input_files=[batch_file.id],
model="mistral-small-latest",
endpoint="/v1/chat/completions"
)
# 3. Stenna t-tlestija
completed = wait_for_batch(client, job.id)
# 4. Niżżel u pparseja r-riżultati
if completed.status == "SUCCESS":
data = client.files.download(file_id=completed.output_file)
for line in data.read().decode("utf-8").strip().split("\n"):
entry = json.loads(line)
print(f"{entry['custom_id']}: OK")
else:
print(f"Il-batch falla: {completed.status}")
Uża mill-ġdid din l-istruttura fuq il-corpus tiegħek b’dieci linji biss: tivvalida ċ-ċirku sħiħ f’ftit minuti qabel ma timpenja ruħek għall-volum sħiħ.
Punti Ewlenin
- Oħloq impjieg batch b’
client.batch.jobs.create()billi tispeċifika l-fajl, il-mudell, u l-endpoint - Seba’ stati possibbli, inklużi tlieta terminali:
SUCCESS,FAILED,CANCELLED - Il-polling b’intervall huwa l-mudell standard biex issegwi l-progress
- Ir-riżultati huma fil-format JSONL, marbuta mat-talbiet permezz ta’
custom_id - Tista’ telenska, tispezzjona, u tħassar l-impjiegi tiegħek fi kwalunkwe ħin