Aqbeż għall-kontenut ewlieni
Malti— Agħżel lingwa
Menu

Oħloq Impjieg Batch, Segwi l-Istat, u Nniżżel ir-Riżultati

Lezzjoni 3 / 16 Aġġornat 3 ta’ Novembru 2026 Avvanzat
F'din il-paġna
  1. Minn Fajl JSONL għar-Riżultati: Iċ-Ċiklu tal-Ħajja Sħiħ
  2. Oħloq Impjieg Batch
  3. Stati tal-Impjieg Batch
  4. Segwi l-Progress
  5. Niżżel ir-Riżultati
  6. Elenska u Mmaniġġja l-Impjiegi Tiegħek
  7. Fluss tax-Xogħol mit-Tmiem għall-Bidu
  8. Punti Ewlenin

Aġġornat fit-3 ta’ Novembru, 2026: Addendum għat-3 ta’ Novembru: files.download jirritorna tweġiba HTTP (httpx2.Response); aqra l-kontenut tiegħu b’.read() qabel ma ssejjaħ .decode(). It-tlugħ jistenna file={"file_name": …, "content": …}. Iċ-ċavetta tal-API m’għadhiex imwaħħla fil-kodiċi (hardcoded).

Minn Fajl JSONL għar-Riżultati: Iċ-Ċiklu tal-Ħajja Sħiħ

Il-fajl JSONL tiegħek huwa mħejji u mtella’, u għandek file_id. Il-pass li jmiss huwa li ttrasforma dak il-fajl dormant f’riżultati użabbli: oħloq l-impjieg batch (batch job), immonitorja l-progress tiegħu matul il-minuti jew is-sigħat li jieħu l-ipproċessar, imbagħad irkupra u rrikonċilja t-tweġibiet. Din il-lezzjoni tgħaddik mill-kodiċi Python mit-tmiem għall-bidu fl-eżatt ordni li se tiktbu.

Oħloq Impjieg Batch

Il-ħolqien jeħtieġ sejħa waħda biss. Tispeċifika l-fajl sors, il-mudell, u l-endpoint fil-mira:

from mistralai.client import Mistral
import time

client = Mistral(api_key="your-api-key")

# Oħloq l-impjieg batch
job = client.batch.jobs.create(
    input_files=[batch_file.id],   # ID tal-fajl imtella'
    model="mistral-small-latest",
    endpoint="/v1/chat/completions",
    metadata={"project": "document-analysis", "version": "1.0"}
)

print(f"Impjieg maħluq: {job.id}")
print(f"Stat inizjali: {job.status}")

Kull parametru jixraq nota:

  • input_files — Lista ta’ IDs ta’ fajls imtiegħa. Tista’ tgħaddi fajls multipli f’impjieg wieħed.
  • model — Il-mudell Mistral li għandu jintuża. Mudell wieħed biss għal kull impjieg batch.
  • endpoint — L-endpoint tal-API fil-mira (irid jaqbel mal-format tal-body fil-JSONL tiegħek).
  • metadata — Dizzjunarju fakultattiv ta’ metadata personalizzata biex torganizza u tirkupra l-impjiegi tiegħek.

Il-vincolu ta’ mudell wieħed għal kull impjieg jistruttura kif taqsam ix-xogħol tiegħek: jekk trid tqabbel żewġ mudelli fuq l-istess corpus, ibgħat żewġ impjiegi distinti li jippuntaw lejn l-istess fajl. Għall-metadata, tista’ tidher inċidentali sakemm ikollok tletin impjieg fl-istorja tiegħek; il-par proġett/verżjoni muri hawn fuq imbagħad jħallik issib il-batch li pproduċa data dubjuża fi tliet sekondi ċatti.

Stati tal-Impjieg Batch

Impjieg batch jgħaddi minn diversi stati matul iċ-ċiklu tal-ħajja tiegħu:

StatDeskrizzjoni
QUEUEDFil-kju, għadu ma beda
RUNNINGIpproċessar għaddej
SUCCESSTlesta b’suċċess
FAILEDL-ipproċessar falla
TIMEOUT_EXCEEDEDIl-limitu ta’ żmien tal-eżekuzzjoni nqabeż
CANCELLATION_REQUESTEDTħassir mitlub
CANCELLEDImħassar

Erbgħa minn dawn is-seba’ stati huma terminali—SUCCESS, FAILED, TIMEOUT_EXCEEDED, u CANCELLED—u din id-distinzjoni tmexxi ċ-ċiklu ta’ monitoraġġ: sakemm l-istat ma jkunx f’dan is-sett, l-impjieg għadu ħaj u trid tistenna. CANCELLATION_REQUESTED, b’mod partikolari, mhuwiex stat imwaqqaf iżda wieħed tranżizzjonali; kodiċi li jittrattah bħala terminali joħroġ miċ-ċiklu kmieni wisq.

Segwi l-Progress

Il-mudell ta’ polling hawn taħt jinkapsula din il-loġika eżattament, b’limitu massimu ta’ żmien biex jipprevjeni skript minsija milli tibbaqa’ għaddejja għal dejjem:

def wait_for_batch(client, job_id, poll_interval=10, max_wait=3600):
    """Stenna li impjieg batch jitlesta billi tuża polling."""
    elapsed = 0
    terminal_states = {"SUCCESS", "FAILED", "TIMEOUT_EXCEEDED", "CANCELLED"}

    while elapsed < max_wait:
        job = client.batch.jobs.get(job_id=job_id)
        print(f"[{elapsed}s] Stat: {job.status}")

        if job.status in terminal_states:
            return job

        time.sleep(poll_interval)
        elapsed += poll_interval

    raise TimeoutError(f"Impjieg {job_id} għadu għaddej wara {max_wait}s")

# Użu
completed_job = wait_for_batch(client, job.id)
print(f"Riżultat finali: {completed_job.status}")

Intervall ta’ għaxar sekondi jaħdem għal batch li jdum ftit minuti; għal ġirja matul il-lejl li tipproċessa diversi mijiet ta’ eluf ta’ linji, żidu għal minuta jew aktar. Preċiżjoni akbar fil-polling ma żżidx valur hemmhekk u biss takkumula sejħiet API mhux meħtieġa.

Niżżel ir-Riżultati

Ladarba l-istat jilħaq SUCCESS, l-impjieg jesponi output_file li tniżżel u tparseja linja b’linja:

import json

if completed_job.status == "SUCCESS":
    # Ikseb l-ID tal-fajl tal-output
    output_file_id = completed_job.output_file

    # Niżżel il-kontenut
    result_data = client.files.download(file_id=output_file_id)

    # Ipparseja r-riżultati JSONL
    results = {}
    for line in result_data.read().decode("utf-8").strip().split("\n"):
        entry = json.loads(line)
        custom_id = entry["custom_id"]
        response = entry["response"]
        results[custom_id] = response

    # Uri eżempju
    for cid, resp in list(results.items())[:3]:
        content = resp["body"]["choices"][0]["message"]["content"]
        print(f"\n--- {cid} ---")
        print(content[:200])

Il-fajl tar-riżultati huwa wkoll fil-format JSONL, u kull linja ġġorr l-custom_id oriġinali flimkien mat-tweġiba sħiħa tal-mudell. Hawnhekk fejn l-isforz tas-smijiet mil-lezzjoni ta’ qabel jagħti l-frott: l-indiċjar b’custom_id f’dizzjunarju huwa biżżejjed biex tirrikonċilja t-tweġibiet mad-dokumenti sors tiegħek, irrispettivament mill-ordni li biha jirritornaw. Li turi l-ewwel tliet entrati maqtugħa għal 200 karattru hija verifika tas-saħħa utli qabel ma tibda tikteb fil-bażi tad-data tiegħek.

Elenska u Mmaniġġja l-Impjiegi Tiegħek

Tista’ tiffiltra l-inventarju tal-impjiegi skont l-istat, u b’hekk tara f’kull mument x’inhu qed jiġri attwalment fuq il-kont tiegħek:

# Elenska l-impjiegi kollha li qed jaħdmu bħalissa
running_jobs = client.batch.jobs.list(status="RUNNING")
for j in running_jobs.data:
    print(f"Impjieg {j.id} - Mudell: {j.model} - Maħluq: {j.created_at}")

U meta impjieg jitwal wisq jew tinduna bi żball fil-prompt wara s-sottomissjoni, it-tħassir jevita li tħallas għal ipproċessar inutili:

# Ħassar impjieg li qed jieħu wisq żmien
client.batch.jobs.cancel(job_id="job-abc123")

It-tħassir huwa asinkronu: l-istat l-ewwel jimxi għal CANCELLATION_REQUESTED, imbagħad għal CANCELLED ladarba l-waqfien isir effettiv. Tikkunsidrax ir-riżorsa liberata immedjatament malli s-sejħa tirritorna.

Fluss tax-Xogħol mit-Tmiem għall-Bidu

Assemblati, dawn l-erba’ passi jiffurmaw skript qasir li tista’ tpoġġi direttament f’scheduler:

from mistralai.client import Mistral
import json
import os
import time

client = Mistral(api_key=os.environ["MISTRAL_API_KEY"])

# 1. Itla' l-fajl
with open("batch_requests.jsonl", "rb") as f:
    batch_file = client.files.upload(
        file={"file_name": "batch_requests.jsonl", "content": f},
        purpose="batch"
    )

# 2. Oħloq l-impjieg
job = client.batch.jobs.create(
    input_files=[batch_file.id],
    model="mistral-small-latest",
    endpoint="/v1/chat/completions"
)

# 3. Stenna t-tlestija
completed = wait_for_batch(client, job.id)

# 4. Niżżel u pparseja r-riżultati
if completed.status == "SUCCESS":
    data = client.files.download(file_id=completed.output_file)
    for line in data.read().decode("utf-8").strip().split("\n"):
        entry = json.loads(line)
        print(f"{entry['custom_id']}: OK")
else:
    print(f"Il-batch falla: {completed.status}")

Uża mill-ġdid din l-istruttura fuq il-corpus tiegħek b’dieci linji biss: tivvalida ċ-ċirku sħiħ f’ftit minuti qabel ma timpenja ruħek għall-volum sħiħ.

Punti Ewlenin

  • Oħloq impjieg batch b’client.batch.jobs.create() billi tispeċifika l-fajl, il-mudell, u l-endpoint
  • Seba’ stati possibbli, inklużi tlieta terminali: SUCCESS, FAILED, CANCELLED
  • Il-polling b’intervall huwa l-mudell standard biex issegwi l-progress
  • Ir-riżultati huma fil-format JSONL, marbuta mat-talbiet permezz ta’ custom_id
  • Tista’ telenska, tispezzjona, u tħassar l-impjiegi tiegħek fi kwalunkwe ħin