L-Ewwel Sejħa tal-API Tiegħek f'Python
F'din il-paġna
L-Ewwel Skambju Tiegħek ma’ Mudell Mistral
L-SDK huwa installat u ċ-ċavetta tal-API tiegħek hija lesta: wasal iż-żmien li tibgħat talba reali u, l-aktar importanti, tifhem x’inhu ġej lura. Ħafna żviluppaturi jieqfu fl-ewwel linja tar-risposta u jinjoraw il-bqija tal-oġġett irritornat. Din hija żball, għax it-traċċar tal-ispejjeż u d-dijanjożi għar-risposti mqassra jinsabu preċiżament f’dik id-data li fadal. Se nibdew b’kodiċi minimu u nxogħlu biex nilħqu l-istruttura sħiħa.
Inizzjalizza l-Klijent
Il-klijent huwa l-punt tad-dħul għall-interazzjonijiet kollha tiegħek mal-API:
import os
from mistralai.client import Mistral
client = Mistral(api_key=os.environ["MISTRAL_API_KEY"])
Dan jimmaniġġja l-konnessjonijiet HTTP, jerġa’ jipprova f’każ ta’ żbalji fin-netwerk, u s-serializzazzjoni tat-talbiet. Istanzjah darba waqt l-ibbidjar tal-applikazzjoni. Li toħloq klijent ġdid għal kull sejħa jfurzak tħallas għat-twaqqif tal-konnessjoni mingħajr bżonn u hija waħda mill-aktar kawżi sottili ta’ latenza eċċessiva.
Ibghat Talba b’chat.complete()
Se tuża l-metodu chat.complete() l-aktar spiss. Dan jibgħat il-messaġġi tiegħek u jistenna r-risposta sħiħa tal-mudell qabel ma jerġa’ jagħtik il-kontroll:
response = client.chat.complete(
model="mistral-small-latest",
messages=[
{
"role": "user",
"content": "Explain the concept of tokenization in three sentences."
}
]
)
print(response.choices[0].message.content)
Żewġ parametri biżżejjed hawnhekk. model jispeċifika l-ID tal-mudell: mistral-small-latest dejjem jipponta lejn l-aħħar verżjoni ta’ Mistral Small, u jagħmilha l-għażla naturali biex tibda peress li hija mgħaġġla u ekonomika. messages jistenna lista ta’ messaġġi strutturati, kull wieħed b’role—system, user, jew assistant—u qasam content li fih it-test. Din l-istruttura tista’ tidher tqila għal mistoqsija waħda, iżda tagħmel sens perfett meta tilħaq il-lezzjoni dwar konversazzjonijiet b’diversi dawriet.
Aqra l-Oġġett Irritornat
L-oġġett response fih ħafna aktar mill-b sempliċiment it-test iġġenerat:
# Response text
text = response.choices[0].message.content
# Role (always "assistant" for a response)
role = response.choices[0].message.role
# Stop reason
finish = response.choices[0].finish_reason # "stop", "length", etc.
# Token statistics
input_tokens = response.usage.prompt_tokens
output_tokens = response.usage.completion_tokens
total_tokens = response.usage.total_tokens
print(f"Response ({output_tokens} tokens): {text}")
print(f"Total tokens consumed: {total_tokens}")
Oqgħod attent ħafna għall-qasam usage mill-ewwel jum. Li tirreġistrah fuq kull sejħa jgħidlek eżattament liema karatteristika tal-applikazzjoni tiegħek qed taħraq il-baġit tiegħek, mingħajr ma jkollok tirrikostruwixxi l-kont tiegħek fi tmiem ix-xahar.
Għal finish_reason, dan jindika għaliex il-mudell waqaf u jieħu wieħed minn dawn il-valuri:
stop: il-mudell temm ir-risposta tiegħu b’mod naturalilength: ir-risposta nqatgħet għax laħqetmax_tokensmodel_length: il-kuntest totali (input + output) laħaq il-limitu tal-mudell
Risposta li tispiċċa f’nofs sentenza mhix bug tal-mudell: hija finish_reason ta’ length li ħadd ma ċċekkja. Dejjem ivverifika dan qabel ma tikkonkludi li hemm problema fil-kwalità.
Aġġusta l-Imġiba tal-Mudell
Tliet parametri addizzjonali jħalluk tiddireġixxi l-ġenerazzjoni:
response = client.chat.complete(
model="mistral-large-latest",
messages=[
{
"role": "user",
"content": "Propose three names for an educational AI startup."
}
],
temperature=0.7,
max_tokens=500,
top_p=0.95,
)
It-Temperature tikkontrolla l-grad ta’ libertà tal-mudell. F’0.0, ir-risposti huma deterministiċi: l-istess prompt dejjem jipproduċi l-istess test, li huwa dak li trid għall-estrazzjoni jew il-klassifikazzjoni. Bejn 0.3 u 0.5, tikseb bilanċ tajjeb għal kompiti fattwali. Bejn 0.7 u 1.0, ir-risposti jsiru aktar kreattivi u varjati—dan huwa l-firxa użata fl-eżempju ta’ hawn fuq, peress li qed nitolbu ideat għal ismijiet u li tara l-istess idea tliet darbiet ikun bla sens. ‘Il fuq minn 1.0, il-ġenerazzjoni ssir każwali ħafna u rari jkollha utilità prattika.
max_tokens jillimita t-tul tar-risposta, li jgħin biex tikkontrolla l-ispejjeż u żżomm l-outputs maniġġabbli. Ftakar biss li jekk il-mudell jinqata’, finish_reason ikun "length". top_p jaffettwa d-diversità permezz ta’ mekkaniżmu differenti: jiffiltra l-inqas tokens probabbli. Valur ta’ 0.95 ifisser li l-mudell iqis biss tokens li jirrappreżentaw 95% tal-probabbiltà kumulattiva.
Sejħa Lesta għall-Produzzjoni
F’kundizzjonijiet tad-dinja reali, in-netwerk jaqa’, iċ-ċwievet jiskadu, u l-kwoti jimtlew. Dejjem poġġi s-sejħiet tiegħek f’ġestjoni tal-iżbalji:
import os
from mistralai.client import Mistral
client = Mistral(api_key=os.environ["MISTRAL_API_KEY"])
try:
response = client.chat.complete(
model="mistral-small-latest",
messages=[
{"role": "user", "content": "What is the capital of France?"}
],
max_tokens=100,
)
text = response.choices[0].message.content
print(f"Response: {text}")
print(f"Tokens used: {response.usage.total_tokens}")
except Exception as e:
print(f"API call error: {e}")
Uża din l-istruttura bażika għall-esperimenti tiegħek stess billi sempliċiment tibdel il-kontenut tal-messaġġ. Dan huwa l-punt tat-tluq għal kull ma jmiss f’dan il-kors.
Punti Ewlenin
client.chat.complete()huwa l-metodu primarju biex tinteraġixxi mal-mudelli- It-test tar-risposta jinsab f’
response.choices[0].message.content response.usagejgħidlek kemm-il token ġew ikkunsmati (utli għat-traċċar tal-ispejjeż)temperaturetikkontrolla l-kreattività;max_tokensjillimita t-tul- Ibda b’
mistral-small-latest: hija mgħaġġla, ekonomika u performanti