Codestral API ar Python
Šajā lapā
Codestral izsaukšana no Python
Šajā nodarbībā pāriesim no teorijas uz izpildāmu kodu. Tu izmantosi Mistral AI Python SDK, lai veiktu vaicājumus Codestral divos galapunktos, pielāgotu papildu parametrus, kas atšķir noderīgu ieteikumu no pārāk daudzrunīga, un ieviestu modeļus, kas sastopami lielākajā daļā reālu integrāciju.
Instalēšana un konfigurēšana
Instalē SDK ar vienu komandu:
pip install mistralai
Iegūsti savu API atslēgu no console.mistral.ai un nolasiet to no vides mainīgajiem, nevis iekodē to tieši failā:
import os
from mistralai.client import Mistral
client = Mistral(api_key=os.environ["MISTRAL_API_KEY"])
Codestral apkalpo divas platformas, un tu izvēlies starp tām, veidojot savu atslēgu. api.mistral.ai darbojas pēc principa „maksā par lietojumu” ar rēķinu, kas balstīts uz patēriņu: tas ir standarta ceļš, ja Codestral ir tikai viens komponents starp daudziem lietotnē. codestral.mistral.ai ir specializēts galapunkts, kas pieejams bezmaksas vai ar abonementu, paredzēts tiešai izmantošanai izstrādātājam savā redaktorā.
Pilns FIM izsaukums
Lūk, detalizēts FIM izsaukums ar visiem svarīgākajiem parametriem:
from mistralai.client import Mistral
client = Mistral(api_key=os.environ["MISTRAL_API_KEY"])
response = client.fim.complete(
model="codestral-latest",
prompt="def calculate_vat(price_excl: float, rate: float = 0.20) -> float:",
suffix="price = float(input('Price excl. VAT: '))\nprint(f'Price incl. VAT: {calculate_vat(price):.2f} EUR')",
temperature=0,
max_tokens=150,
stop=["\n\n"],
)
completion = response.choices[0].message.content
print(completion)
Atbildes analīze
Atgrieztais objekts satur vairāk nekā tikai ģenerēto tekstu. Ražošanas vidē tev sistemātiski jāpārbauda trīs informācijas daļas: pati pabeigšana, tokenu patēriņš, kas nosaka tavu rēķinu, un apturēšanas iemesls, kas norāda, vai modelis pabeidza darbu dabiski vai sasniedza tavu limitu.
# Piekļuve ģenerētajai pabeigšanai
text = response.choices[0].message.content
# Tokenu skaita pārbaude
tokens_prompt = response.usage.prompt_tokens
tokens_completion = response.usage.completion_tokens
tokens_total = response.usage.total_tokens
# Apturēšanas iemesla pārbaude
reason = response.choices[0].finish_reason # "stop", "length" utt.
Ja pusē no taviem izsaukumiem finish_reason ir "length", tas ir skaidrs signāls: tavs max_tokens ir pārāk zems, un tu saviem lietotājiem piegādā apgrieztu kodu.
Čata izsaukums koda ģenerēšanai
Kad faila vidū nav kursora — piemēram, pilnīgai ģenerēšanai, skaidrojumam vai refaktorēšanai — pārņem čata galapunkts. Sistēmas ziņojums tad nosaka izvades formātu, kas novērš nepieciešamību pēc tam tīrīt atbildi:
response = client.chat.complete(
model="codestral-latest",
messages=[
{
"role": "system",
"content": "You are an expert Python development assistant. Respond with code only, no explanations."
},
{
"role": "user",
"content": "Write a Python function that validates an email address using regex."
}
],
temperature=0.2,
max_tokens=500,
)
code = response.choices[0].message.content
print(code)
Papildu parametri
Pāris min_tokens / max_tokens ierāmē izvades garumu. Minimālā vērtība ir noderīga, ģenerējot bloku, par kuru zini, ka tas nevar būt īsāks par noteiktu apjomu, piemēram, funkcija ar savu kļūdu apstrādi.
# min_tokens: piespiež minimālo izvades garumu
# max_tokens: ierobežo maksimālo garumu
response = client.fim.complete(
model="codestral-latest",
prompt=prompt,
suffix=suffix,
min_tokens=20,
max_tokens=300,
)
Apturēšanas tokeniem ir cita loma: tie aptur ģenerēšanu pie konkrēta raksta, noturot pabeigšanu pašreizējās funkcijas ietvaros, neļaujot modelim pāriet uz nākamo.
# Ģenerēšanas apturēšana pie konkrētiem rakstiem
response = client.fim.complete(
model="codestral-latest",
prompt=prompt,
suffix=suffix,
stop=["\n\n", "\nclass ", "\ndef "], # Apturēt pirms jaunas funkcijas/klases
)
Visbeidzot, temperatūra nosaka mainīgumu. Pie 0 vienāda ievade vienmēr dod vienādu izvadi, kas ir nepieciešams automātiskajai pabeigšanai. Ap 0,3 modelis piedāvā variantus, kas ir interesanti, parādot vairākus ieteikumus. Pie 0,7 tu esi koda smadzeņu vētras režīmā, kas noder pieejas izpētei, bet nav piemērots rediģēšanas plūsmai.
# temperature=0: deterministisks (automātiskā pabeigšana)
# temperature=0.3: viegli radošs (vairāki ieteikumi)
# temperature=0.7: radošs (koda smadzeņu vētra)
response = client.fim.complete(
model="codestral-latest",
prompt=prompt,
suffix=suffix,
temperature=0.3,
top_p=0.95,
)
Divi modeļi kopēšanai un ielīmēšanai
Pirmais atkārto IDE uzvedību: tu sadali faila saturu kursora pozīcijā, un abas puses kļūst par prompt un suffix.
def autocomplete_ide(file_content: str, cursor_position: int) -> str:
"""Simulē IDE automātisko pabeigšanu ar Codestral FIM."""
prompt = file_content[:cursor_position]
suffix = file_content[cursor_position:]
response = client.fim.complete(
model="codestral-latest",
prompt=prompt,
suffix=suffix,
temperature=0,
max_tokens=100,
stop=["\n\n", "\ndef ", "\nclass "],
)
return response.choices[0].message.content
Otrais automatizē dokumentāciju esošam projektam: tu nodod funkciju, iegūsti tās docstring, un sistēmas instrukcija nodrošina vienu formātu, lai rezultātu varētu ievietot bez turpmākas rediģēšanas.
def generate_docstring(function_code: str) -> str:
"""Ģenerē docstring Python funkcijai."""
response = client.chat.complete(
model="codestral-latest",
messages=[
{
"role": "system",
"content": "Generate a Google-style docstring for the following function. Return ONLY the docstring between triple quotes."
},
{
"role": "user",
"content": function_code
}
],
temperature=0,
max_tokens=300,
)
return response.choices[0].message.content
Kļūdu apstrāde
Tīkla izsaukums agrāk vai vēlāk neizdosies, un redaktora paplašinājums, kas sabrūk validācijas kļūdas dēļ, ir sliktāks par paplašinājumu bez pabeigšanas. Tāpēc vienmēr aptver savus izsaukumus:
from mistralai.client import Mistral
from mistralai.client.errors import HTTPValidationError
try:
response = client.fim.complete(
model="codestral-latest",
prompt=prompt,
suffix=suffix,
)
except HTTPValidationError as e:
print(f"Validation error: {e}")
except Exception as e:
print(f"Unexpected error: {e}")
Galvenās atziņas
mistralaiSDK piedāvāclient.fim.complete()priekš FIM unclient.chat.complete()priekš čata- Parametri
promptunsuffixir specifiski FIM galapunktam - Izmanto
temperature=0automātiskajai pabeigšanai,0,2–0,7radošai ģenerēšanai stopierobežo ģenerēšanu līdz sakarīgam koda blokammin_tokensunmax_tokenskontrolē izvades garumu- Ražošanas kodā vienmēr apstrādā HTTP kļūdas