Pereiti prie pagrindinio turinio
Lietuvių— Pasirinkite kalbą
Meniu

Codestral API su Python

Paskaita 3 iš 14 Atnaujinta 2026 m. lapkričio 2 d. Kūrėjas
Šiame puslapyje
  1. Codestral iškvietimas iš Python
  2. Diegimas ir konfigūracija
  3. Pilnas FIM iškvietimas
  4. Pokalbio iškvietimas kodo generavimui
  5. Išplėstiniai parametrai
  6. Du modeliai kopijavimui ir įklijavimui
  7. Klaidų apdorojimas
  8. Svarbiausi punktai

Codestral iškvietimas iš Python

Šioje pamokoje pereiname nuo teorijos prie vykdomojo kodo. Naudosi „Mistral AI“ Python SDK, kad užklaustum Codestral per jo du galinius taškus, sureguliuotum išplėstinius parametrus, atskiriančius naudingą pasiūlymą nuo pernelyg išsamaus, ir įgyvendintum modelius, randamus daugelyje realių integracijų.

Diegimas ir konfigūracija

Įdiek SDK viena komanda:

pip install mistralai

Gauk savo API raktą iš console.mistral.ai ir nuskaityk jį iš aplinkos kintamųjų, užuot įkodavęs tiesiai į failą:

import os
from mistralai.client import Mistral

client = Mistral(api_key=os.environ["MISTRAL_API_KEY"])

Codestral aptarnauja dvi platformos, tarp kurių renkatės kurdami raktą. api.mistral.ai veikia mokant pagal naudojimą: tai standartinis kelias, kai Codestral yra tik vienas iš daugelio aplikacijos komponentų. codestral.mistral.ai yra specializuotas galinis taškas, nemokamai arba pagal prenumeratą prieinamas kūrėjams tiesioginiam naudojimui jų redaktoriuje.

Pilnas FIM iškvietimas

Štai išsamus FIM iškvietimas su visais svarbiais parametrais:

from mistralai.client import Mistral

client = Mistral(api_key=os.environ["MISTRAL_API_KEY"])

response = client.fim.complete(
    model="codestral-latest",
    prompt="def calculate_vat(price_excl: float, rate: float = 0.20) -> float:",
    suffix="price = float(input('Price excl. VAT: '))\nprint(f'Price incl. VAT: {calculate_vat(price):.2f} EUR')",
    temperature=0,
    max_tokens=150,
    stop=["\n\n"],
)

completion = response.choices[0].message.content
print(completion)

Atsakymo analizė

Grąžinamas objektas turi daugiau nei tik sugeneruotą tekstą. Gamybinėje aplinkoje turi sistemingai tikrinti tris informacijos dalis: patį užbaigimą, sunaudotų tokenų skaičių, lemiantį sąskaitą, ir sustojimo priežastį, kuri parodo, ar modelis baigė natūraliai, ar pasiekė tavo nustatytą ribą.

# Pasiekiamas sugeneruotas užbaigimas
text = response.choices[0].message.content

# Tikrinamas panaudotų tokenų skaičius
tokens_prompt = response.usage.prompt_tokens
tokens_completion = response.usage.completion_tokens
tokens_total = response.usage.total_tokens

# Tikrinama sustojimo priežastis
reason = response.choices[0].finish_reason  # "stop", "length", etc.

Jei pusėje iškvietimų gauni finish_reason reikšmę "length", tai aiškus signalas: tavo max_tokens yra per mažas, ir vartotojams pateiki apiplėštą kodą.

Pokalbio iškvietimas kodo generavimui

Kai faile nėra žymeklio viduryje – pavyzdžiui, generuojant visą kodą, aiškinant ar performuojant – perima pokalbio galinis taškas. Sistemos žinutė tada apibrėžia išvesties formatą, todėl nereikia papildomai valyti atsakymo:

response = client.chat.complete(
    model="codestral-latest",
    messages=[
        {
            "role": "system",
            "content": "You are an expert Python development assistant. Respond with code only, no explanations."
        },
        {
            "role": "user",
            "content": "Write a Python function that validates an email address using regex."
        }
    ],
    temperature=0.2,
    max_tokens=500,
)

code = response.choices[0].message.content
print(code)

Išplėstiniai parametrai

Pora min_tokens / max_tokens apibrėžia išvesties ilgį. Apatinė riba naudinga generuojant bloką, kuris negali būti trumpesnis už tam tikrą apimtį, pavyzdžiui, funkciją su klaidų apdorojimu.

# min_tokens: priverčia minimalų išvesties ilgį
# max_tokens: riboja maksimalų ilgį
response = client.fim.complete(
    model="codestral-latest",
    prompt=prompt,
    suffix=suffix,
    min_tokens=20,
    max_tokens=300,
)

Sustojimo tokenai atlieka kitokį vaidmenį: jie sustabdo generavimą ties specifiniu šablonu, išlaikydami užbaigimą dabartinės funkcijos ribose ir neleisdami modeliui pereiti prie kitos.

# Sustabdyti generavimą ties specifiniais šablonais
response = client.fim.complete(
    model="codestral-latest",
    prompt=prompt,
    suffix=suffix,
    stop=["\n\n", "\nclass ", "\ndef "],  # Sustabdyti prieš naują funkciją/klasę
)

Galiausiai, temperatūra valdo kintamumą. Esant 0, tas pats įvesties duomenys visada duoda tą patį rezultatą, ko reikalauja automatinis užbaigimas. Apie 0.3 modelis siūlo variantus, kas naudinga rodant kelis pasiūlymus. Esant 0.7, esi kodo idėjų generavimo režimu – tai tinka tyrinėjant prieigas, bet netinka redagavimo eigai.

# temperature=0: deterministinis (automatinis užbaigimas)
# temperature=0.3: šiek tiek kūrybiškas (kelios sugestijos)
# temperature=0.7: kūrybiškas (kodo idėjų generavimas)

response = client.fim.complete(
    model="codestral-latest",
    prompt=prompt,
    suffix=suffix,
    temperature=0.3,
    top_p=0.95,
)

Du modeliai kopijavimui ir įklijavimui

Pirmasis atkuria IDE elgseną: padalini failo turinį ties žymeklio pozicija, ir abi dalys tampa prompt bei suffix.

def autocomplete_ide(file_content: str, cursor_position: int) -> str:
    """Simuliuoja IDE automatinį užbaigimą su Codestral FIM."""
    prompt = file_content[:cursor_position]
    suffix = file_content[cursor_position:]

    response = client.fim.complete(
        model="codestral-latest",
        prompt=prompt,
        suffix=suffix,
        temperature=0,
        max_tokens=100,
        stop=["\n\n", "\ndef ", "\nclass "],
    )

    return response.choices[0].message.content

Antrasis automatizuoja dokumentaciją esamam projektui: perduodi funkciją, gauni jos docstring, o sistemos instrukcija užtikrina vienodą formatą, kad rezultatas būtų įterpiamas be papildomo redagavimo.

def generate_docstring(function_code: str) -> str:
    """Generuoja docstring Python funkcijai."""
    response = client.chat.complete(
        model="codestral-latest",
        messages=[
            {
                "role": "system",
                "content": "Generate a Google-style docstring for the following function. Return ONLY the docstring between triple quotes."
            },
            {
                "role": "user",
                "content": function_code
            }
        ],
        temperature=0,
        max_tokens=300,
    )
    return response.choices[0].message.content

Klaidų apdorojimas

Tinklo užklausa anksčiau ar vėliau nepavyks, o redaktoriaus plėtinys, kuris „lūžta“ dėl validacijos klaidos, yra blogesnis nei plėtinys be užbaigimo. Todėl visada apgaubk savo iškvietimus:

from mistralai.client import Mistral
from mistralai.client.errors import HTTPValidationError

try:
    response = client.fim.complete(
        model="codestral-latest",
        prompt=prompt,
        suffix=suffix,
    )
except HTTPValidationError as e:
    print(f"Validation error: {e}")
except Exception as e:
    print(f"Unexpected error: {e}")

Svarbiausi punktai

  • mistralai SDK pateikia client.fim.complete() FIM ir client.chat.complete() pokalbiams
  • Parametrai prompt ir suffix yra specifiniai FIM galiniam taškui
  • Naudok temperature=0 automatiniam užbaigimui, 0.2-0.7 kūrybiniam generavimui
  • stop riboja generavimą iki logiško kodo bloko
  • min_tokens ir max_tokens valdo išvesties ilgį
  • Gamybinėje kode visada apdorok HTTP klaidas