Preskok na glavno vsebino
Slovenščina— Izberite jezik
Meni

Model codestral-embed

Lekcija 5 od 18 Posodobljeno 2. november 2026 Razvijalec
Na tej strani
  1. Specializirane vdelave za kodo
  2. Tehnične specifikacije
  3. Osnovna uporaba
  4. Parameter output_dimension
  5. Parameter output_dtype
  6. Kombiniranje dimenzije in dtype
  7. Podprti jeziki
  8. Ključne ugotovitve

Specializirane vdelave za kodo

Medtem ko je model mistral-embed zasnovan za naravni jezik, je codestral-embed model za vdelave, optimiziran posebej za programske jezike. Razume sintakso, semantiko in logiko kode, zaradi česar je bistveno boljši od splošnega besedilnega modela pri vsaki nalogi, ki vključuje izvorno kodo.

Razliko lahko opazite že na preprostem primeru. Dve funkciji, ki opravljata isto stvar – ena zapisana z zanko for, druga pa z uporabo seznamskega razumevanja (list comprehension) – si delita skoraj nič skupnih žetonov. Besedilni model ju vidi kot dva ločena bloka ločil; model, usposobljen za kodo, pa ju združi, ker se je naučil, da ta dva zapisa izražata isti namen.

Tehnične specifikacije

Model codestral-embed se od mistral-embed razlikuje v več ključnih vidikih:

Značilnostcodestral-embedmistral-embed
Privzete dimenzije15361024
Največje dimenzije3072 (dvakratnik privzetega)—
Vrste izhodafloat, int8, uint8, binary, ubinary—
OptimizacijaUsposobljen na večjezični izvorni kodiNaravni jezik

Prav ta prilagodljivost glede dimenzij in vrst izhoda v praksi resnično loči oba modela. Indeks kode hitro doseže milijon vektorjev in možnost zmanjšanja njihove teže za štirikrat drastično spremeni stroške infrastrukture.

Osnovna uporaba

API je identičen kot pri mistral-embed, razen imena modela codestral-embed. V vaši klici kodi se ne spremeni nič drugega, kar vam omogoča uporabo obeh modelov v istem projektu zgolj s prilagoditvijo enega parametra.

from mistralai.client import Mistral

client = Mistral(api_key=api_key)

# Kodiranje kode
response = client.embeddings.create(
    model="codestral-embed",
    inputs=[
        "def fibonacci(n): return n if n <= 1 else fibonacci(n-1) + fibonacci(n-2)",
        "function fibonacci(n) { return n <= 1 ? n : fibonacci(n-1) + fibonacci(n-2); }",
        "public int fibonacci(int n) { return n <= 1 ? n : fibonacci(n-1) + fibonacci(n-2); }",
    ],
)

for i, data in enumerate(response.data):
    print(f"Snippet {i+1}: vector of {len(data.embedding)} dimensions")
# Snippet 1: vector of 1536 dimensions
# Snippet 2: vector of 1536 dimensions
# Snippet 3: vector of 1536 dimensions

Opazite, da vsi trije izseki implementirajo isto logiko (Fibonacci) v treh različnih jezikih. Njihove vdelave bodo zelo blizu kljub sintaktičnim razlikam. Ta lastnost omogoča iskanje med jeziki: v večjezični kodi lahko razvijalec Pythona najde potrebno implementacijo v Javi, ne da bi znal besedo javanskega jezika.

Parameter output_dimension

Velikost vektorja lahko zmanjšate, da prihranite prostor za shranjevanje, vendar ob rahli izgubi natančnosti:

# Zmanjšane dimenzije (512 namesto 1536)
response = client.embeddings.create(
    model="codestral-embed",
    output_dimension=512,
    inputs=["def hello(): print('Hello, World!')"],
)

embedding = response.data[0].embedding
print(f"Dimensions: {len(embedding)}")  # 512

Prve dimenzije vektorja so najbolj informativne. Model je zasnovan tako, da prvih n dimenzij ohrani največjo količino informacij, kar omogoča to zmanjšanje brez katastrofalne izgube. Z drugimi besedami, krajšanje vektorja ni kot naključno zavreženje tretjine pomena: ohranite jedro signala in izgubite nianse, kar ostaja popolnoma uporabno za začetno filtriranje.

Izbira dimenzije

Uporabite naslednje vrednosti kot smernice glede na kontekst vašega projekta. Iskanje z visoko natančnostjo na skromnem korpusu zahteva drugačne nastavitve kot indeks, ki teče na stroju z omejenimi viri:

# Priporočila glede na primer uporabe
DIMENSIONS = {
    "high_precision_search": 3072,   # Najvišja kakovost
    "general_use": 1536,             # Privzeto, dober kompromis
    "large_volume": 768,             # Kompromis med shrambo in kakovostjo
    "prototype": 512,                # Hiter razvoj
    "embedded": 256,                 # Stroge omejitve pomnilnika
}

Parameter output_dtype

Vrsta izhoda nadzoruje natančnost in velikost vrednosti. Medtem ko output_dimension zmanjša število vrednosti, output_dtype zmanjša težo vsake posamezne vrednosti. Ti dve vzvodi sta neodvisni in kumulativni.

# Float (privzeto) - največja natančnost
response_float = client.embeddings.create(
    model="codestral-embed",
    output_dtype="float",
    inputs=["def add(a, b): return a + b"],
)

# Int8 - 4x bolj kompaktno kot float32
response_int8 = client.embeddings.create(
    model="codestral-embed",
    output_dtype="int8",
    inputs=["def add(a, b): return a + b"],
)

# Binary - izjemno kompaktno
response_binary = client.embeddings.create(
    model="codestral-embed",
    output_dtype="binary",
    inputs=["def add(a, b): return a + b"],
)

Kombiniranje dimenzije in dtype

Oba parametra lahko kombinirate za natančen nadzor. Spodnja dva klica kodirata isti poizvedbo SQL in ponazarjata skrajnosti spektra: prvi cilja na lahek indeks, ki se neprestano poizveduje, drugi pa služi referenčnemu iskanju, kjer je pomembna vsaka točka natančnosti.

# Kompaktno in hitro: 512 dimenzij v int8
response = client.embeddings.create(
    model="codestral-embed",
    output_dimension=512,
    output_dtype="int8",
    inputs=["SELECT * FROM users WHERE active = true"],
)

# Visoka kakovost: 3072 dimenzij v float
response = client.embeddings.create(
    model="codestral-embed",
    output_dimension=3072,
    output_dtype="float",
    inputs=["SELECT * FROM users WHERE active = true"],
)

Tukaj je pravilo, ki ga morate vzpostaviti takoj: vektorji v vašem indeksu in vektorji v vaših poizvedbah morajo imeti popolnoma enake parametre. Kodiranje korpusa v 512 dimenzijah in nato poizvedovanje v 1536 ne bo le dalo slabih rezultatov; povzročilo bo napako ali nesmiselne rezultate.

Podprti jeziki

codestral-embed deluje z vsemi običajnimi programskimi jeziki. Na strani aplikacij pokriva Python, JavaScript in TypeScript, pa tudi Javo, C, C++, C#, Go in Rust. Za podatke in predstavitev model obdela SQL, HTML in CSS. Za orodja in konfiguracijo upravlja Shell/Bash, YAML in JSON – ter številne druge, dejansko vsak jezik, prisoten v podatkih za usposabljanje. V praksi je mogoče tipično skladišče, ki meša Python, HTML predloge, SQL migracije in YAML manifeste, v celoti indeksirati z enim samim modelom.

Ključne ugotovitve

  • codestral-embed je optimiziran za izvorno kodo, ne za naravni jezik
  • Privzeto 1536 dimenzij, razširljivo do 3072
  • Parameter output_dimension vam omogoča zmanjšanje velikosti vektorja
  • Parameter output_dtype nadzoruje natančnost (float, int8, binary itd.)
  • Model razume semantiko kode ne glede na jezik