Il-Mudell codestral-embed
F'din il-paġna
Embeddings Speċjalizzati għall-Kodiċi
Filwaqt li mistral-embed huwa ddisinjat għal-lingwa naturali, codestral-embed huwa mudell ta’ embedding ottimizzat speċifikament għal-lingwi tal-ipprogrammar. Dan jifhem is-sintassi, is-semantika u l-loġika tal-kodiċi, u jagħmlu ferm superjuri għal mudell ġeneriku tat-test għal kwalunkwe kompitu li jinvolvi kodiċi sors.
Tista’ tara d-differenza f’każ sempliċi. Żewġ funzjonijiet li jagħmlu l-istess ħaġa—wieħed miktub b’loop for u l-ieħor billi juża list comprehension—ma jaqsmu kważi l-ebda token. Mudell tat-test jarahom bħala żewġ blokok distinti ta’ interpunzjoni; mudell imħarreġ fuq il-kodiċi jgħaqqadhom flimkien għax tgħallem li dawn iż-żewġ forom jesprimu l-istess intenzjoni.
Speċifikazzjonijiet Tekniċi
Il-mudell codestral-embed jidderieġi minn mistral-embed f’diversi aspetti ewlenin:
| Karatteristika | codestral-embed | mistral-embed |
|---|---|---|
| Dimensjonijiet Default | 1536 | 1024 |
| Dimensjonijiet Massimi | 3072 (doppju tad-default) | — |
| Tipi ta’ Output | float, int8, uint8, binary, ubinary | — |
| Ottimizzazzjoni | Imħarreġ fuq kodiċi sors multi-lingwa | Lingwa naturali |
Din il-flessibbiltà fid-dimensjonijiet u fit-tipi ta’ output hija dak li verament jiddistingwi ż-żewġ mudelli fil-prattika. Indiċi tal-kodiċi jilħaq malajr miljun vettur, u l-kapaċità li tnaqqas il-piż tagħhom b’erba’ darbiet tibdel il-fattura tal-infrastruttura.
Użu Bażiku
L-API hija identika għal dik ta’ mistral-embed, ħlief għall-isem tal-mudell codestral-embed. Xejn ieħor ma jinbidel fil-kodiċi tas-sejħa tiegħek, li jħallik tħaddem iż-żewġ mudelli fl-istess proġett billi tbiddel parametru wieħed biss.
from mistralai.client import Mistral
client = Mistral(api_key=api_key)
# Encode code snippets
response = client.embeddings.create(
model="codestral-embed",
inputs=[
"def fibonacci(n): return n if n <= 1 else fibonacci(n-1) + fibonacci(n-2)",
"function fibonacci(n) { return n <= 1 ? n : fibonacci(n-1) + fibonacci(n-2); }",
"public int fibonacci(int n) { return n <= 1 ? n : fibonacci(n-1) + fibonacci(n-2); }",
],
)
for i, data in enumerate(response.data):
print(f"Snippet {i+1}: vector of {len(data.embedding)} dimensions")
# Snippet 1: vector of 1536 dimensions
# Snippet 2: vector of 1536 dimensions
# Snippet 3: vector of 1536 dimensions
Innota li t-tliet snippets kollha jimplimentaw l-istess loġika (Fibonacci) fi tliet lingwi differenti. L-embeddings tagħhom ikunu qariba ħafna minkejja d-differenzi sintattiċi. Din il-proprjetà tippermetti t-tiftix translingwistiku: fuq bażi tal-kodiċi polyglot, żviluppatur Python jista’ jsib l-implimentazzjoni Java li jeħtieġ mingħajr ma jaf kelma waħda bil-Java.
Il-Parametru output_dimension
Tista’ tnaqqas id-daqs tal-vettur biex tiffranka spazju tal-ħażna, bl-ispiża ta’ telf żgħir fil-preċiżjoni:
# Reduced dimensions (512 instead of 1536)
response = client.embeddings.create(
model="codestral-embed",
output_dimension=512,
inputs=["def hello(): print('Hello, World!')"],
)
embedding = response.data[0].embedding
print(f"Dimensions: {len(embedding)}") # 512
L-ewwel dimensjonijiet tal-vettur huma l-aktar informattivi. Il-mudell huwa ddisinjat biex l-ewwel n dimensjonijiet iżommu l-massimu ta’ informazzjoni, u jippermettu din it-tnaqqis mingħajr telf katastrofiku. Fi kliem ieħor, it-tronkament ta’ vettur mhuwiex bħal li tarmi b’mod każwali terz tat-tifsira: iżżomm is-sinjal ewlieni u titlef in-nuansa, li tibqa’ vijabbli għalkollox għal pass inizjali ta’ filtrar.
Għażla ta’ Dimensjoni
Uża l-valuri li ġejjin bħala linji gwida abbażi tal-kuntest tal-proġett tiegħek. Tiftix b’preċiżjoni għolja fuq corpus modest jeħtieġ settings differenti minn indiċi li jaħdem fuq magna b’riżorsi limitati:
# Recommendations by use case
DIMENSIONS = {
"high_precision_search": 3072, # Maximum quality
"general_use": 1536, # Default, good compromise
"large_volume": 768, # Storage/quality trade-off
"prototype": 512, # Rapid development
"embedded": 256, # Strict memory constraints
}
Il-Parametru output_dtype
It-tip tal-output jikkontrolla l-preċiżjoni u d-daqs tal-valuri. Fejn output_dimension inaqqas in-numru ta’ valuri, output_dtype inaqqas il-piż ta’ kull wieħed minnhom. Dawn iż-żewġ lievi huma indipendenti u kumulattivi.
# Float (default) - maximum precision
response_float = client.embeddings.create(
model="codestral-embed",
output_dtype="float",
inputs=["def add(a, b): return a + b"],
)
# Int8 - 4x more compact than float32
response_int8 = client.embeddings.create(
model="codestral-embed",
output_dtype="int8",
inputs=["def add(a, b): return a + b"],
)
# Binary - extremely compact
response_binary = client.embeddings.create(
model="codestral-embed",
output_dtype="binary",
inputs=["def add(a, b): return a + b"],
)
Tagħqid tad-Dimensjoni u d-Dtype
Tista’ tgħaqqad iż-żewġ parametri għal kontroll preċiż. Iż-żewġ sejħiet hawn taħt jikkodifikaw l-istess mistoqsija SQL u juru l-estremitajiet tal-ispettru: l-ewwel timmira lejn indiċi ħafif mistoqsi kontinwament, filwaqt li t-tieni wieħed iservi għal tiftix ta’ referenza fejn kull punt ta’ preċiżjoni jgħodd.
# Compact and fast: 512 dimensions in int8
response = client.embeddings.create(
model="codestral-embed",
output_dimension=512,
output_dtype="int8",
inputs=["SELECT * FROM users WHERE active = true"],
)
# High quality: 3072 dimensions in float
response = client.embeddings.create(
model="codestral-embed",
output_dimension=3072,
output_dtype="float",
inputs=["SELECT * FROM users WHERE active = true"],
)
Hawnhekk hemm regola li għandek tistabbilixxi issa: il-vetturi fl-indiċi tiegħek u l-vetturi fil-mistoqsijiet tiegħek iridu jaqsmu eżattament l-istess parametri. Il-kodifika ta’ corpus f’512 dimensjoni u mbagħad it-tiftix f’1536 mhux biss tagħti riżultati fqar; tipproduċi żball jew punteġġi bla sens.
Lingwi Appoġġjati
codestral-embed jaħdem mal-lingwi kollha tal-ipprogrammar komuni. Fuq in-naħa tal-applikazzjoni, ikopri Python, JavaScript, u TypeScript, kif ukoll Java, C, C++, C#, Go, u Rust. Għad-data u l-preżentazzjoni, il-mudell jittratta SQL, HTML, u CSS. Għall-għodod u l-konfigurazzjoni, jimmaniġġja Shell/Bash, YAML, u JSON—u ħafna oħrajn, effettivament kwalunkwe lingwa preżenti fid-data tat-taħriġ. Fil-prattika, repository tipiku li jħallat Python, templates HTML, migrazzjonijiet SQL, u manifests YAML jista’ jiġi indicizzat kompletament b’mudell wieħed.
Punti Ewlenin
codestral-embedhuwa ottimizzat għall-kodiċi sors, mhux għal-lingwa naturali- 1536 dimensjoni b’mod default, skalabbli sa 3072
- Il-parametru
output_dimensionjħallik tnaqqas id-daqs tal-vettur - Il-parametru
output_dtypejikkontrolla l-preċiżjoni (float, int8, binary, eċċ.) - Il-mudell jifhem is-semantika tal-kodiċi irrispettivament mil-lingwa