Il-Mudell mistral-embed
F'din il-paġna
Ħarsa ġenerali lejn mistral-embed
mistral-embed huwa l-mudell ta’ embedding tat-test ta’ Mistral AI. Dan jibdel kwalunkwe test f’vettur b’1024 dimensjoni, irrispettivament mit-tul tal-input—kemm jekk hija frażi qasira jew paragrafu sħiħ, il-vettur tal-output dejjem ikollu l-istess daqs. Din id-dimensjonalità fissa mhix dettall minuri: tippermettilek tindiċizza kemm it-titolu ta’ prodott kif ukoll id-deskrizzjoni sħiħa tiegħu fl-istess spazju vettorjali, imbagħad tqabbilhom direttament mingħajr ebda proċessar speċjali biex tirrikonċilja formati differenti.
Dan il-mudell huwa ottimizzat għal kompiti ta’ tiftix semantiku, klassifikazzjoni u clustering fuq test bil-lingwa naturali (artikli, dokumenti, konversazzjonijiet u aktar). Użah biex tindiċizza bażi tal-għarfien, FAQ, trascrizjonijiet ta’ laqgħat, jew għaxar snin ta’ biljetti tas-support.
Setup u Installazzjoni
Qabel ma ssejjaħ l-API, installa l-SDK ta’ Python ta’ Mistral u kkonfigura ċ-ċavetta tal-API tiegħek:
# Installation
# pip install mistralai
import os
from mistralai.client import Mistral
# Initialize the client
api_key = os.environ.get("MISTRAL_API_KEY")
client = Mistral(api_key=api_key)
Ikseb iċ-ċavetta tal-API tiegħek mill-konsoll ta’ Mistral. Aħżinha f’varjabbli tal-ambjent biex iżżommha ‘l bogħod mill-kodiċi tiegħek. Il-qari permezz ta’ os.environ.get mhix sempliċiment iġjene teoretika: dan jipprevjeni liċ-ċavetta tiegħek tispiċċa f’snapshot tal-istorja ta’ Git fil-jum li l-proġett tiegħek isir pubbliku.
Ġenerazzjoni ta’ Embeddings
Is-sejħa tal-API hija sempliċi: għaddi lista ta’ testi u rkupra l-vetturi korrispondenti. Innota li anke għal test wieħed, l-input irid ikun lista—l-API taħdem dejjem bil-batches, li jħallas l-ispejjeż hekk kif il-corpus tiegħek jikber.
from mistralai.client import Mistral
client = Mistral(api_key=api_key)
# Generate embeddings for one or more texts
response = client.embeddings.create(
model="mistral-embed",
inputs=[
"Embeddings capture semantic meaning.",
"Mistral AI offers high-performance models.",
"RAG improves response quality."
],
)
# Access the vectors
for i, data in enumerate(response.data):
print(f"Text {i+1}: vector of {len(data.embedding)} dimensions")
print(f" First elements: {data.embedding[:5]}")
Output tipiku:
Text 1: vector of 1024 dimensions
First elements: [0.0234, -0.1567, 0.0891, 0.0123, -0.0456]
Text 2: vector of 1024 dimensions
First elements: [0.0189, -0.1234, 0.0678, 0.0345, -0.0567]
Text 3: vector of 1024 dimensions
First elements: [0.0312, -0.1456, 0.0789, 0.0234, -0.0345]
Struttura tar-Rispons tal-API
Ir-rispons fih aktar minn sempliċiment vetturi. Jgħidlek ukoll liema mudell intuża attwalment u kemm-il token ġew ikkunsmati—żewġ biċċiet ta’ informazzjoni li trid tirreġistra darba li l-encoding ikun qed jaħdem fil-produzzjoni u xi ħadd ikollu bżonn jispjega l-kont. Agħti attenzjoni partikolari lill-qasam index: dan jindika l-pożizzjoni tat-test fil-lista li bgħatt, u jħallik timmappja kull vettur lura għad-dokument sors tiegħu.
response = client.embeddings.create(
model="mistral-embed",
inputs=["Example text to encode."],
)
# Response object
print(response.model) # "mistral-embed"
print(response.usage) # tokens consumed
# Embedding data
embedding_data = response.data[0]
print(embedding_data.index) # 0 (position in the inputs list)
print(len(embedding_data.embedding)) # 1024
print(type(embedding_data.embedding)) # list[float]
Eżempju Sħiħ: Encode u Ħażna
Hawnhekk hemm pipeline tipika biex tikkodifika corpus ta’ dokumenti u tħejji l-vetturi għat-tiftix futur. Il-bidla għal NumPy hija l-pass kritiku: filwaqt li l-vetturi tiegħek huma listi ta’ Python, kull kalkolu ta’ similitudni jsir element b’element; ladarba tibni matriċi, operazzjoni waħda tqabbel il-mistoqsija mal-corpus kollu.
import numpy as np
from mistralai.client import Mistral
client = Mistral(api_key=api_key)
# Document corpus
documents = [
"Mistral AI is a French artificial intelligence company.",
"RAG combines information retrieval and text generation.",
"Embeddings enable semantic search.",
"Python is the most widely used language in data science.",
"FAISS is a vector search library by Meta.",
]
# Encode all documents
response = client.embeddings.create(
model="mistral-embed",
inputs=documents,
)
# Convert to a NumPy matrix for calculations
embeddings_matrix = np.array([d.embedding for d in response.data])
print(f"Embeddings matrix: {embeddings_matrix.shape}")
# Embeddings matrix: (5, 1024)
# Save for later use
np.save("document_embeddings.npy", embeddings_matrix)
Il-ħażna bħala .npy tevita li tħallas biex terġa’ tagħmel encoding kull darba li l-applikazzjoni tiegħek terġa’ tibda. Fuq corpus ta’ diversi eluf ta’ dokumenti, din hija d-differenza bejn bidla istantanja u diversi minuti ta’ sejħiet tal-API bil-ħlas.
Limiti u L-Aħjar Prattiki
Erba’ fatturi jiddeterminaw il-kwalità tar-riżultati tiegħek. L-ewwel, it-tul massimu: il-mudell jaqta’ testi li huma twal wisq, u t-truncation hija silenzjuża—rapport ta’ erbgħin paġna kkodifikat f’blokk wieħed se jirrappreżenta effettivament biss il-bidu tiegħu. Ippreferixxi biċċiet (chunks) ta’ 512 sa 2048 token, koperti fil-lezzjoni dwar il-chunking.
It-tieni, kuntrarjament għal xi APIs oħra, mistral-embed ma jagħmilx distinzjoni bejn query u document: m’hemm l-ebda tip ta’ input, sempliċiment tgħaddi t-test. Fil-prattika, il-mistoqsijiet tal-utent u d-dokumenti indiċizzati jgħaddu mill-istess sejħa bl-istess parametri, u jissimplifikaw il-kodiċi tat-tiftix tiegħek.
It-tielet punt huwa l-kost: l-embeddings jiġu ffratturati għal kull token. L-encoding ta’ elf dokument wieħed wieħed jiswi l-istess f’termini ta’ tokens bħall-encoding tagħhom f’batch, iżda jimmultiplika l-vjaġġi round-trip tan-netwerk u l-ħin tal-ipproċessar; toptimizza billi tagħmel batching tas-sejħiet, li huwa s-suġġett tal-lezzjoni li jmiss dwar il-batching. Fl-aħħar nett, id-determiniżmu jaħdem favurek: għall-istess test, il-mudell dejjem jirritorna l-istess vettur. Għalhekk tista’ taħżen l-embeddings fil-cache bil-hash tat-test u terġa’ tagħmel encoding biss għal dak li nbidel attwalment bejn żewġ verżjonijiet ta’ dokument.
Punti Ewlenin
- mistral-embed jipproduċi vetturi b’1024 dimensjoni għal kwalunkwe test
- L-API taċċetta lista ta’ inputs u tirritorna l-vetturi korrispondenti
- Il-vetturi huma listi ta’ floats, faċilment konvertibbli għal arrays ta’ NumPy
- Aħżen l-embeddings tiegħek bħala matriċi ta’ NumPy għall-kalkoli tas-similitudni
- Ftakar li taqsam testi twal qabel ma tagħmilhom encode