Modelul mistral-embed
Pe această pagină
Prezentare generală a mistral-embed
mistral-embed este modelul de încorporare (embedding) de text dezvoltat de Mistral AI. Acesta transformă orice text într-un vector de 1024 de dimensiuni, indiferent de lungimea intrării – fie că este vorba despre o propoziție scurtă sau un paragraf întreg, vectorul de ieșire are întotdeauna aceeași dimensiune. Această dimensionalitate fixă nu este un detaliu minor: vă permite să indexați atât titlul unui produs, cât și descrierea sa completă în același spațiu vectorial, apoi să le comparați direct fără niciun proces special de reconciliere a formatelor diferite.
Acest model este optimizat pentru sarcini de căutare semantică, clasificare și clusterizare pe texte în limbaj natural (articole, documente, conversații și altele). Utilizați-l pentru a indexa o bază de cunoștințe, o secțiune de întrebări frecvente (FAQ), transcrieri ale întâlnirilor sau un deceniu de tichete de suport.
Configurare și instalare
Înainte de a apela API-ul, instalați SDK-ul Mistral pentru Python și configurați cheia dvs. API:
# Installation
# pip install mistralai
import os
from mistralai.client import Mistral
# Initialize the client
api_key = os.environ.get("MISTRAL_API_KEY")
client = Mistral(api_key=api_key)
Obțineți cheia API din consola Mistral. Stocați-o într-o variabilă de mediu pentru a o ține departe de codul sursă. Citirea prin os.environ.get nu este doar o igienă teoretică: aceasta împiedică scurgerea cheii într-un snapshot al istoricului Git în ziua în care proiectul dvs. devine public.
Generarea încorporărilor (Embeddings)
Apelul API este simplu: transmiteți o listă de texte și recuperați vectorii corespunzători. Rețineți că, chiar și pentru un singur text, intrarea trebuie să fie o listă – API-ul funcționează întotdeauna în loturi (batches), lucru care se dovedește avantajos imediat ce corpusul dvs. crește.
from mistralai.client import Mistral
client = Mistral(api_key=api_key)
# Generate embeddings for one or more texts
response = client.embeddings.create(
model="mistral-embed",
inputs=[
"Embeddings capture semantic meaning.",
"Mistral AI offers high-performance models.",
"RAG improves response quality."
],
)
# Access the vectors
for i, data in enumerate(response.data):
print(f"Text {i+1}: vector of {len(data.embedding)} dimensions")
print(f" First elements: {data.embedding[:5]}")
Rezultat tipic:
Text 1: vector of 1024 dimensions
First elements: [0.0234, -0.1567, 0.0891, 0.0123, -0.0456]
Text 2: vector of 1024 dimensions
First elements: [0.0189, -0.1234, 0.0678, 0.0345, -0.0567]
Text 3: vector of 1024 dimensions
First elements: [0.0312, -0.1456, 0.0789, 0.0234, -0.0345]
Structura răspunsului API
Răspunsul conține mai mult decât simplii vectori. Acesta vă indică, de asemenea, ce model a fost utilizat efectiv și câți tokeni au fost consumați – două informații pe care veți dori să le înregistrați (log) odată ce codarea rulează în producție și cineva trebuie să explice factura. Acordați o atenție deosebită câmpului index: acesta indică poziția textului în lista pe care ați trimis-o, permițându-vă să mapați fiecare vector înapoi la documentul sursă.
response = client.embeddings.create(
model="mistral-embed",
inputs=["Example text to encode."],
)
# Response object
print(response.model) # "mistral-embed"
print(response.usage) # tokens consumed
# Embedding data
embedding_data = response.data[0]
print(embedding_data.index) # 0 (position in the inputs list)
print(len(embedding_data.embedding)) # 1024
print(type(embedding_data.embedding)) # list[float]
Exemplu complet: Codare și stocare
Iată un flux tipic pentru codarea unui corpus de documente și pregătirea vectorilor pentru căutări ulterioare. Trecerea la NumPy este pasul critic: în timp ce vectorii dvs. sunt liste Python, fiecare calcul de similaritate are loc element cu element; odată ce construiți o matrice, o singură operație compară interogarea cu întregul corpus.
import numpy as np
from mistralai.client import Mistral
client = Mistral(api_key=api_key)
# Document corpus
documents = [
"Mistral AI is a French artificial intelligence company.",
"RAG combines information retrieval and text generation.",
"Embeddings enable semantic search.",
"Python is the most widely used language in data science.",
"FAISS is a vector search library by Meta.",
]
# Encode all documents
response = client.embeddings.create(
model="mistral-embed",
inputs=documents,
)
# Convert to a NumPy matrix for calculations
embeddings_matrix = np.array([d.embedding for d in response.data])
print(f"Embeddings matrix: {embeddings_matrix.shape}")
# Embeddings matrix: (5, 1024)
# Save for later use
np.save("document_embeddings.npy", embeddings_matrix)
Salvarea sub formă de .npy evită plata pentru recodarea la fiecare repornire a aplicației. Pentru un corpus de câteva mii de documente, aceasta face diferența dintre o pornire instantanee și câteva minute de apeluri API facturate.
Limite și bune practici
Patru factori determină calitatea rezultatelor obținute. În primul rând, lungimea maximă: modelul trunchiază textele care sunt prea lungi, iar trunchierea este silențioasă – un raport de patruzeci de pagini codat într-un singur bloc va reprezenta efectiv doar începutul său. Preferați fragmente (chunks) de 512 până la 2048 de tokeni, aspect abordat în lecția despre fragmentare.
În al doilea rând, spre deosebire de alte API-uri, mistral-embed nu face distincție între query (interogare) și document: nu există un tip de intrare, transmiteți pur și simplu textul. În practică, întrebările utilizatorilor și documentele indexate trec prin același apel cu aceiași parametri, simplificând codul de căutare.
Al treilea punct este costul: încorporările sunt facturate per token. Codarea a o mie de documente unul câte unul costă la fel în tokeni ca și codarea lor într-un lot, dar înmulțește dus-întorsurile prin rețea și timpul de procesare; optimizați prin gruparea apelurilor în loturi, subiectul următoarei lecții despre batching. În final, determinismul lucrează în favoarea dvs.: pentru același text, modelul returnează întotdeauna același vector. Prin urmare, puteți stoca în cache încorporările prin hash-ul textului și să recodați doar ceea ce s-a schimbat efectiv între două versiuni ale unui document.
Puncte cheie
- mistral-embed produce vectori de 1024 de dimensiuni pentru orice text
- API-ul acceptă o listă de intrări și returnează vectorii corespunzători
- Vectorii sunt liste de numere în virgulă mobilă (floats), ușor convertibile în array-uri NumPy
- Stocați încorporările ca o matrice NumPy pentru calculele de similaritate
- Nu uitați să divizați textele lungi înainte de codare