Modelis mistral-embed
Šajā lapā
Pārskats par mistral-embed
mistral-embed ir Mistral AI tekstu iegulējumu modelis. Tas pārveido jebkuru tekstu 1024 dimensiju vektorā neatkarīgi no ievades garuma – vai tas būtu īss teikums vai vesels rindkopa, izejas vektors vienmēr būs vienāda izmēra. Šī fiksētā dimensionalitāte nav sīkums: tā ļauj vienā vektoru telpā indeksēt gan produkta nosaukumu, gan tā pilnu aprakstu, lai pēc tam tos varētu tieši salīdzināt bez papildu apstrādes dažādu formātu saskaņošanai.
Šis modelis ir optimizēts semantiskās meklēšanas, klasifikācijas un kopu veidošanas uzdevumiem dabiskās valodas tekstiem (raksti, dokumenti, sarunas un citi). Izmanto to zināšanu bāzes, BUJ, sapulču pierakstu vai pat desmit gadu atbalsta pieteikumu indeksēšanai.
Iestatīšana un instalēšana
Pirms API izsaukuma instalē Mistral Python SDK un konfigurē savu API atslēgu:
# Installation
# pip install mistralai
import os
from mistralai.client import Mistral
# Initialize the client
api_key = os.environ.get("MISTRAL_API_KEY")
client = Mistral(api_key=api_key)
API atslēgu iegūsti Mistral konsolē. Glabā to vides mainīgajā, lai tā nenonāktu tavā kodā. Lasīšana caur os.environ.get nav tikai teorētiska higiēna: tas novērš atslēgas nonākšanu Git vēstures momentuzņēmumā dienā, kad tavs projekts kļūst publisks.
Iegulējumu ģenerēšana
API izsaukums ir vienkāršs: nodod tekstu sarakstu un saņem atbilstošos vektorus. Ņem vērā, ka pat viena teksta gadījumā ievadei ir jābūt sarakstam – API vienmēr strādā ar kopām (batch), kas atmaksājas, tiklīdz tavs korpus izaug.
from mistralai.client import Mistral
client = Mistral(api_key=api_key)
# Generate embeddings for one or more texts
response = client.embeddings.create(
model="mistral-embed",
inputs=[
"Embeddings capture semantic meaning.",
"Mistral AI offers high-performance models.",
"RAG improves response quality."
],
)
# Access the vectors
for i, data in enumerate(response.data):
print(f"Text {i+1}: vector of {len(data.embedding)} dimensions")
print(f" First elements: {data.embedding[:5]}")
Tipiska izeja:
Text 1: vector of 1024 dimensions
First elements: [0.0234, -0.1567, 0.0891, 0.0123, -0.0456]
Text 2: vector of 1024 dimensions
First elements: [0.0189, -0.1234, 0.0678, 0.0345, -0.0567]
Text 3: vector of 1024 dimensions
First elements: [0.0312, -0.1456, 0.0789, 0.0234, -0.0345]
API atbildes struktūra
Atbilde satur ne tikai vektorus. Tā norāda arī to, kurš modelis faktiski tika izmantots un cik tokeni ir patērēti – divi informācijas gabali, kurus vēlēsies reģistrēt, kad kodēšana darbojas ražošanas vidē un kādam būs jāpaskaidro rēķins. Pievērs īpašu uzmanību laukam index: tas norāda teksta pozīciju nosūtītajā sarakstā, ļaujot katram vektoram atgriezties pie tā avota dokumenta.
response = client.embeddings.create(
model="mistral-embed",
inputs=["Example text to encode."],
)
# Response object
print(response.model) # "mistral-embed"
print(response.usage) # tokens consumed
# Embedding data
embedding_data = response.data[0]
print(embedding_data.index) # 0 (position in the inputs list)
print(len(embedding_data.embedding)) # 1024
print(type(embedding_data.embedding)) # list[float]
Pilns piemērs: Kodēšana un saglabāšana
Lūk, tipiska cauruļvada darbība dokumentu korpusa kodēšanai un vektoru sagatavošanai turpmākai meklēšanai. Pāreja uz NumPy ir kritiskais solis: kamēr tavi vektori ir Python saraksti, katra līdzības aprēķina notiek elements pa elementam; tiklīdz izveido matricu, viena operācija salīdzina vaicājumu ar visu korpusu.
import numpy as np
from mistralai.client import Mistral
client = Mistral(api_key=api_key)
# Document corpus
documents = [
"Mistral AI is a French artificial intelligence company.",
"RAG combines information retrieval and text generation.",
"Embeddings enable semantic search.",
"Python is the most widely used language in data science.",
"FAISS is a vector search library by Meta.",
]
# Encode all documents
response = client.embeddings.create(
model="mistral-embed",
inputs=documents,
)
# Convert to a NumPy matrix for calculations
embeddings_matrix = np.array([d.embedding for d in response.data])
print(f"Embeddings matrix: {embeddings_matrix.shape}")
# Embeddings matrix: (5, 1024)
# Save for later use
np.save("document_embeddings.npy", embeddings_matrix)
Saglabāšana formātā .npy ļauj izvairīties no maksas par atkārtotu kodēšanu katru reizi, kad tava lietotne restartējas. Several tūkstošu dokumentu korpusa gadījumā šī ir atšķirība starp tūlītēju startu un vairākām minūtēm apmaksātu API izsaukumu.
Ierobežojumi un labākā prakse
Četri faktori nosaka tavu rezultātu kvalitāti. Pirmkārt, maksimālais garums: modelis saīsina pārāk garus tekstus, un šī saīsināšana notiek klusi – četrdesmit lappušu ziņojums, kas kodēts vienā blokā, faktiski attēlos tikai tā sākumu. Dod priekšroku fragmentiem no 512 līdz 2048 tokeniem, kas aplūkoti nodarbībā par fragmentēšanu.
Otrkārt, atšķirībā no dažiem citiem API, mistral-embed nešķir query un document: šeit nav ievades tipa, tu vienkārši nodod tekstu. Praksē lietotāju jautājumi un indeksētie dokumenti iziet cauri vienam un tam pašam izsaukumam ar vieniem un tiem pašiem parametriem, vienkāršojot tavu meklēšanas kodu.
Trešais punkts ir izmaksas: iegulējumi tiek apmaksāti par tokeni. Tūkstoša dokumentu kodēšana pa vienam maksā tikpat tokenos, cik to kodēšana kopā, taču tas reizina tīkla aprites laiku un apstrādes laiku; tu optimizē, veicot izsaukumus kopās, kas ir nākamās nodarbības tēma par kopu veidošanu. Visbeidzot, determinisms strādā tavā labā: vienam un tam pašam tekstam modelis vienmēr atgriež vienu un to pašu vektoru. Tādēļ vari kešot iegulējumus pēc teksta haša un pārkodēt tikai to, kas faktiski ir mainījies starp divām dokumenta versijām.
Galvenās atziņas
- mistral-embed ģenerē 1024 dimensiju vektorus jebkuram tekstam
- API pieņem ievades sarakstu un atgriež atbilstošos vektorus
- Vektori ir peldošā komata skaitļu saraksti, kurus viegli pārvērst NumPy masīvos
- Saglabā savus iegulējumus kā NumPy matricu līdzības aprēķiniem
- Atceries sadalīt garus tekstus pirms kodēšanas