Model mistral-embed
Na tejto strane
Prehľad modelu mistral-embed
mistral-embed je model na tvorbu textových vektorov od spoločnosti Mistral AI. Transformuje akýkoľvek text na 1024-rozmerný vektor bez ohľadu na dĺžku vstupu – či už ide o krátku vetu alebo celý odstavec, výstupný vektor má vždy rovnakú veľkosť. Táto pevná dimenzionalita nie je len maličkosť: umožňuje ti indexovať názov produktu aj jeho úplný popis v rovnakom vektorovom priestore a následne ich priamo porovnávať bez potreby špeciálneho spracovania na zladenie rôznych formátov.
Tento model je optimalizovaný pre úlohy sémantického vyhľadávania, klasifikácie a zhlukovania prirodzeného jazyka (články, dokumenty, konverzácie a ďalšie). Využi ho na indexovanie znalostnej databázy, FAQ, prepisov zo stretnutí alebo desaťročia archívu podporových ticketov.
Nastavenie a inštalácia
Pred volaním API nainštaluj Python SDK od Mistralu a nakonfiguruj svoj API kľúč:
# Inštalácia
# pip install mistralai
import os
from mistralai.client import Mistral
# Inicializácia klienta
api_key = os.environ.get("MISTRAL_API_KEY")
client = Mistral(api_key=api_key)
API kľúč získaš z konzoly Mistral. Ulož ho do premennej prostredia, aby sa nedostal priamo do tvojho kódu. Čítanie cez os.environ.get nie je len teoretická hygiena: zabráni tomu, aby sa tvoj kľúč ocitol v histórii Gitu v deň, keď tvoj projekt zverejníš.
Generovanie vektorov (Embeddings)
Volanie API je priamočiare: odovzdaj zoznam textov a získaj zodpovedajúce vektory. Všimni si, že aj pre jeden jediný text musí byť vstupom zoznam – API vždy pracuje v dávkach, čo sa vyplatí hneď, ako tvoja kolekcia dokumentov narastie.
from mistralai.client import Mistral
client = Mistral(api_key=api_key)
# Generovanie vektorov pre jeden alebo viacero textov
response = client.embeddings.create(
model="mistral-embed",
inputs=[
"Vektory zachytávajú sémantický význam.",
"Mistral AI ponúka vysoko výkonné modely.",
"RAG zlepšuje kvalitu odpovedí."
],
)
# Prístup k vektorom
for i, data in enumerate(response.data):
print(f"Text {i+1}: vektor s {len(data.embedding)} rozmermi")
print(f" Prvé prvky: {data.embedding[:5]}")
Typický výstup:
Text 1: vektor s 1024 rozmermi
Prvé prvky: [0.0234, -0.1567, 0.0891, 0.0123, -0.0456]
Text 2: vektor s 1024 rozmermi
Prvé prvky: [0.0189, -0.1234, 0.0678, 0.0345, -0.0567]
Text 3: vektor s 1024 rozmermi
Prvé prvky: [0.0312, -0.1456, 0.0789, 0.0234, -0.0345]
Štruktúra odpovede API
Odpoveď obsahuje viac než len vektory. Hovorí ti tiež, ktorý model bol skutočne použitý a koľko tokenov bolo spotrebovaných – dve informácie, ktoré budeš chcieť logovať, keď sa kódovanie rozbehne v produkcii a niekto bude musieť vysvetliť faktúru. Venovať zvýšenú pozornosť poľu index: udáva pozíciu textu v zozname, ktorý si odoslal, čo ti umožňuje mapovať každý vektor späť na jeho zdrojový dokument.
response = client.embeddings.create(
model="mistral-embed",
inputs=["Príkladový text na zakódovanie."],
)
# Objekt odpovede
print(response.model) # "mistral-embed"
print(response.usage) # spotrebované tokeny
# Údaje o vektore
embedding_data = response.data[0]
print(embedding_data.index) # 0 (pozícia v zozname inputs)
print(len(embedding_data.embedding)) # 1024
print(type(embedding_data.embedding)) # list[float]
Kompletný príklad: Zakódovanie a uloženie
Tu je typický pipeline na zakódovanie kolekcie dokumentov a prípravu vektorov pre budúce vyhľadávanie. Prechod na NumPy je kritickým krokom: kým sú tvoje vektory Python zoznamy, každý výpočet podobnosti prebieha prvok po prvku; akonáhle zostavíš maticu, jediná operácia porovná dotaz s celou kolekciou.
import numpy as np
from mistralai.client import Mistral
client = Mistral(api_key=api_key)
# Kolekcia dokumentov
documents = [
"Mistral AI je francúzska spoločnosť zaoberajúca sa umelou inteligenciou.",
"RAG kombinuje vyhľadávanie informácií a generovanie textu.",
"Vektory umožňujú sémantické vyhľadávanie.",
"Python je najpoužívanejším jazykom vo vede o dátach.",
"FAISS je knižnica na vyhľadávanie vo vektoroch od Meta.",
]
# Zakódovanie všetkých dokumentov
response = client.embeddings.create(
model="mistral-embed",
inputs=documents,
)
# Konverzia na NumPy maticu pre výpočty
embeddings_matrix = np.array([d.embedding for d in response.data])
print(f"Matica vektorov: {embeddings_matrix.shape}")
# Matica vektorov: (5, 1024)
# Uloženie pre budúce použitie
np.save("document_embeddings.npy", embeddings_matrix)
Uloženie ako .npy ti ušetrí platby za opätovné kódovanie zakaždým, keď sa tvoja aplikácia reštartuje. Pri kolekcii niekoľkých tisíc dokumentov je to rozdiel medzi okamžitým štartom a niekoľkými minútami fakturovaných volaní API.
Obmedzenia a osvedčené postupy
Štyri faktory určujú kvalitu tvojich výsledkov. Po prvé, maximálna dĺžka: model orezáva príliš dlhé texty a toto orezanie je tiché – štyridsaťstranová správa zakódovaná v jednom bloku bude efektívne reprezentovať len svoj začiatok. Uprednostni chunky (úseky) s veľkosťou 512 až 2048 tokenov, čo je pokryté v lekcii o chunkingu.
Po druhé, na rozdiel od niektorých iných API, mistral-embed nerozlišuje medzi query (dotaz) a document: neexistuje tu žiadny typ vstupu, jednoducho odovzdáš text. V praxi prechádzajú používateľské otázky aj indexované dokumenty rovnakým volaním s rovnakými parametrami, čo zjednodušuje tvoj kód pre vyhľadávanie.
Tretím bodom sú náklady: za vektory sa platí podľa počtu tokenov. Zakódovanie tisíca dokumentov jeden po druhom stojí z hľadiska tokenov to isté ako ich zakódovanie v dávke, ale násobí sieťové požiadavky a čas spracovania; optimalizuješ to dávkovaním volaní, čo je témou nasledujúcej lekcie o batchingu. Nakoniec, determinizmus hrá v tvoj prospech: pre rovnaký text model vždy vráti rovnaký vektor. Môžeš preto ukladať vektory do cache podľa hashu textu a prekódovať len to, čo sa medzi dvoma verziami dokumentu skutočne zmenilo.
Kľúčové poznatky
- mistral-embed produkuje 1024-rozmerné vektory pre akýkoľvek text
- API prijíma zoznam vstupov a vracia zodpovedajúce vektory
- Vektory sú zoznamy desatinných čísel, ktoré sa ľahko konvertujú na polia NumPy
- Ukladaj svoje vektory ako maticu NumPy pre výpočty podobnosti
- Nezabudni rozdeliť dlhé texty pred ich zakódovaním