Model mistral-embed
Na této stránce
Přehled modelu mistral-embed
mistral-embed je model pro textová vnoření (embeddings) od společnosti Mistral AI. Převádí libovolný text na vektor o 1024 rozměrech, bez ohledu na délku vstupu – ať už jde o krátkou větu nebo celý odstavec, výstupní vektor má vždy stejnou velikost. Tato pevná dimenzionalita není jen malým detailem: umožňuje ti indexovat název produktu i jeho úplný popis ve stejném vektorovém prostoru a následně je přímo porovnávat bez jakéhokoli speciálního zpracování pro sladění různých formátů.
Tento model je optimalizován pro úlohy sémantického vyhledávání, klasifikace a shlukování přirozeného jazyka (články, dokumenty, konverzace a další). Využij jej k indexování znalostní báze, FAQ, přepisů schůzek nebo desetiletí záznamů podpory.
Nastavení a instalace
Než začneš volat API, nainstaluj si Python SDK od Mistralu a nakonfiguruj svůj API klíč:
# Installation
# pip install mistralai
import os
from mistralai.client import Mistral
# Initialize the client
api_key = os.environ.get("MISTRAL_API_KEY")
client = Mistral(api_key=api_key)
Získej svůj API klíč z konzole Mistral. Ulož jej do proměnné prostředí, aby se nedostal přímo do tvého kódu. Čtení přes os.environ.get není jen teoretická hygiena: zabráníš tím, aby se tvůj klíč ocitl ve snapshotu historie Gitu v den, kdy se tvůj projekt stane veřejným.
Generování vnoření (Embeddings)
Volání API je přímočaré: předej seznam textů a získej odpovídající vektory. Všimni si, že i pro jediný text musí být vstupem seznam – API vždy pracuje v dávkách, což se vyplatí, jakmile tvůj korpus poroste.
from mistralai.client import Mistral
client = Mistral(api_key=api_key)
# Generate embeddings for one or more texts
response = client.embeddings.create(
model="mistral-embed",
inputs=[
"Embeddings capture semantic meaning.",
"Mistral AI offers high-performance models.",
"RAG improves response quality."
],
)
# Access the vectors
for i, data in enumerate(response.data):
print(f"Text {i+1}: vector of {len(data.embedding)} dimensions")
print(f" First elements: {data.embedding[:5]}")
Typický výstup:
Text 1: vector of 1024 dimensions
First elements: [0.0234, -0.1567, 0.0891, 0.0123, -0.0456]
Text 2: vector of 1024 dimensions
First elements: [0.0189, -0.1234, 0.0678, 0.0345, -0.0567]
Text 3: vector of 1024 dimensions
First elements: [0.0312, -0.1456, 0.0789, 0.0234, -0.0345]
Struktura odpovědi API
Odpověď obsahuje více než jen vektory. Řekne ti také, který model byl skutečně použit a kolik tokenů bylo spotřebováno – dvě informace, které budeš chtít logovat, jakmile bude kódování běžet v produkci a někdo bude muset vysvětlit fakturu. Věnuj zvláštní pozornost poli index: udává pozici textu v seznamu, který jsi odeslal, což ti umožňuje mapovat každý vektor zpět na jeho zdrojový dokument.
response = client.embeddings.create(
model="mistral-embed",
inputs=["Example text to encode."],
)
# Response object
print(response.model) # "mistral-embed"
print(response.usage) # tokens consumed
# Embedding data
embedding_data = response.data[0]
print(embedding_data.index) # 0 (position in the inputs list)
print(len(embedding_data.embedding)) # 1024
print(type(embedding_data.embedding)) # list[float]
Kompletní příklad: Kódování a ukládání
Zde je typický pipeline pro kódování korpusu dokumentů a přípravu vektorů pro pozdější vyhledávání. Přechod na NumPy je klíčovým krokem: zatímco jsou tvé vektory Python seznamy, každý výpočet podobnosti probíhá prvek po prvku; jakmile však sestavíš matici, jediná operace porovná dotaz s celým korpusem.
import numpy as np
from mistralai.client import Mistral
client = Mistral(api_key=api_key)
# Document corpus
documents = [
"Mistral AI is a French artificial intelligence company.",
"RAG combines information retrieval and text generation.",
"Embeddings enable semantic search.",
"Python is the most widely used language in data science.",
"FAISS is a vector search library by Meta.",
]
# Encode all documents
response = client.embeddings.create(
model="mistral-embed",
inputs=documents,
)
# Convert to a NumPy matrix for calculations
embeddings_matrix = np.array([d.embedding for d in response.data])
print(f"Embeddings matrix: {embeddings_matrix.shape}")
# Embeddings matrix: (5, 1024)
# Save for later use
np.save("document_embeddings.npy", embeddings_matrix)
Ukládání jako .npy ti zabrání platit za opětovné kódování pokaždé, když se tvá aplikace restartuje. U korpusu o několika tisících dokumentech je to rozdíl mezi okamžitým startem a několika minutami fakturovaných volání API.
Limity a osvědčené postupy
Kvalitu tvých výsledků určují čtyři faktory. Prvním je maximální délka: model zkrátí texty, které jsou příliš dlouhé, a toto zkrácení probíhá tiše – čtyřicetistránková zpráva zakódovaná v jednom bloku bude efektivně reprezentovat pouze svůj začátek. Upřednostňuj chunky o velikosti 512 až 2048 tokenů, což je probráno v lekci o chunkingu.
Zadruhé, na rozdíl od některých jiných API, mistral-embed nerozlišuje mezi query a document: neexistuje zde žádný typ vstupu, jednoduše předáš text. V praxi uživatelské otázky a indexované dokumenty procházejí stejným voláním se stejnými parametry, což zjednodušuje tvůj vyhledávací kód.
Třetím bodem jsou náklady: vnoření jsou fakturována za token. Kódování tisíce dokumentů jeden po druhém stojí v tokenech stejně jako jejich kódování v dávce, ale násobí síťové来回 (round trips) a čas zpracování; optimalizuješ to dávkováním volání, což je tématem další lekce o dávkování. Nakonec, determinismus hraje ve tvůj prospěch: pro stejný text model vždy vrátí stejný vektor. Můžeš proto cachovat vnoření podle hash textu a překódovávat pouze to, co se mezi dvěma verzemi dokumentu skutečně změnilo.
Klíčové poznatky
- mistral-embed produkuje vektory o 1024 rozměrech pro libovolný text
- API přijímá seznam vstupů a vrací odpovídající vektory
- Vektory jsou seznamy čísel s plovoucí řádovou čárkou (float), které lze snadno převést na pole NumPy
- Ukládej svá vnoření jako matici NumPy pro výpočty podobnosti
- Nezapomeň rozdělit dlouhé texty před kódováním