Úvod do vektorových reprezentácií (Embeddings)
Na tejto strane
Aktualizované 2. novembra 2026 — Modely. Modely Mistral Large 3 (
mistral-large-2512) a Mistral Medium 3.5 boli zastarané 31. októbra 2026 a budú vyradené 30. apríla 2027. Ich nástupca, Mistral Large 4 (mistral-large-4), je vo verejnej náhľade od 6. októbra. Príklady v tomto kurze používajú aliasmistral-large-latest, ktorý podľa oficiálnej špecifikácie (overené 3. novembra 2026) stále odkazuje na Mistral Large 3. Podobnemistral-medium-latestodkazuje na Mistral Medium 3.5. Tieto aliasy zostanú platné do 30. apríla 2027. Pre nové projekty otestujmistral-large-4, ich určeného nástupcu.
Čo je to vektorová reprezentácia (embedding)?
Vektorová reprezentácia (embedding) je číselné znázornenie textu ako vektora vo viacrozmernom priestore. Každé slovo, veta alebo dokument sa transformuje na zoznam čísel – vektor – ktorý zachytáva jeho sémantický význam. Dôvod tejto transformácie je jednoduchý: počítače nerozumejú surovému textu; pracujú s číslami. Vektorové reprezentácie prekladajú ľudský jazyk do formátu, s ktorým môžu algoritmy manipulovať, porovnávať ho a analyzovať.
Predstav si tím zákazníckej podpory, ktorý archivuje desať rokov tiketov. Pokiaľ tieto tikety zostanú ako obyčajný text, jedinou mechanickou operáciou, ktorú môžeš vykonať, je vyhľadávanie podľa presných kľúčových slov: hľadanie výrazu „doručenie“ nikdy nenájde „zásielku“. Akonáhle však tikety zakóduješ ako vektory, stanú sa porovnateľnými bodmi v priestore. Veta „Moja zásielka nikdy nedorazila“ sa zhlukne s vetou „Objednávka nebola doručená“, hoci nemajú žiadne spoločné slová.
Vektory a sémantický priestor
Predstav si priestor s mnohými dimenziami (napríklad 1 024 dimenzií pre mistral-embed). Každý text zaujíma v tomto priestore presnú pozíciu a texty s podobným významom sa ocitnú geometricky blízko pri sebe.
# Vektorová reprezentácia je jednoducho zoznam čísel
embedding_example = [0.0234, -0.1567, 0.0891, 0.0456] # v skutočnosti 1024 hodnôt
# Dve podobné vety budú mať blízke vektory
sentence_1 = "The cat sleeps on the couch" # -> vektor A
sentence_2 = "The feline dozes on the sofa" # -> vektor B (blízky k A)
sentence_3 = "The stock market crashed yesterday" # -> vektor C (vzdialený od A aj B)
Táto vlastnosť robí vektorové reprezentácie takými výkonnými: geometrická blízkosť odráža sémantickú blízkosť. Model sa nenaučil pravidlo, že „feline“ je synonymom pre „cat“. Namiesto toho sa naučil umiestňovať tieto dve slová do podobných kontextov, čo stačí na to, aby sa vektory A a B priblížili k sebe, zatiaľ čo vektor C zostane oddelený.
Vzdialenosť ako miera podobnosti
Ak chceš zistiť, či sú dva texty podobné, zmeriaš vzdialenosť medzi ich vektormi. V tejto oblasti dominujú tri metriky. Euklidovská vzdialenosť zodpovedá priamke medzi dvoma bodmi: čím kratšia je čiara, tým sú texty podobnejšie. Kosínusová podobnosť meria uhol medzi dvoma vektormi; uhol 0° (kosínus = 1) znamená, že texty sú sémanticky totožné. Nakoniec, skalárny súčin (dot product) sa rýchlo počíta, čo vysvetľuje, prečo sa bežne používa na hodnotenie (ranking).
Kosínusová podobnosť sa stala štandardom, pretože ignoruje dĺžku vektora. Porovnaj trojriadkové zhrnutie zmluvy s celou štyridsaťstranovou zmluvou. Euklidovská vzdialenosť by zhrnutie penalizovala, hoci pokrýva úplne rovnakú tému, zatiaľ čo uhol medzi týmito dvoma vektormi zostáva malý.
import numpy as np
def cosine_similarity(vec_a, vec_b):
"""Vypočíta kosínusovú podobnosť medzi dvoma vektormi."""
dot_product = np.dot(vec_a, vec_b)
norm_a = np.linalg.norm(vec_a)
norm_b = np.linalg.norm(vec_b)
return dot_product / (norm_a * norm_b)
# Výsledok medzi -1 a 1
# 1.0 = totožné, 0.0 = nesúvisiace, -1.0 = opačné
Aplikácie vektorových reprezentácií
Vektorové reprezentácie sú základom mnohých moderných aplikácií a stojí za to pozrieť sa, ako každá z nich vyzerá v praxi. Sémantické vyhľadávanie nachádza dokumenty podľa významu, nie podľa presných kľúčových slov: databáza interných postupov odpovie na otázku „čo robiť, ak zákazník odmietne doručenie“, aj keď sa postup nazýva „riadenie vrátenia tovaru v sklade“. RAG (Retrieval-Augmented Generation) túto logiku posúva ďalej tým, že vstrekne získané dokumenty do promptu veľkého jazykového modelu (LLM), čo mu umožňuje odpovedať na základe tvojich dát, nie len na základe svojej tréningovej pamäte.
Tri ďalšie prípady využitia využívajú tú istú geometriu. Klasifikácia textu automaticky kategorizuje dokumenty pozorovaním, ku ktorej známej skupine je ich vektor najbližšie – prichádzajúci e-mail skončí v kategórii „fakturácia“ alebo „technická podpora“ bez akýchkoľvek ručne písaných pravidiel. Detekcia duplicit odhalí takmer totožný obsah v databáze a zabráni ti publikovať rovnaký produktový list dvakrát len preto, že ho napísali dva rôzne tímy. Zhlukovanie (clustering) zoskupuje dokumenty podľa tém bez vopred definovaných štítkov, čo je bežná metóda na pochopenie korpusu, ktorého štruktúru nikto nepozná. Nakoniec, odporúčacie systémy navrhujú podobný obsah, presne ako mechanizmus „súvisiace články“ v spodnej časti stránky.
Prečo Mistral pre vektorové reprezentácie?
Mistral ponúka dva špecializované modely pre vektorové reprezentácie. mistral-embed spracováva prirodzený jazyk a produkuje 1 024 dimenzií; codestral-embed je trénovaný na zdrojový kód a dosahuje až 3 072 dimenzií. Vyberáš si medzi nimi na základe povahy tvojej vstupnej suroviny: na jednej strane písaná dokumentácia, na druhej súbory .py alebo .ts.
Tieto modely sú dostupné prostredníctvom jednoduchého API s vynikajúcim pomerom ceny a výkonu. V nasledujúcich lekciách sa naučíš, ako ich používať v praxi.
Kľúčové poznatky
- Vektorová reprezentácia transformuje text na viacrozmerný číselný vektor
- Geometrická blízkosť medzi vektormi odráža sémantickú podobnosť
- Kosínusová podobnosť je najbežnejšou metrikou na porovnávanie vektorových reprezentácií
- Mistral ponúka dva modely: mistral-embed (text) a codestral-embed (kód)
- Vektorové reprezentácie sú základom pre RAG, sémantické vyhľadávanie a zhlukovanie