Preskok na glavno vsebino
Slovenščina— Izberite jezik
Meni

Uvod v vdelave (embeddings)

Lekcija 1 od 18 Posodobljeno 3. november 2026 Razvijalec
Na tej strani
  1. Kaj je vdelava (embedding)?
  2. Vektorji in semantični prostor
  3. Razdalja kot merilo podobnosti
  4. Uporaba vdelav
  5. Zakaj Mistral za vdelave?
  6. Ključne ugotovitve

Posodobljeno 2. novembra 2026 — Modeli. Mistral Large 3 (mistral-large-2512) in Mistral Medium 3.5 so bili 31. oktobra 2026 opuščeni in bodo umaknjeni 30. aprila 2027. Njuni naslednici, Mistral Large 4 (mistral-large-4), je na voljo v javnem predogledu od 6. oktobra. Primeri v tem tečaju uporabljajo vzdevek mistral-large-latest, ki še vedno kaže na Mistral Large 3, kar potrjuje njegova uradna specifikacija (preverjeno 3. novembra 2026). Podobno mistral-medium-latest kaže na Mistral Medium 3.5. Ti vzdevki bodo veljavni do 30. aprila 2027. Za nove projekte preizkusite mistral-large-4, njunega naslednika.

Kaj je vdelava (embedding)?

Vdelava je številčna predstavitev besedila kot vektorja v večdimenzionalnem prostoru. Vsaka beseda, stavek ali dokument se pretvori v seznam števil – vektor –, ki zajame njegov semantični pomen. Razlog za to pretvorbo je preprost: računalniki ne razumejo surovega besedila; delujejo s številkami. Vdelave prevajajo človeški jezik v obliko, s katero lahko algoritmi upravljajo, jo primerjajo in analizirajo.

Predstavljaj si ekipo za podporo strankam, ki arhivira desetletje vstopnic. Dokler te vstopnice ostanejo navadno besedilo, je edina mehanska operacija, ki jo lahko izvedeš, iskanje po točnih ključnih besedah: iskanje izraza „dostava” nikoli ne bo našlo izraza „pošiljka”. Ko pa so vstopnice kodirane kot vektorji, postanejo primerljive točke v prostoru. „Moj paket ni nikoli prispel” se združi z „naročilo ni bilo prejeto”, čeprav si ne delita nobene skupne besede.

Vektorji in semantični prostor

Predstavljaj si prostor z mnogimi dimenzijami (na primer 1.024 dimenzij za mistral-embed). Vsako besedilo zavzame natančen položaj v tem prostoru, besedila s podobnimi pomeni pa se končajo geometrijsko blizu drug drugega.

# An embedding is simply a list of numbers
embedding_example = [0.0234, -0.1567, 0.0891, 0.0456]  # 1024 values in reality

# Two similar sentences will have close vectors
sentence_1 = "The cat sleeps on the couch"     # -> vector A
sentence_2 = "The feline dozes on the sofa"    # -> vector B (close to A)
sentence_3 = "The stock market crashed yesterday" # -> vector C (far from A and B)

Ta lastnost je tista, zaradi katere so vdelave tako zmogljive: geometrijska bližina odraža semantično bližino. Model se ni naučil pravila, ki bi določalo, da je „mačka” sopomenka za „mačko”. Namesto tega se je naučil postaviti ti dve besedi v podobne kontekste, kar je dovolj, da se vektorja A in B približata, medtem ko C ostane oddaljen.

1024
Dimensions for mistral-embed (text)
3072
Dimensions for codestral-embed (code)
5
Precision types (dtype)
< 1s
API latency per request

Razdalja kot merilo podobnosti

Če želiš ugotoviti, ali sta dve besedili podobni, izmeriš razdaljo med njunima vektorjema. Na tem področju prevladujejo tri metrike. Evklidska razdalja ustreza ravni črti med dvema točkama: krajša kot je črta, bolj podobni sta besedili. Kosinusna podobnost meri kot med dvema vektorjema; kot 0° (kosinus = 1) pomeni, da sta besedili semantično enaki. Nazadnje, skalarni produkt je hiter za izračun, kar pojasnjuje, zakaj se pogosto uporablja za razvrščanje.

Kosinusna podobnost je postala standard, ker ignorira dolžino vektorja. Primerjaj povzetek pogodbe, dolg tri vrstice, s polno pogodbo, ki ima štirideset strani. Evklidska razdalja kaznuje povzetek, čeprav pokriva popolnoma isto temo, medtem ko kot med obema vektorjema ostaja majhen.

import numpy as np

def cosine_similarity(vec_a, vec_b):
    """Calculate cosine similarity between two vectors."""
    dot_product = np.dot(vec_a, vec_b)
    norm_a = np.linalg.norm(vec_a)
    norm_b = np.linalg.norm(vec_b)
    return dot_product / (norm_a * norm_b)

# Result between -1 and 1
# 1.0 = identical, 0.0 = unrelated, -1.0 = opposite

Uporaba vdelav

Vdelave so temelj številnih sodobnih aplikacij in vredno si je ogledati, kako vsaka izgleda v praksi. Semantično iskanje najde dokumente po pomenu in ne po točnih ključnih besedah: baza podatkov z internimi postopki odgovori na vprašanje „kaj storiti, če stranka zavrne dostavo”, tudi če se postopek imenuje „upravljanje vračil v skladišču”. RAG (Retrieval-Augmented Generation – generiranje s pomočjo pridobivanja) to logiko pelje še dlje z vstavljanjem pridobljenih dokumentov v poziv LLM, kar mu omogoča, da odgovarja na podlagi tvojih podatkov in ne svojega učnega spomina.

Trije drugi primeri uporabe izkoriščajo isto geometrijo. Klasifikacija besedila samodejno kategorizira dokumente z opazovanjem, kateri znani skupini je njihov vektor najbližji – dohodno e-pošto tako razvrsti v „računovodstvo” ali „tehnično podporo” brez kakršnih koli ročno napisanih pravil. Zaznavanje dvojnikov prepozna skoraj identično vsebino v bazi podatkov in ti prepreči, da bi dvakrat objavil isti list izdelka, samo zato, ker sta ga napisali dve ekipi. Grozdčenje združuje dokumente po temah brez vnaprej določenih oznak, kar je pogosta metoda za razumevanje korpusa, katerega strukture nihče ne pozna. Nazadnje, sistemi za priporočanje predlagajo podobno vsebino, popolnoma tako kot mehanizem „povezani članki” na dnu strani.

Zakaj Mistral za vdelave?

Mistral ponuja dva specializirana modela za vdelave. mistral-embed obdeluje naravni jezik in ustvari 1.024 dimenzij; codestral-embed je usposobljen na izvorni kodi in doseže do 3.072 dimenzij. Izbiraš med njima glede na naravo tvojega surovega gradiva: pisna dokumentacija na eni strani, datoteke .py ali .ts na drugi.

Do teh modelov lahko dostopaš prek preprostega API-ja z odličnim razmerjem med ceno in zmogljivostjo. V naslednjih lekcijah se boš naučil, kako jih uporabljati v praksi.

Ključne ugotovitve

  • Vdelava pretvori besedilo v večdimenzionalni številčni vektor
  • Geometrijska bližina med vektorji odraža semantično podobnost
  • Kosinusna podobnost je najpogostejša metrika za primerjavo vdelav
  • Mistral ponuja dva modela: mistral-embed (besedilo) in codestral-embed (koda)
  • Vdelave so temelj za RAG, semantično iskanje in grozdčenje