Preskok na glavno vsebino
Slovenščina— Izberite jezik
Meni

Kaj je vgradnja: intuitivno razumevanje

Lekcija 1 od 22 Posodobljeno 29. julij 2026 Razvijalec
Na tej strani
  1. Cilji
  2. Težava: Stroji ne razumejo besedila
  3. Vgradnje: Zajemanje pomena
  4. Geometrijska intuicija
  5. Čemu služijo vgradnje?
  6. Kaj se je spremenilo v letih 2025–2026
  7. Povzetek

Cilji

  • Razumi, kaj je vgradnja in zakaj je pomembna
  • Dojemi geometrijsko intuicijo za vektorje besed
  • Odkrij glavne primere uporabe

Težava: Stroji ne razumejo besedila

Jezikovni modeli delujejo s številkami, ne z besedami. Preden lahko stroj primerja, išče ali sklepa o besedilu, moraš to besedilo pretvoriti v uporabno številčno predstavitev. Ključno vprašanje je: katero predstavitev izbrati?

Naivni pristop: Vreča besed

Najpreprostejša metoda prešteje pojavitve vsake besede. Je preprosta, a popolnoma ignorira pomen. Vzemimo stavka „Mačka poje miš” in „Miš poje mačko”: oba stavka vsebujeta popolnoma enake besede v enakih razmerjih, zato proizvedeta popolnoma enako predstavitev, čeprav opisujeta nasprotni prizori. Obstaja tudi obratna težava: „Avto” in „Osebni avtomobil” se nanašata na isto stvar, a ker gre za dva različna niza znakov, pristop z vrečo besed z njima ravna kot z nepovezanima konceptoma. Vrstni red besed in sopomenke – dva stebra jezika – temu načinu popolnoma uidejo.

Vgradnje: Zajemanje pomena

Vgradnja (embedding) je gost vektor – seznam števil s plavajočo vejico –, ki zajame semantični pomen besedila. Dve besedili s podobnim pomenom bosta imeli vektorja, ki si v prostoru stojita blizu, ne glede na uporabljene specifične besede. Tako jo ustvariš:

from openai import OpenAI

client = OpenAI()

# Generate an embedding
response = client.embeddings.create(
    input="Artificial intelligence is transforming the industry",
    model="text-embedding-3-large"
)

vector = response.data[0].embedding
print(f"Vector dimension: {len(vector)}")  # 3072
print(f"First elements: {vector[:5]}")

Ta vektor 3.072 števil kodira pomen stavka, pri čemer vsaka dimenzija zajame drugačen vidik semantike. Ni treba vedeti, kaj predstavlja dimenzija 417: pomembno je, da celotna konfiguracija ostane stabilna in primerljiva med besedili.

Geometrijska intuicija

Predstavljaj si tridimenzionalni prostor, kjer vsaka beseda ali fraza zavzema točko. „Kralj” in „Kraljica” končata drug ob drugem, ker si delita večino pomena. „Jabolko” in „Pomaranča” tvorita drugo sosesko, daleč stran od prve. „Pes” in „Mačka” tvorita še en grozd. Ta prostorska organizacija omogoča primerjavo: merjenje razdalje med dvema točkama je enakovredno merjenju podobnosti med dvema pomenoma.

V resnici sodobne vgradnje uporabljajo na tisoče dimenzij – 3.072 za text-embedding-3-large –, kar jim omogoča zajemanje odtenkov, ki so veliko bolj fini od našega preprostega mentalnega modela s tremi osmi.

Znamenita analogija

Vgradnje zajamejo tudi pravilna semantična razmerja, in to do te mere, da jih lahko manipuliraš z aritmetiko. Klasičen primer izgleda takole:

vector("King") - vector("Man") + vector("Woman") ≈ vector("Queen")

Z drugimi besedami, odštevanje komponente „moški” in dodajanje komponente „ženski” premakne točko od „Kralj” proti „Kraljica”. Ta lastnost kaže, da so abstraktni koncepti, kot so spol, kraljevsko dostojanstvo ali velikost, kodirani na strukturiran način, ne pa naključno razpršeni.

Čemu služijo vgradnje?

Prvi primer uporabe je semantično iskanje: namesto iskanja točnih ključnih besed primerjaš pomen poizvedbe s pomenom dokumentov. Obiskovalec, ki vpiše „Kako naj hranim svojega kužka?”, bo našel članek z naslovom „Hranjenje mladega psa”, čeprav si ti dve frazi ne delita nobene skupne besede.

Drugi primer je klasifikacija: ker se besedila o isti temi naravno združujejo v grozde v prostoru, lahko samodejno razvrstiš podporne zahtevke, e-pošto ali članke, ne da bi napisal eno samo ročno pravilo. Priporočanje temelji na istem mehanizmu, le gledano z druge strani: da bi uporabniku predlagal vsebino, poiščeš vektorje, ki so najbližje tistim, ki si jih je že ogledal.

Nazadnje, tu je RAG (Retrieval-Augmented Generation), ki obogati odziv velikega jezikovnega modela (LLM) z ustreznimi dokumenti, najdenimi prek semantične podobnosti. To je vodilni primer uporabe tega tečaja in združuje vse ostale: indeksiranje, primerjavo in razvrščanje.

Kaj se je spremenilo v letih 2025–2026

API za vgradnje OpenAI zdaj ponuja dva glavna modela:

ModelDimenzijePriporočena uporaba
text-embedding-3-large3.072Visoka natančnost, RAG, iskanje
text-embedding-3-small1.536Nižji stroški, klasifikacija, priporočanje

Ti modeli podpirajo zmanjšanje dimenzionalnosti: zahtevaš lahko krajši vektor, na primer 256 dimenzij, da prihraniš pri shranjevanju ob nadzorovani izgubi kakovosti. Zbirka enega milijona kosov tako pade z več deset gigabajtov na le nekaj, kar temeljito spremeni zahteve glede infrastrukture.

Povzetek

  • Vgradnja pretvori besedilo v gost številčni vektor
  • Semantično podobna besedila imajo vektorje, ki so si blizu
  • Glavni primeri uporabe vključujejo iskanje, klasifikacijo, priporočanje in RAG
  • OpenAI ponuja text-embedding-3-large (3.072 dim) in text-embedding-3-small (1.536 dim)