Preskok na glavno vsebino
Slovenščina— Izberite jezik
Meni

Uvod v RAG

Lekcija 9 od 18 Posodobljeno 2. november 2026 Razvijalec
Na tej strani
  1. Kaj je RAG?
  2. Arhitektura RAG
  3. RAG proti fino uglaševanju (Fine-Tuning)
  4. Tehnološki sklad
  5. Kdaj uporabiti RAG?
  6. Ključne ugotovitve

Kaj je RAG?

RAG (Retrieval-Augmented Generation – generiranje, podprto z iskanjem) je arhitektura, ki združuje sistem za pridobivanje informacij z velikim jezikovnim modelom (LLM). Namesto da bi se zanašal izključno na notranje znanje modela, RAG najprej poišče ustrezne informacije v bazi podatkov, nato pa te informacije vstavi v poziv (prompt), da ustvari odgovor, utemeljen na realnih podatkih.

Zakaj je RAG postal nujen? Ker imajo LLM tri temeljne omejitve, ki se vse pokažejo hkrati: ko nekdo zastavi vprašanje o tvojem podjetju. Prvič, zamrznjeno znanje: model pozna le tisto, kar se je naučil med usposabljanjem, zato ne ve ničesar o tvoji posodobitvi cen prejšnji mesec. Drugič, halucinacije: ko ga vprašaš za interni postopek, ki ga ne pozna, model ustvari verjeten, a popolnoma napačen odgovor s popolnim zaupanjem. Nazadnje, zasebni podatki so po zasnovi nedostopni: model nima dostopa do tvojih internih dokumentov, ti pa si tako ali tako ne želiš, da bi končali v učnem korpusu.

RAG reši vse tri težave z dodajanjem koraka pridobivanja pred generiranjem. Model preneha biti pomnilnik za poizvedbe in postane pisalni stroj, ki deluje na dokumentih, ki jih nadziraš.

Arhitektura RAG

Cevovod RAG se razdeli na dve glavni fazi: fazo indeksiranja, ki se opravi vnaprej, ki ji sledi cikel, ki se izvrši za vsako vprašanje. Spodnji štirje koraki tvorijo osnovo prihajajočih lekcij.

1

Indeksiranje (offline)

Razdeli svoje dokumente na dele (chunks), jih kodiraj kot vgradnje (embeddings) in shrani v vektorsko shrambo. Ta korak se zgodi enkrat (ali med posodobitvami).

2

Pridobivanje (Retrieval)

Kodiraj uporabnikovo vprašanje kot vgradnjo, nato pa v vektorski shrambi poišči najbolj podobne dele z uporabo kosinusne podobnosti.

3

Bogatenje (obogaten poziv)

Vstavi pridobljene dele v poziv LLM kot kontekst. Model ima zdaj dejanske informacije, na podlagi katerih lahko odgovori.

4

Generiranje

LLM ustvari odgovor na podlagi predloženega konteksta. Odgovor je dejanski, viran in relevanten.

Samo prvi korak zahteva znaten računalniški čas; naslednji trije se izvedejo v manj kot sekundi. To je tisto, kar omogoča, da je arhitektura izvedljiva za storitev, ki se neprestano poizveduje: svojo dokumentacijo kodiraš enkrat, nato pa vsako vprašanje stane le en klic za vgradnjo in en klic za generiranje.

RAG proti fino uglaševanju (Fine-Tuning)

RAG in fino uglaševanje rešujeta podobne težave, a na različne načine. Tabela spodaj, zapisana kot struktura Python, primerja oba pristopa glede na pet meril.

# RAG vs Fine-Tuning Comparison

comparison = {
    "RAG": {
        "update": "Instant (add/remove documents)",
        "cost": "Low (no retraining)",
        "traceability": "Excellent (you know where the info came from)",
        "hallucinations": "Reduced (answers grounded in sources)",
        "use_cases": "Documentation, FAQs, knowledge bases",
    },
    "Fine-tuning": {
        "update": "Expensive (retraining required)",
        "cost": "High (GPUs, time, annotated data)",
        "traceability": "Low (knowledge baked into the model)",
        "hallucinations": "Possible (model may extrapolate)",
        "use_cases": "Writing style, output format, specific tasks",
    },
}

Vrstica „posodobitev” pogosto odloči. Popravek napake v postopku pri RAG pomeni zamenjavo datoteke in ponovno kodiranje nekaj delov – stvar minut. Pri finem uglaševanju isti popravek zahteva ponovno izgradnjo nabora podatkov in ponovni zagon usposabljanja, brez zagotovila, da je bila stara različica res pozabljena. V praksi je RAG običajno najboljša izbira za vključevanje spreminjajočega se dejanskega znanja, medtem ko je fino uglaševanje boljše za spreminjanje obnašanja ali sloga modela. Ob metodi se ne izključujeta: model, fino uglašen za odzivanje v formatu, ki ga pričakuje tvoje podjetje, se lahko še vedno napaja z RAG.

Tehnološki sklad

Izgradnja cevovoda RAG z Mistralom zahteva le tri knjižnice, namestitev pa traja eno vrstico.

# Essential dependencies
# pip install mistralai faiss-cpu numpy

from mistralai.client import Mistral  # LLM + Embeddings
import faiss                    # Vector store
import numpy as np              # Vector calculations

SDK mistralai obravnava oba klica modela samostojno: vgradnje z mistral-embed in generiranje z mistral-large. faiss-cpu, Metina knjižnica za hitro iskanje vektorjev, prevzame nadzor, ko izčrpna primerava postane prepočasna – prek nekaj deset tisoč vektorjev. Nazadnje, numpy obravnava operacije z vektorskimi matrikami, ki povezujejo vse skupaj. V naslednjih lekcijah boš od ničle zgradil vsak korak tega cevovoda, od priprave podatkov do generiranja odgovorov.

Kdaj uporabiti RAG?

RAG je še posebej primeren, ko imaš interne dokumente – tehnično dokumentacijo, postopke, pogodbe – ki jih noben javni model še nikoli ni videl. Prava izbira je tudi, ko se informacije pogosto spreminjajo: cene, razpoložljivost, predpisi. Storitev, ki navaja zastarele cene, stane več kot tista, ki sploh ne odgovori.

Tri druge situacije naravno kažejo na RAG. Prvič, potreba po sledljivosti, ko moraš vedeti, od kod prihaja vsak del informacije – pogosta zahteva v reguliranih sektorjih in v vsakem primeru pogoj za zaupanje uporabnikov. Drugič, cilj zmanjšanja halucinacij, saj model s pravim izsekom nima razloga za izmišljanje. Nazadnje, proračun: ko nimaš virov ali anotiranih podatkov za fino uglaševanje, RAG ponuja praktično pot le z nekaj dokumenti in nekaj urami dela.

Ključne ugotovitve

  • RAG združuje pridobivanje informacij z generiranjem LLM
  • Arhitektura se razdeli na: indeksiranje, pridobivanje, bogatenje, generiranje
  • RAG je za spreminjajoče se dejansko znanje preferablejši od finega uglaševanja
  • Mistral zagotavlja oba bistvena gradnika: vgradnje in LLM
  • FAISS je referenčna knjižnica za iskanje vektorjev