Preskoči na glavni sadržaj
Hrvatski— Odaberite jezik
Izbornik

Uvod u RAG

Lekcija 9 od 18 Ažurirano 2. studenoga 2026. Programer
Na ovoj stranici
  1. Što je RAG?
  2. Arhitektura RAG-a
  3. RAG naspram fino podešavanja (Fine-Tuning)
  4. Tehnološki stack
  5. Kada koristiti RAG?
  6. Ključne točke

Što je RAG?

RAG (Retrieval-Augmented Generation) arhitektura je koja spaja sustav za dohvat informacija s velikim jezičnim modelom (LLM). Umjesto da se oslanja isključivo na interno znanje modela, RAG prvo pretražuje relevantne informacije u bazi podataka, a zatim te informacije ubacuje u upit (prompt) kako bi generirao odgovor utemeljen na stvarnim podacima.

Zašto je RAG postao neophodan? Zato što LLM-ovi imaju tri temeljna ograničenja koja se sva pojavljuju u istom trenutku: kada netko postavi pitanje o tvojoj tvrtki. Prvo, zamrznuto znanje: model zna samo ono što je naučio tijekom treninga, pa ne zna ništa za ažuriranje tvojih cijena od prošlog mjeseca. Dalje, halucinacije: kada ga pitaš za interni postupak koji ne poznaje, model proizvodi uvjerljiv, ali potpuno pogrešan odgovor s punim samopouzdanjem. Konačno, privatni podaci su po dizajnu nedostupni: model nema pristup tvojim internim dokumentima, a ti ionako ne želiš da završe u korpusu za trening.

RAG rješava sva tri problema dodavanjem koraka dohvata prije generiranja. Model prestaje biti memorija koju ispituješ i postaje stroj za pisanje primijenjen na dokumente koje ti kontroliraš.

Arhitektura RAG-a

RAG pipeline sastoji se od dvije glavne faze: faze indeksiranja koja se obavlja unaprijed, nakon čega slijedi ciklus koji se izvršava za svako pitanje. Četiri koraka u nastavku čine okosnicu nadolazećih lekcija.

1

Indeksiranje (offline)

Podijeli svoje dokumente na dijelove (chunks), kodiraj ih kao embedinge i pohrani u vektorsku bazu. Ovaj se korak događa jednom (ili tijekom ažuriranja).

2

Dohvat (Retrieval)

Kodiraj korisnikovo pitanje kao embedding, zatim potraži najsličnije dijelove u vektorskoj bazi koristeći kosinusnu sličnost.

3

Augmentacija (obogaćeni prompt)

Ubaci dohvaćene dijelove u prompt LLM-a kao kontekst. Model sada ima činjenične informacije na temelju kojih može odgovoriti.

4

Generiranje

LLM generira odgovor na temelju pruženog konteksta. Odgovor je činjeničan, izvoran i relevantan.

Samo prvi korak zahtijeva značajno računalno vrijeme; sljedeća tri izvršavaju se u manje od sekunde. To je ono što ovu arhitekturu čini održivom za uslugu koja se neprestano ispituje: svoju dokumentaciju kodiraš jednom, a svako pitanje košta samo jedan poziv za embedding i jedan poziv za generiranje.

RAG naspram fino podešavanja (Fine-Tuning)

RAG i fino podešavanje rješavaju slične probleme, ali na različite načine. Tablica u nastavku, ovdje zapisana kao Python struktura, suprotstavlja ova dva pristupa kroz pet kriterija.

# RAG vs Fine-Tuning Comparison

comparison = {
    "RAG": {
        "update": "Instant (add/remove documents)",
        "cost": "Low (no retraining)",
        "traceability": "Excellent (you know where the info came from)",
        "hallucinations": "Reduced (answers grounded in sources)",
        "use_cases": "Documentation, FAQs, knowledge bases",
    },
    "Fine-tuning": {
        "update": "Expensive (retraining required)",
        "cost": "High (GPUs, time, annotated data)",
        "traceability": "Low (knowledge baked into the model)",
        "hallucinations": "Possible (model may extrapolate)",
        "use_cases": "Writing style, output format, specific tasks",
    },
}

Redak „update“ često presuđuje. Ispravljanje greške u postupku znači, kod RAG-a, zamjenu datoteke i ponovno kodiranje nekoliko dijelova – stvar minuta. Kod finog podešavanja, ista ispravka zahtijeva ponovnu izgradnju skupa podataka i ponovno pokretanje treninga, bez jamstva da je stara verzija doista zaboravljena. U praksi je RAG obično najbolji izbor za integraciju promjenjivog činjeničnog znanja, dok je fino podešavanje bolje za promjenu ponašanja ili stila modela. Ta dva pristupa se međusobno ne isključuju: model fino podešen da odgovara u formatu koji tvoje poslovanje očekuje i dalje može biti napajan putem RAG-a.

Tehnološki stack

Izgradnja RAG pipelinea s Mistralom zahtijeva samo tri biblioteke, a instalacija traje jednu liniju.

# Essential dependencies
# pip install mistralai faiss-cpu numpy

from mistralai.client import Mistral  # LLM + Embeddings
import faiss                    # Vector store
import numpy as np              # Vector calculations

mistralai SDK samostalno rukuje pozivima modela: embeddingima s mistral-embed i generiranjem s mistral-large. faiss-cpu, Metina biblioteka za brzo vektorsko pretraživanje, preuzima kontrolu kada iscrpna usporedba postane prespora – iznad nekoliko desetaka tisuća vektora. Konačno, numpy rukuje operacijama vektorskih matrica koje povezuju sve u cjelinu. U sljedećim lekcijama izgradit ćeš svaki korak ovog pipelinea od nule, od pripreme podataka do generiranja odgovora.

Kada koristiti RAG?

RAG je posebno prikladan kada imaš interne dokumente – tehničku dokumentaciju, postupke, ugovore – koje nijedan javni model nikada nije vidio. Također je pravi izbor kada se informacije često mijenjaju: cijene, dostupnost, propisi. Usluga koja navodi zastarjele cijene košta više od one koja uopće ne odgovori.

Još tri situacije prirodno upućuju na RAG. Prvo, potreba za sljedivošću, kada moraš znati odakle dolazi svaki dio informacije – čest zahtjev u reguliranim sektorima i, u svakom slučaju, uvjet za povjerenje korisnika. Drugo, cilj smanjenja halucinacija, jer model s pravim isječkom nema razloga izmišljati. Konačno, budžet: kada nemaš resurse ili anotirane podatke za fino podešavanje, RAG nudi praktičan put s samo nekoliko dokumenata i nekoliko sati rada.

Ključne točke

  • RAG kombinira dohvat informacija s generiranjem LLM-a
  • Arhitektura se dijeli na: indeksiranje, dohvat, augmentaciju, generiranje
  • RAG je poželjniji od finog podešavanja za promjenjivo činjenično znanje
  • Mistral pruža oba ključna gradivna bloka: embedinge i LLM
  • FAISS je referentna biblioteka za vektorsko pretraživanje