Pāriet uz galveno saturu
Latviešu— Izvēlēties valodu
Izvēlne

Ievads RAG

Nodarbība 9 no 18 Atjaunota 2026. gada 2. novembris Programmētājs
Šajā lapā
  1. Kas ir RAG?
  2. RAG arhitektūra
  3. RAG pret smalko noregulēšanu (Fine-Tuning)
  4. Tehnoloģiju kaudze (Tech Stack)
  5. Kad lietot RAG?
  6. Galvenās atziņas

Kas ir RAG?

RAG (Retrieval-Augmented Generation — ģenerēšana, papildināta ar informācijas izgūšanu) ir arhitektūra, kas apvieno informācijas izgūšanas sistēmu ar lielo valodu modeli (LLM). Tā vietā, lai paļautos tikai uz modeļa iekšējām zināšanām, RAG vispirms meklē atbilstošu informāciju datubāzē un pēc tam ievada šo informāciju uzvednē (prompt), lai ģenerētu atbildi, kas balstīta reālos datos.

Kāpēc RAG ir kļuvis neaizstājams? Jo LLM piemīt trīs fundamentāli ierobežojumi, un tie visi parādās vienlaicīgi: kad kāds uzdod jautājumu par tavu uzņēmumu. Pirmkārt, iesaldētas zināšanas: modelis zina tikai to, ko tas apguvis apmācības laikā, tāpēc tas nezina neko par tavu cenu atjauninājumu pagājušajā mēnesī. Otrkārt, halucinācijas: jautāts par iekšēju procedūru, ko tas nepazīst, modelis ar pilnu pārliecību sniedz ticamu, bet pilnīgi nepareizu atbildi. Visbeidzot, privātie dati pēc būtības ir nepieejami: modelim nav piekļuves taviem iekšējiem dokumentiem, un tu tāpat nevēlies, lai tie nonāktu apmācības kopā.

RAG atrisina visas trīs problēmas, pievienojot izgūšanas soli pirms ģenerēšanas. Modelis vairs nav atmiņa, ko iztaujāt, bet gan rakstīšanas dzinējs, kas tiek pielietots dokumentiem, kurus tu kontrolē.

RAG arhitektūra

RAG darbplūsma sadalās divos galvenajos posmos: iepriekš veikta indeksēšanas fāze, kam seko cikls, kas tiek izpildīts katram jautājumam. Tālāk minētie četri soļi veido nākamo nodarbību mugurkaulu.

1

Indeksēšana (bezsaistē)

Sadali savus dokumentus fragmentos (chunks), kodē tos kā ieguljumus (embeddings) un saglabā vektoru krātuvē. Šis solis notiek vienreiz (vai atjauninājumu laikā).

2

Izgūšana

Kodē lietotāja jautājumu kā ieguljumu, pēc tam meklē vislīdzīgākos fragmentus vektoru krātuvē, izmantojot kosinusa līdzību.

3

Papildināšana (bagātināta uzvedne)

Ievadi izgūtos fragmentus LLM uzvednē kā kontekstu. Tagad modelim ir faktiska informācija, uz kuras balstīt atbildi.

4

Ģenerēšana

LLM ģenerē atbildi, pamatojoties uz sniegto kontekstu. Atbilde ir faktiska, ar atsauces avotu un atbilstoša.

Tikai pirmais solis prasa ievērojamu aprēķina laiku; nākamie trīs tiek izpildīti mazāk nekā sekundē. Tieši tas padara šo arhitektūru dzīvotspējīgu servisam, ko nepārtraukti iztaujā: tu vienreiz kodē savu dokumentāciju, un pēc tam katrs jautājums izmaksā tikai vienu ieguljuma izsaukumu un vienu ģenerēšanas izsaukumu.

RAG pret smalko noregulēšanu (Fine-Tuning)

RAG un smalkā noregulēšana risina līdzīgas problēmas, bet dažādos veidos. Tālāk redzamā tabula, šeit attēlota kā Python struktūra, salīdzina abas pieejas pēc pieciem kritērijiem.

# RAG vs Fine-Tuning Comparison

comparison = {
    "RAG": {
        "update": "Instant (add/remove documents)",
        "cost": "Low (no retraining)",
        "traceability": "Excellent (you know where the info came from)",
        "hallucinations": "Reduced (answers grounded in sources)",
        "use_cases": "Documentation, FAQs, knowledge bases",
    },
    "Fine-tuning": {
        "update": "Expensive (retraining required)",
        "cost": "High (GPUs, time, annotated data)",
        "traceability": "Low (knowledge baked into the model)",
        "hallucinations": "Possible (model may extrapolate)",
        "use_cases": "Writing style, output format, specific tasks",
    },
}

Rinda „update” (atjaunināšana) bieži vien izšķir izvēli. Kļūdas labošana procedūrā nozīmē, ka, izmantojot RAG, tiek nomainīts fails un pārkodēti daži fragmenti — tas aizņem dažas minūtes. Izmantojot smalko noregulēšanu, tāda pati kļūda prasa datu kopas atkārtotu izveidi un apmācības atkārtotu palaišanu, bez garantijas, ka vecā versija ir patiešām aizmirsta. Praksē RAG parasti ir labākā izvēle, lai integrētu mainīgas faktiskas zināšanas, savukārt smalkā noregulēšana ir piemērotāka modeļa uzvedības vai stila mainīšanai. Abas metodes nav savstarpēji izslēdzošas: modelis, kas smalki noregulēts, lai atbildētu tavam uzņēmumam paredzētajā formātā, joprojām var saņemt datus no RAG.

Tehnoloģiju kaudze (Tech Stack)

RAG darbplūsmas izveide, izmantojot Mistral, prasa tikai trīs bibliotēkas, un instalēšana aizņem vienu rindiņu.

# Essential dependencies
# pip install mistralai faiss-cpu numpy

from mistralai.client import Mistral  # LLM + Embeddings
import faiss                    # Vector store
import numpy as np              # Vector calculations

mistralai SDK pats par sevi apstrādā abus modeļa izsaukumus: ieguljumus ar mistral-embed un ģenerēšanu ar mistral-large. faiss-cpu, Meta bibliotēka ātrai vektoru meklēšanai, pārņem vadību, kad izsmeļoša salīdzināšana kļūst pārāk lēna — pārsniedzot dažus desmitus tūkstošu vektoru. Visbeidzot, numpy apstrādā vektoru matricas operācijas, kas visu savieno vienotā veselumā. Nākamajās nodarbībās tu izveidosi katru šīs darbplūsmas soli no nulles, sākot no datu sagatavošanas līdz atbildes ģenerēšanai.

Kad lietot RAG?

RAG ir īpaši piemērots, ja tev ir iekšēji dokumenti — tehniskā dokumentācija, procedūras, līgumi — kurus neviens publiskais modelis nekad nav redzējis. Tā ir pareizā izvēle arī tad, ja informācija mainās bieži: cenas, pieejamība, noteikumi. Serviss, kas sniedz novecojušas cenas, izmaksā dārgāk nekā tāds, kas neatbild vispār.

Trīs citas situācijas dabiski norāda uz RAG. Pirmkārt, nepieciešamība pēc izsekojamības, kad tev ir jāzina, no kurienes nākusi katra informācijas daļa — tas ir bieži sastopams prasījums regulētajās nozarēs un jebkurā gadījumā nosacījums lietotāju uzticībai. Otrkārt, mērķis samazināt halucinācijas, jo modelim, kam ir pareizais fragments, nav iemesla kaut ko izgudrot. Visbeidzot, budžets: ja tev trūkst resursu vai anotētu datu smalkajai noregulēšanai, RAG piedāvā praktisku ceļu, izmantojot tikai nedaudzus dokumentus un dažas darba stundas.

Galvenās atziņas

  • RAG apvieno informācijas izgūšanu ar LLM ģenerēšanu
  • Arhitektūra sadalās šādos posmos: indeksēšana, izgūšana, papildināšana, ģenerēšana
  • Mainīgām faktiskām zināšanām RAG ir vēlamāks par smalko noregulēšanu
  • Mistral nodrošina abus būtiskos būvblokus: ieguljumus un LLM
  • FAISS ir etalonbibliotēka vektoru meklēšanai