Přejít na hlavní obsah
Čeština— Vyberte jazyk
Menu

Úvod do RAG

Lekce 9 z 18 Aktualizováno 2. listopadu 2026 Vývojář
Na této stránce
  1. Co je to RAG?
  2. Architektura RAG
  3. RAG versus Fine-tuning
  4. Technologický stack
  5. Kdy použít RAG?
  6. Klíčové poznatky

Co je to RAG?

RAG (Retrieval-Augmented Generation) je architektura, která kombinuje systém vyhledávání informací s velkým jazykovým modelem (LLM). Místo toho, aby se spoléhala pouze na vnitřní znalosti modelu, RAG nejprve vyhledá relevantní informace v databázi a poté tyto informace vstříkne do promptu, aby vygenerovala odpověď založenou na reálných datech.

Proč se RAG stal nezbytností? Protože LLM mají tři zásadní omezení, která se všechna projeví ve stejnou chvíli: když se někdo zeptá na něco týkajícího se vaší firmy. Zaprvé, zmrazené znalosti: model zná pouze to, co se naučil během tréninku, takže nic neví o vaší aktualizaci cen z minulého měsíce. Zadruhé, halucinace: když se model zeptá na interní postup, který nezná, vytvoří věrohodnou, ale zcela špatnou odpověď s naprostou jistotou. Nakonec, soukromá data jsou z principu nedostupná: model nemá přístup k vašim interním dokumentům a vy ani nechcete, aby skončila v tréninkovém korpusu.

RAG řeší všechny tři problémy přidáním kroku vyhledávání před generování. Model přestává být pamětí, na kterou se dotazujete, a stává se psacím strojem aplikovaným na dokumenty, které máte pod kontrolou.

Architektura RAG

Pipeline RAG se dělí na dvě hlavní fáze: fázi indexování provedenou předem, po které následuje cyklus spouštěný pro každý dotaz. Níže uvedené čtyři kroky tvoří páteř nadcházejících lekcí.

1

Indexování (offline)

Rozdělte své dokumenty na části (chunky), zakódujte je jako vektory (embeddings) a uložte do vektorového úložiště. Tento krok proběhne jednou (nebo při aktualizacích).

2

Vyhledávání (Retrieval)

Zakódujte uživatelův dotaz jako vektor a poté vyhledejte nejpodobnější části ve vektorovém úložišti pomocí kosinové podobnosti.

3

Obohacení (rozšířený prompt)

Vstříkněte nalezené části do promptu LLM jako kontext. Model nyní má faktické informace, na jejichž základě může odpovídat.

4

Generování

LLM vygeneruje odpověď na základě poskytnutého kontextu. Odpověď je faktická, doložená zdroji a relevantní.

Pouze první krok vyžaduje významný výpočetní čas; další tři proběhnou pod jednu sekundu. To je důvod, proč je tato architektura životaschopná pro služby s nepřetržitým dotazováním: svou dokumentaci zakódujete jednou a každý následný dotaz stojí pouze jedno volání pro vytvoření vektoru a jedno volání pro generování.

RAG versus Fine-tuning

RAG a fine-tuning řeší podobné problémy, ale odlišnými způsoby. Níže uvedená tabulka, zapsaná zde jako struktura v Pythonu, staví oba přístupy proti sobě podle pěti kritérií.

# RAG vs Fine-Tuning Comparison

comparison = {
    "RAG": {
        "update": "Instant (add/remove documents)",
        "cost": "Low (no retraining)",
        "traceability": "Excellent (you know where the info came from)",
        "hallucinations": "Reduced (answers grounded in sources)",
        "use_cases": "Documentation, FAQs, knowledge bases",
    },
    "Fine-tuning": {
        "update": "Expensive (retraining required)",
        "cost": "High (GPUs, time, annotated data)",
        "traceability": "Low (knowledge baked into the model)",
        "hallucinations": "Possible (model may extrapolate)",
        "use_cases": "Writing style, output format, specific tasks",
    },
}

Řádek „update“ často rozhoduje. Oprava chyby v postupu znamená u RAG nahrazení souboru a překódování několika částí – otázka minut. U fine-tuningu vyžaduje stejná oprava znovu sestavení datasetu a opětovné spuštění tréninku, bez záruky, že by byla stará verze skutečně zapomenuta. V praxi je RAG obvykle nejlepší volbou pro integraci neustále se měnících faktických znalostí, zatímco fine-tuning je vhodnější pro změnu chování nebo stylu modelu. Tyto dva přístupy se navzájem nevylučují: model fine-tunovaný tak, aby odpovídal v očekávaném formátu vaší firmy, může být stále napájen prostřednictvím RAG.

Technologický stack

Vytvoření pipeline RAG s Mistralem vyžaduje pouze tři knihovny a instalace zabere jeden řádek.

# Essential dependencies
# pip install mistralai faiss-cpu numpy

from mistralai.client import Mistral  # LLM + Embeddings
import faiss                    # Vector store
import numpy as np              # Vector calculations

SDK mistralai obsluhuje oba typy volání modelu samo: vytváření vektorů pomocí mistral-embed a generování pomocí mistral-large. Knihovna faiss-cpu od Meta přebírá řízení, jakmile se vyčerpávající porovnávání stane příliš pomalým – tedy u více než několika desítek tisíc vektorů. Nakonec numpy zpracovává operace s vektorovými maticemi, které vše propojují. V následujících lekcích si od nuly vybudujete každý krok této pipeline, od přípravy dat až po generování odpovědí.

Kdy použít RAG?

RAG je obzvláště vhodný, když máte k dispozici interní dokumenty – technickou dokumentaci, postupy, smlouvy –, které žádný veřejný model nikdy neviděl. Je to také správná volba, když se informace často mění: ceny, dostupnost, předpisy. Služba, která cituje zastaralé ceny, stojí více než služba, která neodpoví vůbec.

Tři další situace přirozeně směřují k využití RAG. Zaprvé potřeba doložitelnosti, kdy musíte vědět, odkud každá informace pochází – což je běžný požadavek v regulovaných odvětvích a v každém případě podmínka pro důvěru uživatelů. Zadruhé cíl snížit halucinace, protože model s příslušným úryvkem nemá důvod si vymýšlet. A nakonec rozpočet: když nemáte zdroje nebo anotovaná data pro fine-tuning, nabízí RAG praktickou cestu pouze s hrstkou dokumentů a několika hodinami práce.

Klíčové poznatky

  • RAG kombinuje vyhledávání informací s generováním LLM
  • Architektura se dělí na: indexování, vyhledávání, obohacení, generování
  • Pro neustále se měnící faktické znalosti je RAG vhodnější než fine-tuning
  • Mistral poskytuje oba nezbytné stavební kameny: vektory i LLM
  • FAISS je referenční knihovna pro vyhledávání ve vektorech