Премини към основното съдържание
Български— Изберете език
Меню

Въведение в RAG

Урок 9 от 18 Обновен 2 ноември 2026 г. Програмист
На тази страница
  1. Какво представлява RAG?
  2. Архитектура на RAG
  3. RAG спрямо Дообучаване (Fine-Tuning)
  4. Технологичен стек
  5. Кога да използвате RAG?
  6. Ключови изводи

Какво представлява RAG?

RAG (Retrieval-Augmented Generation – Генериране, подпомогнато от извличане) е архитектура, която комбинира система за извличане на информация с голям езиков модел (LLM). Вместо да разчита единствено на вътрешните знания на модела, RAG първо търси релевантна информация в база данни, след което вкарва тази информация в промпта, за да генерира отговор, базиран на реални данни.

Защо RAG стана незаменим? Защото големите езикови модели имат три фундаментални ограничения и те всички излизат наяве в един и същи момент: когато някой зададе въпрос относно Вашата компания. Първо, замразени знания: моделът знае само това, което е научил по време на обучението си, така че няма представа за актуализацията на цените Ви от миналия месец. Следващо, халюцинации: когато го попитат за вътрешна процедура, която не познава, моделът създава правдоподобен, но напълно грешен отговор с пълна увереност. Накрая, частните данни са недостъпни по дизайн: моделът няма достъп до Вашите вътрешни документи и Вие не бихте искали те да попаднат в обучаващ корпус anyway.

RAG решава и трите проблема, като добавя стъпка на извличане преди генерирането. Моделът спира да бъде памет, към която да се прави заявка, и се превръща в двигател за писане, приложен върху документи, които Вие контролирате.

Архитектура на RAG

RAG конвейерът се разделя на две основни фази: фаза на индексиране, извършвана предварително, последвана от цикъл, изпълняван за всеки въпрос. Четирите стъпки по-долу формират гръбнака на предстоящите уроци.

1

Индексиране (офлайн)

Разделете документите си на части (chunks), кодирайте ги като вложени представления (embeddings) и ги съхранете във векторно хранилище. Тази стъпка се изпълнява веднъж (или при актуализации).

2

Извличане

Кодирайте въпроса на потребителя като вложено представление, след което потърсете най-подобните части във векторното хранилище, използвайки косинусова близост.

3

Обогатяване (enriched prompt)

Вкарайте извлечените части в промпта на LLM като контекст. Сега моделът разполага с фактическа информация, върху която да базира отговора си.

4

Генериране

LLM генерира отговор въз основа на предоставения контекст. Отговорът е фактологичен, с посочен източник и релевантен.

Само първата стъпка изисква значително изчислително време; следващите три се изпълняват за по-малко от секунда. Това прави архитектурата жизнеспособна за услуга, към която се отправят непрекъснати заявки: Вие кодирате документацията си веднъж, след което всеки въпрос струва само едно извикване за вложено представление и едно извикване за генериране.

RAG спрямо Дообучаване (Fine-Tuning)

RAG и дообучаването решават сходни проблеми, но по различни начини. Таблицата по-долу, представена тук като Python структура, противопоставя двата подхода по пет критерия.

# RAG vs Fine-Tuning Comparison

comparison = {
    "RAG": {
        "update": "Instant (add/remove documents)",
        "cost": "Low (no retraining)",
        "traceability": "Excellent (you know where the info came from)",
        "hallucinations": "Reduced (answers grounded in sources)",
        "use_cases": "Documentation, FAQs, knowledge bases",
    },
    "Fine-tuning": {
        "update": "Expensive (retraining required)",
        "cost": "High (GPUs, time, annotated data)",
        "traceability": "Low (knowledge baked into the model)",
        "hallucinations": "Possible (model may extrapolate)",
        "use_cases": "Writing style, output format, specific tasks",
    },
}

Редът „update“ често решава въпроса. Поправката на грешка в процедура означава при RAG замяна на файл и повторно кодиране на няколко части – въпрос на минути. При дообучаването същата поправка изисква изграждане наново на набор от данни и повторно стартиране на обучението, без гаранция, че старата версия е наистина забравена. На практика RAG обикновено е най-добрият избор за интегриране на променящи се фактологични знания, докато дообучаването е по-подходящо за промяна на поведението или стила на модела. Двете не се изключват взаимно: модел, дообучен да отговаря във формат, очакван от Вашия бизнес, все още може да се захранва чрез RAG.

Технологичен стек

Изграждането на RAG конвейер с Mistral изисква само три библиотеки, а инсталацията отнема един ред.

# Essential dependencies
# pip install mistralai faiss-cpu numpy

from mistralai.client import Mistral  # LLM + Embeddings
import faiss                    # Vector store
import numpy as np              # Vector calculations

SDK mistralai обработва и двата типа извиквания на модели самостоятелно: вложени представления с mistral-embed и генериране с mistral-large. faiss-cpu, библиотеката на Meta за бързо векторно търсене, поема управлението, когато изчерпателното сравнение стане твърде бавно – над няколко десетки хиляди вектора. Накрая, numpy обработва матричните операции с вектори, които свързват всичко в едно цяло. В следващите уроци ще изградите всяка стъпка от този конвейер от нулата, от подготовката на данните до генерирането на отговора.

Кога да използвате RAG?

RAG е особено подходящ, когато разполагате с вътрешни документи – техническа документация, процедури, договори – които никой публичен модел никога не е виждал. Това е и правилният избор, когато информацията се променя често: цени, наличности, регулации. Услуга, която цитира остарели цени, струва повече от такава, която изобщо не отговаря.

Три други ситуации естествено насочват към RAG. Първо, нуждата от проследимост, когато трябва да знаете откъде идва всяка част от информацията – често изискване в регулираните сектори и във всеки случай условие за доверието на потребителите. Второ, целта за намаляване на халюцинациите, тъй като модел, разполагащ с правилния откъс, няма причина да измисля. Накрая, бюджетът: когато нямате ресурси или анотирани данни за дообучаване, RAG предлага практичен път само с шепа документи и няколко часа работа.

Ключови изводи

  • RAG комбинира извличането на информация с генерирането на LLM
  • Архитектурата се разделя на: индексиране, извличане, обогатяване, генериране
  • RAG е за предпочитане пред дообучаването за променящи се фактологични знания
  • Mistral предоставя и двата основни градивни елемента: вложени представления и LLM
  • FAISS е референтната библиотека за векторно търсене