Fájlkeresés vs. egyedi RAG: mikor melyiket használd?
Ezen az oldalon
Célok
- Megérteni az OpenAI kezelt RAG megoldását (File Search)
- Összehasonlítani a File Search-t egy egyedi RAG folyamattal
- Kiválasztani a megfelelő megközelítést az adott felhasználási esetedhez
File Search: Az OpenAI kezelt RAG megoldása
Az eddigi leckék során lépésről lépésre felépítetted a RAG folyamat minden rétegét. A File Search mindezt elvégzi helyetted. Ez az OpenAI Responses API-ba épített eszköz, amely automatikusan kezeli a darabolást (chunking), a beágyazást (embedding), a vektortárolást és a keresést: csak feltöltöd a fájljaidat, és máris lekérdezheted őket. Ez a lecke nem utasítja el az eddig tanultakat, hanem egy őszinte kérdést tesz fel, amit minden kódírás előtt fel kell tenned magadnak: mi a megfelelő absztrakciós szint a projektedhez?
Minden egy vektortárral (vector store) kezdődik, ami a tároló, ahol az indexelt dokumentumaid helyezkednek el. Létrehozod, egyesével feltöltöd bele a fájlokat, majd megvárod az indexelés befejezését, mielőtt lekérdezést indítanál. Ez a várakozás nem csupán formalitás: az indexelés aszinkron, és egy túl korán indított lekérdezés csak a korpusz egy részét látná.
from openai import OpenAI
client = OpenAI()
# 1. Create a vector store
vector_store = client.vector_stores.create(
name="product-documentation"
)
print(f"Vector store created: {vector_store.id}")
# 2. Upload files
files = ["user_guide.pdf", "faq.md", "changelog.txt"]
for file in files:
with open(file, "rb") as f:
file_obj = client.files.create(file=f, purpose="assistants")
client.vector_stores.files.create(
vector_store_id=vector_store.id,
file_id=file_obj.id
)
print(f" Uploaded: {file}")
# Wait for indexing to complete
import time
while True:
vs = client.vector_stores.retrieve(vector_store.id)
if vs.file_counts.completed == vs.file_counts.total:
break
time.sleep(2)
print("Indexing complete")
A lekérdezés ezután egyetlen hívással megtörténik: megadod a file_search eszközt a tároló azonosítójával, és a modell eldönti, mikor kell információt visszakeresnie. A legérdekesebb rész az annotációk olvasása, amelyek tartalmazzák a fájlhivatkozásokat. Ez lehetővé teszi, hogy megjelenítsd a forrásokat a felhasználó számára – ezt a viselkedést az egyedi folyamatban neked kellett manuálisan megvalósítanod.
# Query with File Search
response = client.responses.create(
model="gpt-5.6-terra",
input="What are the new features in v3.2?",
tools=[{
"type": "file_search",
"vector_store_ids": [vector_store.id]
}]
)
print(response.output_text)
# Access cited sources
for annotation in response.output:
if hasattr(annotation, "annotations"):
for ann in annotation.annotations:
if ann.type == "file_citation":
print(f" Source: file {ann.file_citation.file_id}")
Két beállítás lehetővé teszi a viselkedés finomhangolását anélkül, hogy elhagynád a kezelt eszközt. A max_num_results meghatározza a visszakeresett darabok (chunkok) számát, a score_threshold pedig kiszűri az alacsony pontszámú találatokat, pontosan úgy, ahogy azt az átsorolás (reranking) utáni relevancia-küszöböt alkalmaztad.
response = client.responses.create(
model="gpt-5.6-terra",
input="How do I configure SSO?",
tools=[{
"type": "file_search",
"vector_store_ids": [vector_store.id],
"max_num_results": 10, # Number of chunks to retrieve
"ranking_options": {
"ranker": "auto", # Automatic ranker
"score_threshold": 0.3 # Relevance threshold
}
}]
)
Amit a File Search ad, és amit elvesz tőled
A File Search mellett szóló legdöntőbb érv az infrastruktúra teljes hiánya: nincs szükség vektoradatbázis üzemeltetésére, biztonsági mentésére vagy monitorozására. A darabolást az OpenAI végzi el és optimalizálja helyetted, a korpusz frissítése olyan egyszerű, mint egy fájl hozzáadása vagy eltávolítása, a hivatkozások automatikusan generálódnak, és a gyakori formátumok natívan támogatottak – PDF, DOCX, MD, TXT, HTML, JSON és még sok más. Egy olyan csapat, amelynek nincs infrastruktúrális szakértelme, délutánra üzemképes tudásbázist hozhat létre.
Ennek a kényelemnek az ára azonban a láncolat minden egyes elemére vonatkozó kontroll elvesztése. Nem te választod meg a darabok méretét, így a 12. leckében tárgyalt pontosság/kontextus kompromisszum kikerül a kezedből. A keresés tisztán szemantikai: nincs hibrid keresés, így a termékhivatkozások és a pontos hibakódok kezelése sérülékeny marad. Emellett nem kapcsolhatsz be Cohere-t vagy egy házi fejlesztésű cross-encodert az átsoroláshoz. Ehhez járul még három stratégiai szempont: a vektortárolás az API-hívásokon felül kerül számlázásra, az adataid az OpenAI szerverein tárolódnak, és az indexelés kizárólag a szövegre terjed ki.
Egy egyedi folyamat ezt a listát pontról pontra megfordítja. Te uralod a darabolást, a beágyazást, a keresést, az átsorolást és a promptolást; kombinálod a szemantikai és a lexikális keresést; vegyítheted a modellszolgáltatókat, vagy mindent helyben (on-premise) tarthatsz, ha az adataid ezt megkövetelik; és ami a legfontosabb: minden komponenst függetlenül optimalizálsz a hatásuk mérésével. Ennek a kontrollnak az ára a megírandó és karbantartandó kód, egy adminisztrálandó vektoradatbázis, valamint a szükséges szakértelem – a darabolás, az értékelés és az átsorolás nem improvisálható, és pontosan ezt tárgyalja ez a kurzus.
Döntési mátrix
| Kritérium | File Search | Egyedi RAG |
|---|---|---|
| Gyors prototípuskészítés | ✅ Ideális | ⚠️ Lassabb |
| Darabolás (chunking) kontrollja | ❌ | ✅ |
| Hibrid keresés | ❌ | ✅ |
| Érzékeny adatok | ⚠️ Az OpenAI-nál | ✅ Helyben (On-premise) |
| Költség nagy méretben | ⚠️ Magas lehet | ✅ Kiszámítható |
| Karbantartás | ✅ Nulla | ⚠️ Kezelendő |
| Maximális teljesítmény | ⚠️ Jó | ✅ Optimalizálható |
Hibrid architektúra: A két világ legjobbika
A választásnak nem kell véglegesnek lennie, és nem is szabad annak lennie. A legköltséghatékonyabb megközelítés, ha a File Search-csel kezdesz annak validálására, hogy a felhasználási eseted megállja-e a helyét, majd arra a napra váltasz egyedi folyamatra, amikor egy azonosított korlátba ütközöl. Ha mindkettőt egyetlen respond metódus mögé kapszulázod, ez a váltás fájdalommentes lesz a alkalmazás többi része számára.
class HybridRAG:
"""Start with File Search, switch to custom if needed."""
def __init__(self, mode: str = "file_search"):
self.client = OpenAI()
self.mode = mode
def respond_file_search(self, question: str, vs_id: str) -> str:
response = self.client.responses.create(
model="gpt-5.6-terra",
input=question,
tools=[{
"type": "file_search",
"vector_store_ids": [vs_id]
}]
)
return response.output_text
def respond_custom(self, question: str, pipeline) -> str:
result = pipeline.respond(question)
return result["response"]
def respond(self, question: str, **kwargs) -> str:
if self.mode == "file_search":
return self.respond_file_search(
question, kwargs["vs_id"]
)
else:
return self.respond_custom(
question, kwargs["pipeline"]
)
Amikor a migráció szükségessé válik, az egy pontos sorrendet követ:
- Fájljaid exportálása a vektortárból
- Darabolás (chunking) implementálása, amely igazodik a tartalmadhoz
- Beágyazások (embeddings) generálása a
text-embedding-3-largemodellel - Indexelés egy vektoradatbázisban (Qdrant, Pinecone stb.)
- Átsorolás (reranking) és hibrid keresés hozzáadása
- Értékelés a tesztadathalmazoddal
- Összehasonlítás a metrikák alapján a File Search-csel, mielőtt váltanál
Az utolsó lépés az, amit a leggyakrabban kihagynak, pedig ez az egyetlen, ami igazolja az összes többit: mennyiségi összehasonlítás nélkül előfordulhat, hogy egy megfelelően működő kezelt rendszert lecserélsz egy gyengébb házi megoldásra, plusz a karbantartási többletterhelésre.
Főbb megállapítások
- A File Search ideális egy RAG rendszer gyors prototípusálásához infrastruktúra nélkül
- Egy egyedi RAG folyamat teljes kontrollt és optimalizálható teljesítményt kínál
- Kezdj a File Search-csel, és akkor válts egyedire, ha korlátokba ütközöl
- Döntési kritériumok: kontroll, érzékeny adatok, költség, teljesítmény