File Search vs. vlastní RAG: Kdy použít co
Na této stránce
Cíle
- Porozumět spravovanému RAG od OpenAI (File Search)
- Porovnat File Search s vlastním RAG pipeline
- Zvolit správný přístup pro tvůj případ použití
File Search: Spravovaný RAG od OpenAI
Právě jsi lekci po lekci vybudoval každou vrstvu RAG pipeline. Nástroj File Search dělá vše za tebe. Je to nástroj vestavěný přímo do API OpenAI Responses, který automaticky řeší chunking, vytváření vnoření (embeddings), vektorové úložiště i vyhledávání: nahraješ soubory a ptáš se. Tato lekce není odmítnutím toho předchozího, ale upřímnou otázkou, kterou si musíš položit před napsáním jakéhokoli kódu: jaká je pro tvůj projekt ta správná úroveň abstrakce?
Všechno začíná vektorovým úložištěm (vector store), což je kontejner hostující tvé indexované dokumenty. Vytvoříš ho, nahraješ do něj soubory jeden po druhém a poté čekáš na dokončení indexace, než začneš dotazovat. Toto čekání není jen formální: indexace probíhá asynchronně a dotaz spuštěný příliš brzy uvidí pouze část korpusu.
from openai import OpenAI
client = OpenAI()
# 1. Create a vector store
vector_store = client.vector_stores.create(
name="product-documentation"
)
print(f"Vector store created: {vector_store.id}")
# 2. Upload files
files = ["user_guide.pdf", "faq.md", "changelog.txt"]
for file in files:
with open(file, "rb") as f:
file_obj = client.files.create(file=f, purpose="assistants")
client.vector_stores.files.create(
vector_store_id=vector_store.id,
file_id=file_obj.id
)
print(f" Uploaded: {file}")
# Wait for indexing to complete
import time
while True:
vs = client.vector_stores.retrieve(vector_store.id)
if vs.file_counts.completed == vs.file_counts.total:
break
time.sleep(2)
print("Indexing complete")
Samotné dotazování pak zabere jediný volání: deklaruješ nástroj file_search s ID úložiště a model se sám rozhodne, kdy informace vyhledat. Zajímavá část přichází při čtení anotací, které obsahují citace souborů. To ti umožňuje zobrazit uživateli zdroje – chování, které jsi musel ve vlastním pipeline implementovat ručně.
# Query with File Search
response = client.responses.create(
model="gpt-5.6-terra",
input="What are the new features in v3.2?",
tools=[{
"type": "file_search",
"vector_store_ids": [vector_store.id]
}]
)
print(response.output_text)
# Access cited sources
for annotation in response.output:
if hasattr(annotation, "annotations"):
for ann in annotation.annotations:
if ann.type == "file_citation":
print(f" Source: file {ann.file_citation.file_id}")
Dvě nastavení ti umožňují doladit chování, aniž bys opustil spravovaný nástroj. max_num_results určuje počet získaných chunků a score_threshold filtruje výsledky s nízkým skóre, přesně jako práh relevance, který jsi aplikoval po přehodnocení (reranking).
response = client.responses.create(
model="gpt-5.6-terra",
input="How do I configure SSO?",
tools=[{
"type": "file_search",
"vector_store_ids": [vector_store.id],
"max_num_results": 10, # Number of chunks to retrieve
"ranking_options": {
"ranker": "auto", # Automatic ranker
"score_threshold": 0.3 # Relevance threshold
}
}]
)
Co ti File Search dává a co ti bere
Rozhodujícím argumentem pro File Search je úplná absence infrastruktury: žádné vektorové databáze k nasazení, zálohování nebo monitorování. Chunking je proveden za tebe a optimalizován společností OpenAI, aktualizace korpusu je tak jednoduchá jako přidání nebo odebrání souboru, citace jsou generovány automaticky a běžné formáty jsou podporovány nativně – PDF, DOCX, MD, TXT, HTML, JSON a další. Tým bez expertízy na infrastrukturu může mít znalostní bázi online během odpoledne.
Odvrácenou stranou této pohodlnosti je ztráta kontroly nad každým článkem řetězce. Nevolíš velikost chunků, takže kompromis mezi přesností a kontextem z Lekce 12 je mimo tvé ruce. Vyhledávání je čistě sémantické: žádné hybridní vyhledávání, takže odkazy na produkty a přesné chybové kódy zůstávají křehké. Nemůžeš ani zapojit Cohere nebo vlastní cross-encoder pro přehodnocení (reranking). Přidej k tomu tři další strategická hlediska: za vektorové úložiště se platí navíc k API voláním, tvá data sídlí na serverech OpenAI a indexace pokrývá pouze text.
Vlastní pipeline tento seznam obrací bod po bodu. Máš pod kontrolou chunking, vnoření, vyhledávání, přehodnocení i promptování; kombinuješ sémantické a lexikální vyhledávání; mícháš poskytovatele modelů, nebo vše udržuješ on-premise, pokud to tvá data vyžadují; a především optimalizuješ každou komponentu nezávisle měřením jejího dopadu. Tato kontrola má svou cenu: kód, který musíš psát a udržovat, vektorovou databázi k administrování a potřebnou expertízu – chunking, evaluace a přehodnocení nejsou věci, které se dělají na koleni, což je přesně to, co tento kurz pokrývá.
Rozhodovací matice
| Kritérium | File Search | Vlastní RAG |
|---|---|---|
| Rychlé prototypování | ✅ Ideální | ⚠️ Pomalejší |
| Kontrola chunkingu | ❌ | ✅ |
| Hybridní vyhledávání | ❌ | ✅ |
| Citlivá data | ⚠️ Na OpenAI | ✅ On-premise |
| Náklady ve velkém měřítku | ⚠️ Mohou být vysoké | ✅ Predikovatelné |
| Údržba | ✅ Žádná | ⚠️ K řízení |
| Maximální výkon | ⚠️ Dobrý | ✅ Optimalizovatelný |
Hybridní architektura: To nejlepší z obou světů
Volba nemusí být definitivní a ani by neměla být. Nejefektivnější přístup je začít s File Search, abys ověřil, že tvůj případ použití dává smysl, a přejít na vlastní pipeline ve chvíli, kdy narazíš na identifikovaný limit. Zapouzdření obou přístupů za jedinou metodu respond učiní tento přechod pro zbytek tvé aplikace bezbolestným.
class HybridRAG:
"""Start with File Search, switch to custom if needed."""
def __init__(self, mode: str = "file_search"):
self.client = OpenAI()
self.mode = mode
def respond_file_search(self, question: str, vs_id: str) -> str:
response = self.client.responses.create(
model="gpt-5.6-terra",
input=question,
tools=[{
"type": "file_search",
"vector_store_ids": [vs_id]
}]
)
return response.output_text
def respond_custom(self, question: str, pipeline) -> str:
result = pipeline.respond(question)
return result["response"]
def respond(self, question: str, **kwargs) -> str:
if self.mode == "file_search":
return self.respond_file_search(
question, kwargs["vs_id"]
)
else:
return self.respond_custom(
question, kwargs["pipeline"]
)
Když je migrace nezbytná, postupuj v přesném pořadí:
- Exportuj své soubory z vektorového úložiště
- Implementuj chunking přizpůsobený tvému obsahu
- Vygeneruj vnoření pomocí
text-embedding-3-large - Indexuj ve vektorové databázi (Qdrant, Pinecone atd.)
- Přidej přehodnocení (reranking) a hybridní vyhledávání
- Ohodnoť pomocí své testovací sady dat
- Porovnej metriky s File Search před přepnutím
Poslední krok je ten, který se nejčastěji vynechává, a přitom je jediný, který ospravedlňuje všechny ostatní: bez kvantitativního srovnání jsi mohl nahradit slušný spravovaný systém horším vlastním řešením, navíc s režijními náklady na údržbu.
Shrnutí
- File Search je ideální pro rychlé prototypování systému RAG bez nutnosti infrastruktury
- Vlastní RAG pipeline nabízí totální kontrolu a výkon, který lze optimalizovat
- Začni s File Search, přejdi na vlastní řešení, když narazíš na limity
- Rozhodovací kritéria: kontrola, citlivá data, náklady, výkon