Retrieval: Chunkovanie a hodnotenie
Na tejto strane
Retrieval: Chunkovanie a hodnotenie
File Search spolieha na kompletný pipeline retrievalu: tvoje dokumenty sa rozdelia na časti (chunky), vektorizujú, indexujú a následne pri príchode dotazu zoradia podľa relevance. Pochopenie tohto procesu ti umožní optimalizovať kvalitu odpovedí.
Pipeline retrievalu
Keď nahraješ súbor do vektorového úložiska, OpenAI automaticky vykoná:
- Parsovanie: Extrakcia čistého textu zo zdrojového formátu
- Chunkovanie: Rozdelenie textu na segmenty kontrolovanej veľkosti
- Embedding: Vektorizácia každého chunku
- Indexovanie: Uloženie vektorov do vektorového indexu
V čase dotazu:
- Embedding dotazu: Otázka sa vektorizuje
- Vektorové vyhľadávanie: Identifikácia najbližších chunkov
- Hodnotenie (Ranking): Preusporiadanie výsledkov podľa relevance
- Injekcia: Vloženie najlepších chunkov do kontextu modelu
Konfigurácia stratégie chunkovania
Chunkovanie je nastavenie, ktoré poháňa všetko ostatné, a kompromis je priamočiary. Krátke chunky prinášajú presné výsledky vyhľadávania, ale poskytujú úryvky zbavené kontextu – nájdeš správnu vetu, ale stratíš informáciu, na čo sa vzťahuje. Dlhé chunky zachovávajú kontext, ale pochovávajú relevantné informácie v irelevantnom texte, čo oslabuje skóre podobnosti.
Neexistuje univerzálna hodnota: správne nastavenie závisí od štruktúry tvojho dokumentu, presne ako je zhrnuté v tabuľke nižšie.
from openai import OpenAI
client = OpenAI()
# Predvolená stratégia: auto
vector_store = client.vector_stores.create(
name="legal-base",
chunking_strategy={"type": "auto"}
)
# Vlastná stratégia: menšie chunky pre vyššiu presnosť
vector_store = client.vector_stores.create(
name="support-faq",
chunking_strategy={
"type": "static",
"static": {
"max_chunk_size_tokens": 400,
"chunk_overlap_tokens": 100
}
}
)
Výber správnej veľkosti chunku
| Typ obsahu | max_chunk_size | overlap | Prečo |
|---|---|---|---|
| FAQ, Otázky a odpovede | 200-400 | 50 | Krátke, samostatné odpovede |
| Technická dokumentácia | 600-800 | 200 | Odseky s kontextom |
| Zmluvy, právne texty | 800-1200 | 300 | Dlhé, prepojené klauzuly |
| Zdrojový kód | 400-600 | 100 | Funkcie a triedy |
Vplyv overlapu (prekrytia)
Overlap rieši konkrétny problém: informácia presahujúca hranicu chunku by inak bola prerezaná napoly, čo by znamenalo, že ani jedna polovica by nezodpovedala dotazu. Prekrytím chunkov zabezpečíš, že každá veta zostane nedotknutá aspoň v jednom segmente. Cenou je redundancia – overlap 300 tokenov pri chunkoch s 800 tokenmi ukladá takmer 40 % duplicitného textu.
# Pôvodný text (zjednodušený)
# "Klauzula 5.1 uvádza, že dodávateľ musí dodať do 30 dní.
# V prípade oneskorenia sa uplatňujú penále vo výške 1 % za deň.
# Klauzula 5.2 špecifikuje, že penále sú obmedzené na 15 %."
# Bez overlapu: Klauzula 5.1 a penále sa môžu ocitnúť v rôznych chunkoch
# S overlapom: prepojenie medzi klauzulou a penálami sa zachová
Prah relevance a hodnotenie
Hodnotenie určuje, ktoré chunky sa zachovajú. Môžeš nakonfigurovať filter:
response = client.responses.create(
model="gpt-5.6-terra",
input="Aká je politika vrátenia tovaru?",
tools=[{
"type": "file_search",
"vector_store_ids": [vector_store.id],
"max_num_results": 10,
"ranking_options": {
"ranker": "auto",
"score_threshold": 0.5
}
}]
)
Parameter score_threshold filtruje výsledky pod prahom relevance. Hodnota 0,0 vráti všetko, zatiaľ čo 1,0 by bola príliš obmedzujúca. V praxi hodnoty medzi 0,3 a 0,6 prinášajú dobré výsledky.
Optimalizácia kvality retrievalu
Príprava dokumentov
Toto je najnákladovo efektívnejšia páka v celej tejto lekcii a jediná, ktorá nestojí nič v nastaveniach: dobre štruktúrovaný dokument sa dobre indexuje. Používaj explicitné nadpisy, úvodnú vetu pre každú sekciu a vyhni sa tabuľkám prevedeným na textovú kašu. Naopak, žiadne nastavenie chunkovania nezachráni PDF, ktorého extrakcia produkuje prepletené stĺpce.
# Zlé: Naskenované PDF s približným OCR
# -> Nekonzistentné chunky, embeddiny nízkej kvality
# Dobré: Štruktúrovaný dokument s nadpismi a sekciami
# -> Chunky zarovnané s logickými sekciami
# Vzorec: Predspracovanie pred nahraním
def prepare_document(raw_text: str) -> str:
"""Čistí a štruktúruje text pred indexovaním."""
# Odstránenie opakujúcich sa hlavičiek/pätiek
lines = raw_text.split("\n")
lines = [l for l in lines if not is_header_footer(l)]
# Normalizácia medzier
text = "\n".join(lines)
text = re.sub(r"\n{3,}", "\n\n", text)
return text
Obohatenie o metadáta
Metadáta umožňujú predbežné filtrovanie pred vektorovým vyhľadávaním, čo zlepšuje presnosť:
# Nahranie s bohatými metadátami
documents = [
{"file": "hr-policy-2026.pdf", "department": "hr", "type": "policy", "year": 2026},
{"file": "supplier-contract-a.pdf", "department": "procurement", "type": "contract", "year": 2026},
{"file": "it-security-guide.pdf", "department": "it", "type": "guide", "year": 2025},
]
for doc in documents:
with open(doc["file"], "rb") as f:
file_obj = client.files.create(file=f, purpose="assistants")
client.vector_stores.files.create(
vector_store_id=vector_store.id,
file_id=file_obj.id,
attributes={
"department": doc["department"],
"document_type": doc["type"],
"year": doc["year"]
}
)
Meranie kvality retrievalu
Bez merania je akékoľvek nastavenie chunkovania len intuíciou. Sada dvadsiatich otázok, kde poznáš očakávanú odpoveď a dokument, v ktorom sa nachádza, stačí na objektivizáciu procesu: zmeň parameter, znovu spusti testovaciu sadu a porovnaj výsledky. Je to malá práca v porovnaní s hodinami strávenými debatami o veľkosti chunku bez dát.
def evaluate_retrieval(test_questions: list[dict], vs_id: str) -> dict:
"""Hodnotí kvalitu retrievalu na testovacej sade.
Každý prvok v test_questions obsahuje:
- question: otázka, ktorú treba položiť
- expected_answer: kľúčové slová alebo frázy očakávané v odpovedi
"""
results = {"total": 0, "relevant": 0, "irrelevant": 0}
for test in test_questions:
response = client.responses.create(
model="gpt-5.6-terra",
input=test["question"],
tools=[{
"type": "file_search",
"vector_store_ids": [vs_id],
"max_num_results": 5
}]
)
answer = response.output_text.lower()
found_keywords = sum(
1 for word in test["expected_answer"]
if word.lower() in answer
)
results["total"] += 1
if found_keywords >= len(test["expected_answer"]) * 0.5:
results["relevant"] += 1
else:
results["irrelevant"] += 1
results["relevance_rate"] = results["relevant"] / results["total"]
return results
Pokročilé stratégie
Viacero vektorových úložísk (Multi-Vector-Store)
Dopytuj sa viacerých databáz dokumentov paralelne:
response = client.responses.create(
model="gpt-5.6-terra",
input="Porovnajte našu politiku HR s právnymi povinnosťami",
tools=[{
"type": "file_search",
"vector_store_ids": [
vs_internal_policies,
vs_legal_texts
],
"max_num_results": 15
}]
)
Rozložené dotazy (Decomposed Queries)
Otázka obsahujúca viacero požiadaviek vytvára priemerný vektor, ktorý sa nepodobá ani jednej z nich, čo vedie k zlým výsledkom vyhľadávania pre všetky. Rozdelenie na samostatné podotázky prináša výrazne lepšie výsledky – je to rovnaký princíp ako pri webovom vyhľadávaní: presný dotaz porazí vyčerpávajúci.
def decomposed_search(complex_question: str, vs_id: str) -> str:
"""Rozloží zložitú otázku na podvyhľadávania."""
# Krok 1: Rozloženie otázky
decomposition = client.responses.create(
model="gpt-5.6-terra",
input=f"Rozlož túto otázku na 2-3 jednoduché podotázky: {complex_question}",
)
# Krok 2: Vyhľadávanie pre každú podotázku
sub_results = []
for sub_q in decomposition.output_text.split("\n"):
if sub_q.strip():
r = client.responses.create(
model="gpt-5.6-terra",
input=sub_q.strip(),
tools=[{"type": "file_search", "vector_store_ids": [vs_id]}]
)
sub_results.append(r.output_text)
# Krok 3: Syntéza
synthesis = client.responses.create(
model="gpt-5.6-terra",
input=f"Pôvodná otázka: {complex_question}\n\n"
f"Priebežné výsledky:\n" + "\n---\n".join(sub_results) +
"\n\nSyntetizuj úplnú a koherentnú odpoveď."
)
return synthesis.output_text
Kľúčové poznatky
- Statické chunkovanie s vlastnou veľkosťou a overlapom zlepšuje presnosť
- Malé chunky pre FAQ, veľké chunky pre právne dokumenty
score_thresholdfiltruje irelevantné výsledky- Pred indexovaním dokumenty vyčisti a naštruktúruj
- Kvalitu retrievalu hodnot pomocou testovacej sady