Prejsť na hlavný obsah
Slovenčina— Vyberte jazyk
Menu

Retrieval: Chunkovanie a hodnotenie

Lekcia 8 z 20 Vývojár
Na tejto strane
  1. Retrieval: Chunkovanie a hodnotenie
  2. Pipeline retrievalu
  3. Konfigurácia stratégie chunkovania
  4. Prah relevance a hodnotenie
  5. Optimalizácia kvality retrievalu
  6. Meranie kvality retrievalu
  7. Pokročilé stratégie
  8. Kľúčové poznatky

Retrieval: Chunkovanie a hodnotenie

File Search spolieha na kompletný pipeline retrievalu: tvoje dokumenty sa rozdelia na časti (chunky), vektorizujú, indexujú a následne pri príchode dotazu zoradia podľa relevance. Pochopenie tohto procesu ti umožní optimalizovať kvalitu odpovedí.

Pipeline retrievalu

Keď nahraješ súbor do vektorového úložiska, OpenAI automaticky vykoná:

  1. Parsovanie: Extrakcia čistého textu zo zdrojového formátu
  2. Chunkovanie: Rozdelenie textu na segmenty kontrolovanej veľkosti
  3. Embedding: Vektorizácia každého chunku
  4. Indexovanie: Uloženie vektorov do vektorového indexu

V čase dotazu:

  1. Embedding dotazu: Otázka sa vektorizuje
  2. Vektorové vyhľadávanie: Identifikácia najbližších chunkov
  3. Hodnotenie (Ranking): Preusporiadanie výsledkov podľa relevance
  4. Injekcia: Vloženie najlepších chunkov do kontextu modelu

Konfigurácia stratégie chunkovania

Chunkovanie je nastavenie, ktoré poháňa všetko ostatné, a kompromis je priamočiary. Krátke chunky prinášajú presné výsledky vyhľadávania, ale poskytujú úryvky zbavené kontextu – nájdeš správnu vetu, ale stratíš informáciu, na čo sa vzťahuje. Dlhé chunky zachovávajú kontext, ale pochovávajú relevantné informácie v irelevantnom texte, čo oslabuje skóre podobnosti.

Neexistuje univerzálna hodnota: správne nastavenie závisí od štruktúry tvojho dokumentu, presne ako je zhrnuté v tabuľke nižšie.

from openai import OpenAI

client = OpenAI()

# Predvolená stratégia: auto
vector_store = client.vector_stores.create(
    name="legal-base",
    chunking_strategy={"type": "auto"}
)

# Vlastná stratégia: menšie chunky pre vyššiu presnosť
vector_store = client.vector_stores.create(
    name="support-faq",
    chunking_strategy={
        "type": "static",
        "static": {
            "max_chunk_size_tokens": 400,
            "chunk_overlap_tokens": 100
        }
    }
)

Výber správnej veľkosti chunku

Typ obsahumax_chunk_sizeoverlapPrečo
FAQ, Otázky a odpovede200-40050Krátke, samostatné odpovede
Technická dokumentácia600-800200Odseky s kontextom
Zmluvy, právne texty800-1200300Dlhé, prepojené klauzuly
Zdrojový kód400-600100Funkcie a triedy

Vplyv overlapu (prekrytia)

Overlap rieši konkrétny problém: informácia presahujúca hranicu chunku by inak bola prerezaná napoly, čo by znamenalo, že ani jedna polovica by nezodpovedala dotazu. Prekrytím chunkov zabezpečíš, že každá veta zostane nedotknutá aspoň v jednom segmente. Cenou je redundancia – overlap 300 tokenov pri chunkoch s 800 tokenmi ukladá takmer 40 % duplicitného textu.

# Pôvodný text (zjednodušený)
# "Klauzula 5.1 uvádza, že dodávateľ musí dodať do 30 dní.
#  V prípade oneskorenia sa uplatňujú penále vo výške 1 % za deň.
#  Klauzula 5.2 špecifikuje, že penále sú obmedzené na 15 %."

# Bez overlapu: Klauzula 5.1 a penále sa môžu ocitnúť v rôznych chunkoch
# S overlapom: prepojenie medzi klauzulou a penálami sa zachová

Prah relevance a hodnotenie

Hodnotenie určuje, ktoré chunky sa zachovajú. Môžeš nakonfigurovať filter:

response = client.responses.create(
    model="gpt-5.6-terra",
    input="Aká je politika vrátenia tovaru?",
    tools=[{
        "type": "file_search",
        "vector_store_ids": [vector_store.id],
        "max_num_results": 10,
        "ranking_options": {
            "ranker": "auto",
            "score_threshold": 0.5
        }
    }]
)

Parameter score_threshold filtruje výsledky pod prahom relevance. Hodnota 0,0 vráti všetko, zatiaľ čo 1,0 by bola príliš obmedzujúca. V praxi hodnoty medzi 0,3 a 0,6 prinášajú dobré výsledky.

Optimalizácia kvality retrievalu

Príprava dokumentov

Toto je najnákladovo efektívnejšia páka v celej tejto lekcii a jediná, ktorá nestojí nič v nastaveniach: dobre štruktúrovaný dokument sa dobre indexuje. Používaj explicitné nadpisy, úvodnú vetu pre každú sekciu a vyhni sa tabuľkám prevedeným na textovú kašu. Naopak, žiadne nastavenie chunkovania nezachráni PDF, ktorého extrakcia produkuje prepletené stĺpce.

# Zlé: Naskenované PDF s približným OCR
# -> Nekonzistentné chunky, embeddiny nízkej kvality

# Dobré: Štruktúrovaný dokument s nadpismi a sekciami
# -> Chunky zarovnané s logickými sekciami

# Vzorec: Predspracovanie pred nahraním
def prepare_document(raw_text: str) -> str:
    """Čistí a štruktúruje text pred indexovaním."""
    # Odstránenie opakujúcich sa hlavičiek/pätiek
    lines = raw_text.split("\n")
    lines = [l for l in lines if not is_header_footer(l)]

    # Normalizácia medzier
    text = "\n".join(lines)
    text = re.sub(r"\n{3,}", "\n\n", text)

    return text

Obohatenie o metadáta

Metadáta umožňujú predbežné filtrovanie pred vektorovým vyhľadávaním, čo zlepšuje presnosť:

# Nahranie s bohatými metadátami
documents = [
    {"file": "hr-policy-2026.pdf", "department": "hr", "type": "policy", "year": 2026},
    {"file": "supplier-contract-a.pdf", "department": "procurement", "type": "contract", "year": 2026},
    {"file": "it-security-guide.pdf", "department": "it", "type": "guide", "year": 2025},
]

for doc in documents:
    with open(doc["file"], "rb") as f:
        file_obj = client.files.create(file=f, purpose="assistants")

    client.vector_stores.files.create(
        vector_store_id=vector_store.id,
        file_id=file_obj.id,
        attributes={
            "department": doc["department"],
            "document_type": doc["type"],
            "year": doc["year"]
        }
    )

Meranie kvality retrievalu

Bez merania je akékoľvek nastavenie chunkovania len intuíciou. Sada dvadsiatich otázok, kde poznáš očakávanú odpoveď a dokument, v ktorom sa nachádza, stačí na objektivizáciu procesu: zmeň parameter, znovu spusti testovaciu sadu a porovnaj výsledky. Je to malá práca v porovnaní s hodinami strávenými debatami o veľkosti chunku bez dát.

def evaluate_retrieval(test_questions: list[dict], vs_id: str) -> dict:
    """Hodnotí kvalitu retrievalu na testovacej sade.

    Každý prvok v test_questions obsahuje:
    - question: otázka, ktorú treba položiť
    - expected_answer: kľúčové slová alebo frázy očakávané v odpovedi
    """
    results = {"total": 0, "relevant": 0, "irrelevant": 0}

    for test in test_questions:
        response = client.responses.create(
            model="gpt-5.6-terra",
            input=test["question"],
            tools=[{
                "type": "file_search",
                "vector_store_ids": [vs_id],
                "max_num_results": 5
            }]
        )

        answer = response.output_text.lower()
        found_keywords = sum(
            1 for word in test["expected_answer"]
            if word.lower() in answer
        )

        results["total"] += 1
        if found_keywords >= len(test["expected_answer"]) * 0.5:
            results["relevant"] += 1
        else:
            results["irrelevant"] += 1

    results["relevance_rate"] = results["relevant"] / results["total"]
    return results

Pokročilé stratégie

Viacero vektorových úložísk (Multi-Vector-Store)

Dopytuj sa viacerých databáz dokumentov paralelne:

response = client.responses.create(
    model="gpt-5.6-terra",
    input="Porovnajte našu politiku HR s právnymi povinnosťami",
    tools=[{
        "type": "file_search",
        "vector_store_ids": [
            vs_internal_policies,
            vs_legal_texts
        ],
        "max_num_results": 15
    }]
)

Rozložené dotazy (Decomposed Queries)

Otázka obsahujúca viacero požiadaviek vytvára priemerný vektor, ktorý sa nepodobá ani jednej z nich, čo vedie k zlým výsledkom vyhľadávania pre všetky. Rozdelenie na samostatné podotázky prináša výrazne lepšie výsledky – je to rovnaký princíp ako pri webovom vyhľadávaní: presný dotaz porazí vyčerpávajúci.

def decomposed_search(complex_question: str, vs_id: str) -> str:
    """Rozloží zložitú otázku na podvyhľadávania."""
    # Krok 1: Rozloženie otázky
    decomposition = client.responses.create(
        model="gpt-5.6-terra",
        input=f"Rozlož túto otázku na 2-3 jednoduché podotázky: {complex_question}",
    )

    # Krok 2: Vyhľadávanie pre každú podotázku
    sub_results = []
    for sub_q in decomposition.output_text.split("\n"):
        if sub_q.strip():
            r = client.responses.create(
                model="gpt-5.6-terra",
                input=sub_q.strip(),
                tools=[{"type": "file_search", "vector_store_ids": [vs_id]}]
            )
            sub_results.append(r.output_text)

    # Krok 3: Syntéza
    synthesis = client.responses.create(
        model="gpt-5.6-terra",
        input=f"Pôvodná otázka: {complex_question}\n\n"
              f"Priebežné výsledky:\n" + "\n---\n".join(sub_results) +
              "\n\nSyntetizuj úplnú a koherentnú odpoveď."
    )
    return synthesis.output_text

Kľúčové poznatky

  • Statické chunkovanie s vlastnou veľkosťou a overlapom zlepšuje presnosť
  • Malé chunky pre FAQ, veľké chunky pre právne dokumenty
  • score_threshold filtruje irelevantné výsledky
  • Pred indexovaním dokumenty vyčisti a naštruktúruj
  • Kvalitu retrievalu hodnot pomocou testovacej sady