Prejsť na hlavný obsah
Slovenčina— Vyberte jazyk
Menu

Zakotvenie: Ukotvenie odpovedí vo faktoch

Lekcia 8 z 16 Aktualizované 3. novembra 2026 Vývojár
Na tejto strane
  1. Zakotvenie: Ukotvenie odpovedí vo faktoch
  2. Prečo je zakotvenie nevyhnutné
  3. Technika 1: Explicitný kontext
  4. Technika 2: Povinné citácie
  5. Technika 3: Overovanie po generovaní
  6. Technika 4: Defenzívne promptovanie proti halucináciám
  7. Kombinácia s nástrojmi API
  8. Kľúčové poznatky

Lekcia aktualizovaná 3. novembra 2026 na základe dokumentácie OpenAI: parametre temperature a top_p sú akceptované len pri úsilí o logické uvažovanie (reasoning effort) nastavenom na none, zatiaľ čo modely GPT-5.6 štandardne uvažujú (medium). Volania, ktoré nastavujú tieto parametre, preto musia špecifikovať reasoning={"effort": "none"} (Responses API) alebo reasoning_effort="none" (Chat Completions). Zdroje: Používanie GPT-6 · GPT-5.6 Terra.

Zakotvenie: Ukotvenie odpovedí vo faktoch

Zakotvenie (Grounding) núti model zakladať svoje odpovede výlučne na dátach, ktoré mu poskytnete, namiesto toho, aby sa spoliehal na svoje vnútorné vedomosti. Je to vaša prvá línia obrany proti halucináciám a nepostrádateľná požiadavka hneď, ako aplikácia opustí fázu prototypu. Asistent podpory, ktorý si vymyslí zmluvnú doložku, nerobí roztomilú chybu: právne viaže vašu spoločnosť voči klientovi, ktorý si ju prečítal.

Prečo je zakotvenie nevyhnutné

Veľké jazykové modely (LLM) generujú štatisticky pravdepodobný text, čo nemusí nevyhnutne zodpovedať fakticky správnemu textu. Bez zakotvenia môže model fabriciť citácie, štatistiky alebo technické odkazy, ktoré znejú úplne vierohodne: verziu softvéru, ktorá nikdy neexistovala, dôveryhodnú, no falošnú lehotu na rozmyslenie, alebo názov parametra vymyslený z čistého vzduchu. Nič vo formulácii neprezradí, že ide o výmysel, čo je presne to, čo robí tento jav v produkčnom prostredí nebezpečným. Čím lepšie je odpoveď napísaná, tým menej pravdepodobné je, že si ju používateľ overí, a tým vyššie sú právne a reputačné riziká.

Technika 1: Explicitný kontext

Najjednoduchšia metóda je zároveň tá najrobustnejšia: vložte zdrojový text priamo do promptu a modelu zakážte ísť nad jeho rámec. Vaše inštrukcie musia obsahovať tri prvky: obmedzenie na poskytnutý dokument, presnú frázu, ktorú má model použiť, keď informácia chýba, a požiadavku citovať použitý úsek. Výsledok otestujte na hraničnom prípade: žiadosť o vrátenie tovaru po 45 dňoch musí spustiť pravidlo o 50 % čiastočnej refundácii, nie ústretovú odpoveď, ktorú zákazník dúfa, že počuje.

from openai import OpenAI

client = OpenAI()

document = """
Acme Corp Refund Policy (v3.2, January 2026):
- Full refund within 30 days of purchase
- Partial refund (50%) between 30 and 60 days
- No refund after 60 days
- Customized products are non-refundable
- Refunds are processed within 5 business days
"""

system = """You are an Acme Corp customer support assistant.

STRICT RULES:
- Answer ONLY based on the document provided below
- If the answer is not in the document, say "I do not have
  this information in our current policy"
- NEVER make assumptions beyond the document
- Quote the relevant passage in quotation marks

REFERENCE DOCUMENT:
""" + document

response = client.responses.create(
    model="gpt-5.6-terra",
    reasoning={"effort": "none"},  # temperature requires effort none
    instructions=system,
    input="I would like a refund for an item purchased 45 days ago.",
    temperature=0.1
)

Technika 2: Povinné citácie

Ďalšia úroveň vyžaduje referenciu pre každé tvrdenie, ktoré model vysloví. Má to dvojitý efekt. Odpoveď sa stáva overiteľnou pre používateľa, ktorý si ju môže vystopovať späť k pôvodnému úseku, namiesto toho, aby vám veril len na slovo. Zároveň sa model sám cenzuruje pri tvrdeniach, ktoré nedokáže prepojiť so žiadnym zdrojom, keďže inštrukcia mu explicitne prikazuje takéto tvrdenia vynechať, namiesto toho, aby ich dodal bez odkazu. Číslovanie dokumentov v kontexte, ako to robí funkcia nižšie, tiež umožňuje využiť citácie vo vašom rozhraní: „[Dokument 2]“ sa môže stať klikateľným odkazom na správny súbor.

system_with_citations = """You are a research assistant.

For every assertion in your response, add a reference
to the source passage in brackets, for example: [Source: paragraph 3].

If you cannot cite a source passage, do not include the assertion.

Response format:
1. Response with inline citations
2. "Sources Used" section with exact excerpts"""

def reponse_grounded(question: str, documents: list[str]) -> str:
    """Generate a grounded response with citations."""
    context = "\n\n---\n\n".join(
        f"[Document {i+1}]\n{doc}"
        for i, doc in enumerate(documents)
    )

    response = client.responses.create(
        model="gpt-5.6-terra",
        reasoning={"effort": "none"},  # temperature requires effort none
        instructions=system_with_citations + f"\n\nDOCUMENTS:\n{context}",
        input=question,
        temperature=0.1
    )
    return response.output_text

Technika 3: Overovanie po generovaní

Prvé dve techniky znižujú riziko, ale nikdy ho úplne neodstraňujú. Pre kritické prípady pridajte druhý prechod: špecializované volanie, ktoré rozloží odpoveď na elementárne tvrdenia a každé z nich skontroluje proti zdrojom. Princíp je rovnaký ako pri code review – autor číta svoju vlastnú prácu horšie, zatiaľ čo čerstvý pár očí ju číta oveľa lepšie – a funguje tu z rovnakého dôvodu, keďže overovateľ nevytvoril text, ktorý skúma. Nastavenie teploty na 0,0 nie je detail: overovateľ musí byť čo najreprodukovateľnejší, inak nezistíte, či sa meniaci sa verdikt týka odpovede, alebo len nálady modelu.

def verifier_grounding(reponse: str, sources: str) -> dict:
    """Verify whether a response is properly grounded in the sources."""
    verification_prompt = f"""Analyze whether this response is faithful to the sources.

RESPONSE TO VERIFY:
{reponse}

SOURCES:
{sources}

For each assertion in the response, indicate:
- The assertion
- Whether it is supported by the sources (YES/NO)
- The corresponding source passage (or "None")

End with a grounding score: X supported assertions / Y total."""

    response = client.responses.create(
        model="gpt-5.6-terra",
        reasoning={"effort": "none"},  # temperature requires effort none
        input=verification_prompt,
        temperature=0.0
    )
    return {"verification": response.output_text}

Technika 4: Defenzívne promptovanie proti halucináciám

Určité formulácie významne znižujú halucinácie a nie sú zameniteľné: každá rieši odlišný symptóm. Explicitná formulácia jednoducho umožňuje modelu priznať nevedomosť, čo často stačí. Penalizačný prístup hodnotí chyby voči sebe navzájom, čo je užitočné, keď čelíte modelu, ktorý spontánne preferuje povedať čokoľvek radšej než nič. Štrukturálny prístup zvýrazňuje neistotu priamo vo výstupe, čo je cenné, keď vaše rozhranie potrebuje vizuálne odlíšiť to, čo je isté, od toho, čo je odvodené. Nakoniec, prístup s obmedzením ohraničuje zdroj pomocou tagov, čo funguje obzvlášť dobre, keď je vložený kontext rozsiahly a hrozí rozmazanie hranice medzi dokumentom a inštrukciou.

defensive_prompts = {
    "explicit": "If you do not know the answer, say 'I don't know'.",

    "penalizing": "It is FORBIDDEN to invent information. "
                  "An 'I don't know' response is always preferable "
                  "to incorrect information.",

    "structural": "For each point in your response, indicate your confidence level: "
                  "[CERTAIN] based on the document, "
                  "[PROBABLE] inferred from context, [UNCERTAIN] unverified.",

    "constrained": "Answer using EXCLUSIVELY the information "
                   "between the <source> and </source> tags. "
                   "Any external information is forbidden."
}

Pri správnom použití tieto formulácie znižujú halucinácie o 60 až 80 %. Musíte to však pozorovať vo vlastnom prostredí, namiesto toho, aby ste sa spoliehali na priemer: miera zakotvenia sa vypočíta opakovaným spustením overovania na dávke odpovedí a agregáciou získaných skóre.

def taux_grounding(reponses: list[dict]) -> float:
    """Calculate the grounding rate across a set of responses.

    Each response is a dict with 'reponse' and 'sources'.
    """
    scores = []
    for item in reponses:
        verif = verifier_grounding(item["reponse"], item["sources"])
        # Extract the score (adapt to output format)
        scores.append(verif)
    return scores

Kombinácia s nástrojmi API

API OpenAI ponúka dva natívne nástroje, ktoré vás zbavia potreby budovať vlastnú vrstvu vyhľadávania. File Search prehľadáva dokumenty, ktoré ste nahrali, a automaticky vkladá relevantné úryvky do kontextu. Web Search ukotvuje odpovede v nedávnych výsledkoch z webu, čo pomáha, keď sa téma vyvíja rýchlejšie než vaša dokumentácia. V oboch prípadoch zostávajú inštrukcie obmedzenia nevyhnutné: nástroj sa postará o dodanie materiálu, ale váš prompt – a len váš prompt – zakazuje modelu vybočiť z neho.

response = client.responses.create(
    model="gpt-5.6-terra",
    instructions="Answer based only on the provided documents.",
    input="What are the warranty conditions?",
    tools=[{"type": "file_search"}]
)

Teraz celý reťazec dôkladne otestujte na internom firemnom dokumente – či už ide o FAQ, obchodné podmienky alebo technickú dokumentáciu, nezáleží na tom, pokiaľ je reálny. Vytvorte zakotveného asistenta pomocou explicitného kontextu, položte mu desať otázok, z ktorých tri zámerne pokrývajú body, ktoré v dokumente chýbajú, a overte, či na tieto tri odmietne odpovedať, namiesto toho, aby si vymýšľal. Následne pridajte overovanie po generovaní a zmerajte svoju skutočnú mieru zakotvenia: práve toto číslo, nie dôvera, ktorú vkladáte do svojho promptu, rozhoduje o tom, či je asistent pripravený na nasadenie do produkcie.

Kľúčové poznatky

  • Zakotvenie je nevyhnutné pre každú profesionálnu aplikáciu
  • Vložte zdrojový kontext priamo do promptu a vynútte si citácie
  • Overte zakotvenie po generovaní pri kritických prípadoch
  • Defenzívne formulácie znižujú halucinácie o 60 až 80 %
  • Použite temperature=0.0 až 0.1 na maximalizáciu vernosti zdrojom