Sidrenje: utemeljevanje odgovorov v dejstvih
Na tej strani
Lekcija posodobljena 3. novembra 2026 na podlagi dokumentacije OpenAI: parametra
temperatureintop_psta sprejeta le pri naporu razmišljanja (reasoning effort) vrednostinone, medtem ko modeli GPT-5.6 privzeto razmišljajo (medium). Klici, ki nastavljajo te parametre, morajo zato določitireasoning={"effort": "none"}(Responses API) alireasoning_effort="none"(Chat Completions). Viri: Uporaba GPT-6 · GPT-5.6 Terra.
Sidrenje: utemeljevanje odgovorov v dejstvih
Sidrenje omeji model, da svoje odgovore temelji izključno na podatkih, ki jih zagotoviš ti, in ne na njegovem notranjem znanju. To je tvoja prva obrambna linija pred halucinacijami in nepogrešljiva zahteva, ko aplikacija prestopi fazo prototipa. Podpora strankam, ki si izmisli klavzulo pogodbe, ne naredi srčkane napake: pravno zaveže tvoje podjetje do klienta, ki je to prebral.
Zakaj je sidrenje nujno
Veliki jezikovni modeli (LLM) ustvarjajo statistično verjetno besedilo, kar ne pomeni nujno, da je dejansko pravilno. Brez sidrenja lahko model izmisli citate, statistiko ali tehnične reference, ki zvenijo popolnoma verjetno: različico programske opreme, ki nikoli ni obstajala, verodostojno, a lažno obdobje za odstop, ali ime parametra, izvlečeno iz zraka. Nič v formulaciji ne razkriva izmišljotine, kar je ravno tisto, kar ta pojav dela nevarnega v produkcijskem okolju. Bolj ko je odgovor napisan, manj verjetno je, da ga bo uporabnik preveril, in večje postajajo pravne ter reputacijske nevarnosti.
Tehnika 1: Eksplicitni kontekst
Najpreprostejša metoda je hkrati najbolj robustna: v poziv vstaviš izvorno besedilo in modelu prepoveš, da bi šel dlje od njega. Tvoja navodila morajo vsebovati tri elemente: omejitev na priloženi dokument, točen frazni odziv za primer manjkajočih informacij in zahtevo po navajanju uporabljenega odlomka. Rezultat preizkusi na robnem primeru: zahtevek za vračilo po 45 dneh mora sprožiti pravilo o 50-odstotnem delnem vračilu, ne pa ustrežljivega odgovora, ki ga stranka upa slišati.
from openai import OpenAI
client = OpenAI()
document = """
Acme Corp Refund Policy (v3.2, January 2026):
- Full refund within 30 days of purchase
- Partial refund (50%) between 30 and 60 days
- No refund after 60 days
- Customized products are non-refundable
- Refunds are processed within 5 business days
"""
system = """You are an Acme Corp customer support assistant.
STRICT RULES:
- Answer ONLY based on the document provided below
- If the answer is not in the document, say "I do not have
this information in our current policy"
- NEVER make assumptions beyond the document
- Quote the relevant passage in quotation marks
REFERENCE DOCUMENT:
""" + document
response = client.responses.create(
model="gpt-5.6-terra",
reasoning={"effort": "none"}, # temperature requires effort none
instructions=system,
input="I would like a refund for an item purchased 45 days ago.",
temperature=0.1
)
Tehnika 2: Obvezna citiranja
Naslednja stopnja zahteva referenco za vsako trditev. To ima dvojni učinek. Odgovor postane preverljiv za uporabnika, ki ga lahko izsledi nazaj do izvirnega odlomka, namesto da bi ti verjel na besedo. Model se hkrati samocenzurira pri trditvah, ki jih ne more povezati z nobenim virom, saj mu navodilo izrecno nalaga, naj jih izpusti, namesto da bi jih podal brez reference. Oštevilčenje dokumentov v kontekstu, kot to počne spodnja funkcija, omogoča tudi uporabo citatov v tvojem vmesniku: „[Dokument 2]” lahko postane klikabilna povezava do pravilne datoteke.
system_with_citations = """You are a research assistant.
For every assertion in your response, add a reference
to the source passage in brackets, for example: [Source: paragraph 3].
If you cannot cite a source passage, do not include the assertion.
Response format:
1. Response with inline citations
2. "Sources Used" section with exact excerpts"""
def reponse_grounded(question: str, documents: list[str]) -> str:
"""Generate a grounded response with citations."""
context = "\n\n---\n\n".join(
f"[Document {i+1}]\n{doc}"
for i, doc in enumerate(documents)
)
response = client.responses.create(
model="gpt-5.6-terra",
reasoning={"effort": "none"}, # temperature requires effort none
instructions=system_with_citations + f"\n\nDOCUMENTS:\n{context}",
input=question,
temperature=0.1
)
return response.output_text
Tehnika 3: Preverjanje po generiranju
Prvi dve tehniki zmanjšata tveganje, ga nikoli pa ne odpravita v celoti. Za kritične primere dodaj drugi prehod: namenski klic, ki odgovor razčleni na osnovne trditve in vsako posebej preveri glede na vire. Načelo je enako kot pri pregledu kode – avtor slabo bere svoje lastno delo, svež par oči pa ga bere bistveno bolje – in tu deluje iz istega razloga, saj preverjevalec ni ustvaril besedila, ki ga pregleduje. Nastavitev temperature na 0,0 ni podrobnost: preverjevalec mora biti čim bolj reproducibilen, sicer ne boš vedel, ali sprememba sodbe izvira iz odgovora ali razpoloženja modela.
def verifier_grounding(reponse: str, sources: str) -> dict:
"""Verify whether a response is properly grounded in the sources."""
verification_prompt = f"""Analyze whether this response is faithful to the sources.
RESPONSE TO VERIFY:
{reponse}
SOURCES:
{sources}
For each assertion in the response, indicate:
- The assertion
- Whether it is supported by the sources (YES/NO)
- The corresponding source passage (or "None")
End with a grounding score: X supported assertions / Y total."""
response = client.responses.create(
model="gpt-5.6-terra",
reasoning={"effort": "none"}, # temperature requires effort none
input=verification_prompt,
temperature=0.0
)
return {"verification": response.output_text}
Tehnika 4: Defenzivno oblikovanje pozivov proti halucinacijam
Določene formulacije bistveno zmanjšajo halucinacije in niso zamenljive: vsaka obravnava drugačen simptom. Eksplicitna formulacija modelu preprosto omogoči, da prizna nevednost, kar je pogosto dovolj. Kaznovalni pristop razvršča napake med seboj, kar je uporabno, ko se soočaš z modelom, ki spontano raje reče karkoli kot nič. Strukturni pristop v samem izpisu razkrije negotovost, kar je dragoceno, ko mora tvoj vmesnik vizualno ločiti med tem, kar je gotovo, in tem, kar je sklepano. Nazadnje, pristop z omejitvami določi vir z oznakami, kar deluje še posebej dobro, ko je vstavljeni kontekst obsežen in meja med dokumentom ter navodili tvega, da se zabriše.
defensive_prompts = {
"explicit": "If you do not know the answer, say 'I don't know'.",
"penalizing": "It is FORBIDDEN to invent information. "
"An 'I don't know' response is always preferable "
"to incorrect information.",
"structural": "For each point in your response, indicate your confidence level: "
"[CERTAIN] based on the document, "
"[PROBABLE] inferred from context, [UNCERTAIN] unverified.",
"constrained": "Answer using EXCLUSIVELY the information "
"between the <source> and </source> tags. "
"Any external information is forbidden."
}
Ob pravilni uporabi te formulacije zmanjšajo halucinacije za 60 do 80 %. Vendar to moraš opazovati v svojem okolju, namesto da bi se zanašal na povprečje: stopnjo sidranja izračunaš s ponovnim preverjanjem na seriji odgovorov in agregiranjem dobljenih rezultatov.
def taux_grounding(reponses: list[dict]) -> float:
"""Calculate the grounding rate across a set of responses.
Each response is a dict with 'reponse' and 'sources'.
"""
scores = []
for item in reponses:
verif = verifier_grounding(item["reponse"], item["sources"])
# Extract the score (adapt to output format)
scores.append(verif)
return scores
Kombiniranje z orodji API
API OpenAI ponuja dve vgrajeni orodji, ki ti prihranita gradnjo lastnega sloja za pridobivanje podatkov. Iskanje po datotekah (File Search) preišče dokumente, ki si jih naložil, in samodejno vstavi ustrezne odlomke v kontekst. Spletno iskanje (Web Search) utemelji odgovore v nedavnih spletnih rezultatih, kar pomaga, ko se tema razvija hitreje kot tvoja baza dokumentov. V obeh primerih ostajajo navodila za omejitev nujna: orodje poskrbi za prinos gradiva, a tvoj poziv – in samo tvoj – modelu prepove, da bi odstopil od njega.
response = client.responses.create(
model="gpt-5.6-terra",
instructions="Answer based only on the provided documents.",
input="What are the warranty conditions?",
tools=[{"type": "file_search"}]
)
Zdaj celotno verigo preizkusi na internem podjetniškem dokumentu – pogosta vprašanja (FAQ), pogoji storitve, tehnična dokumentacija, vseeno je, dokler je stvarno. Zgradi asistenta s sidranjem z uporabo eksplicitnega konteksta, zastavi mu deset vprašanj, od katerih tri namerno pokrivajo točke, ki v dokumentu niso prisotne, in preveri, ali jih ta tri zavrne, namesto da bi jih olepšal. Nato dodaj preverjanje po generiranju in izmeri svojo dejansko stopnjo sidranja: prav ta številka, ne pa zaupanje, ki ga gojiš do svojega poziva, odloči, ali je asistent pripravljen za produkcijo.
Ključne ugotovitve
- Sidrenje je nujno za vsako profesionalno aplikacijo.
- Vstavi kontekst vira neposredno v poziv in uveljavi citiranja.
- Pri kritičnih primerih preveri sidrenje po generiranju.
- Defenzivne formulacije zmanjšajo halucinacije za 60 do 80 %.
- Uporabi
temperature=0.0do0.1za maksimiranje zvestobe virom.