Grindimas: atsakymų įtvirtinimas faktais
Šiame puslapyje
Pamoka atnaujinta 2026 m. lapkričio 3 d. pagal „OpenAI“ dokumentaciją: parametrai
temperatureirtop_ppriimami tik esant nuliniam samprotavimo lygiui (none), tuo tarpu GPT-5.6 modeliai pagal nutylėjimą samprotauja (medium). Todėl kvietimuose, kuriuose nustatomi šie parametrai, būtina nurodytireasoning={"effort": "none"}(Responses API) arbareasoning_effort="none"(Chat Completions). Šaltiniai: Using GPT-6 · GPT-5.6 Terra.
Grindimas: atsakymų įtvirtinimas faktais
Grindimas priverčia modelį savo atsakymus kurti tik remiantis tavo pateiktais duomenimis, o ne vidinėmis žiniomis. Tai pirmoji tavo gynybos linija prieš haliucinacijas ir nepraleidžiama sąlyga, kai programa išeina iš prototipo stadijos. Pagalbos asistentas, išgalvojantis sutarties punktą, nedaro mielo nusižengimo: jis teisiškai įpareigoja tavo įmonę klientui, kuris tai perskaitė.
Kodėl grindimas yra būtinas
Didieji kalbos modeliai (LLM) generuoja statistiškai tikėtiną tekstą, kuris nebūtinai sutampa su faktiškai teisingu tekstu. Be grindimo modelis gali sugalvoti citatų, statistikos ar techninių nuorodų, kurios skamba visiškai įtikinamai: niekada neegzistavusią versijos numeriją, patikimą, bet melagingą apgalvojimo laikotarpį arba iš oro paimtą parametro pavadinimą. Jokia formuluootė neišduoda išgalvojimo, ir būtent tai daro šį reiškinį pavojingą gamybinėje aplinkoje. Kuo geriau parašytas atsakymas, tuo mažiau tikėtina, kad vartotojas jį patikrins, o teisinė ir reputacinė rizika tampa didesnė.
1 metodas: Aiškus kontekstas
Paprastiausias metodas yra ir pats patikimiausias: įtraukite šaltinio tekstą į užklausą ir uždrauskite modeliui išeiti už jo ribų. Tavo instrukcijose turi būti trys elementai: apribojimas naudoti tik pateiktą dokumentą, tiksli frazė, kurią reikia naudoti trūkstamos informacijos atveju, ir reikalavimas cituoti naudotą ištrauką. Patikrink rezultatą kraštutiniu atveju: grąžinimo prašymas po 45 dienų turi suaktyvinti 50 % dalinio grąžinimo taisyklę, o ne malonų atsakymą, kurio klientas tikisi išgirsti.
from openai import OpenAI
client = OpenAI()
document = """
Acme Corp Refund Policy (v3.2, January 2026):
- Full refund within 30 days of purchase
- Partial refund (50%) between 30 and 60 days
- No refund after 60 days
- Customized products are non-refundable
- Refunds are processed within 5 business days
"""
system = """You are an Acme Corp customer support assistant.
STRICT RULES:
- Answer ONLY based on the document provided below
- If the answer is not in the document, say "I do not have
this information in our current policy"
- NEVER make assumptions beyond the document
- Quote the relevant passage in quotation marks
REFERENCE DOCUMENT:
""" + document
response = client.responses.create(
model="gpt-5.6-terra",
reasoning={"effort": "none"}, # temperature requires effort none
instructions=system,
input="I would like a refund for an item purchased 45 days ago.",
temperature=0.1
)
2 metodas: Privalomos citatos
Kitas lygis reikalauja nuorodos į kiekvieną pateiktą teiginį. Tai daro dvigubą poveikį. Atsakymas tampa patikrinamas vartotojo, kuris gali jį atsekti iki originalios ištraukos, o ne tikėti tavimi žodžiu. Be to, modelis pats cenzūruoja teiginius, kurių negali susieti su jokiu šaltiniu, nes instrukcija aiškiai nurodo juos praleisti, o ne pateikti be nuorodos. Dokumentų kontekste numeravimas, kaip tai daroma toliau pateiktoje funkcijoje, taip pat leidžia citatas panaudoti sąsajoje: „[2 dokumentas]“ gali tapti nuoroda į tinkamą failą.
system_with_citations = """You are a research assistant.
For every assertion in your response, add a reference
to the source passage in brackets, for example: [Source: paragraph 3].
If you cannot cite a source passage, do not include the assertion.
Response format:
1. Response with inline citations
2. "Sources Used" section with exact excerpts"""
def reponse_grounded(question: str, documents: list[str]) -> str:
"""Generate a grounded response with citations."""
context = "\n\n---\n\n".join(
f"[Document {i+1}]\n{doc}"
for i, doc in enumerate(documents)
)
response = client.responses.create(
model="gpt-5.6-terra",
reasoning={"effort": "none"}, # temperature requires effort none
instructions=system_with_citations + f"\n\nDOCUMENTS:\n{context}",
input=question,
temperature=0.1
)
return response.output_text
3 metodas: Patikrinimas po generavimo
Pirmieji du metodai sumažina riziką, bet jos niekada visiškai nepašalina. Kritiniais atvejais pridėkite antrąjį etapą: specialų kvietimą, kuris suskaido atsakymą į elementarius teiginius ir kiekvieną jų patikrina pagal šaltinius. Principas toks pat kaip ir kodų peržiūros metu – autorius savo darbą vertina prastai, o šviežios akys jį skaito daug geriau – ir čia tai veikia dėl tos pačios priežasties, nes tikrintojas nekūrė teksto, kurį nagrinėja. Nustatyti temperatūrą į 0,0 nėra smulkmena: tikrintojas turi būti kuo labiau atkuriamas, kitaip nežinosite, ar besikeičiantis verdiktas kyla iš atsakymo, ar iš modelio nuotaikos.
def verifier_grounding(reponse: str, sources: str) -> dict:
"""Verify whether a response is properly grounded in the sources."""
verification_prompt = f"""Analyze whether this response is faithful to the sources.
RESPONSE TO VERIFY:
{reponse}
SOURCES:
{sources}
For each assertion in the response, indicate:
- The assertion
- Whether it is supported by the sources (YES/NO)
- The corresponding source passage (or "None")
End with a grounding score: X supported assertions / Y total."""
response = client.responses.create(
model="gpt-5.6-terra",
reasoning={"effort": "none"}, # temperature requires effort none
input=verification_prompt,
temperature=0.0
)
return {"verification": response.output_text}
4 metodas: Gynybinis anti-haliucinacinis formavimas
Tam tikros formulės žymiai sumažina haliucinacijas, ir jos nėra keičiamos viena kita: kiekviena sprendžia skirtingą simptomą. Aiški formulė tiesiog leidžia modeliui pripažinti nežinojimą, ko dažnai pakanka. Baudžiamasis požiūris susieja klaidas tarpusavyje, kas naudinga dirbant su modeliu, kuris spontaniškai mieliau pasakys bet ką, nei nieko. Struktūrinis požiūris iškelia neapibrėžtumą pačiame išvesties tekste, kas vertinga, kai sąsajoje reikia vizualiai atskirti tai, kas tikra, nuo to, kas yra išvesta. Galiausiai, apribojimo metodas apibrėžia šaltinį naudojant žymas, kas ypač gerai veikia, kai įterpiamas kontekstas yra didelis ir kyla rizika, kad riba tarp dokumento ir instrukcijos išnyks.
defensive_prompts = {
"explicit": "If you do not know the answer, say 'I don't know'.",
"penalizing": "It is FORBIDDEN to invent information. "
"An 'I don't know' response is always preferable "
"to incorrect information.",
"structural": "For each point in your response, indicate your confidence level: "
"[CERTAIN] based on the document, "
"[PROBABLE] inferred from context, [UNCERTAIN] unverified.",
"constrained": "Answer using EXCLUSIVELY the information "
"between the <source> and </source> tags. "
"Any external information is forbidden."
}
Tinkamai naudojant šias formules, haliucinacijos sumažėja 60–80 %. Tačiau tai turi stebėti savo aplinkoje, o ne pasikliauti vidurkiu: grindimo rodiklis apskaičiuojamas pakartotinai vykdant patikrinimą atsakymų grupėje ir agreguojant gautus balus.
def taux_grounding(reponses: list[dict]) -> float:
"""Calculate the grounding rate across a set of responses.
Each response is a dict with 'reponse' and 'sources'.
"""
scores = []
for item in reponses:
verif = verifier_grounding(item["reponse"], item["sources"])
# Extract the score (adapt to output format)
scores.append(verif)
return scores
Derinimas su API įrankiais
„OpenAI“ API siūlo du natūralius įrankius, kurie atleidžia tave nuo poreikio kurti savo gavimo sluoksnį. „File Search“ ieško tavo įkeltuose dokumentuose ir automatiškai įterpia aktualias ištraukas į kontekstą. „Web Search“ įtvirtina atsakymus remdamasis naujausiais interneto rezultatais, kas padeda, kai tema vystosi greičiau nei tavo dokumentų bazė. Abiem atvejais apribojimo instrukcijos lieka būtinos: įrankis atsako už medžiagos pateikimą, bet tik tavo užklausa – ir niekas kitas – uždraudžia modeliui nukrypti nuo jos.
response = client.responses.create(
model="gpt-5.6-terra",
instructions="Answer based only on the provided documents.",
input="What are the warranty conditions?",
tools=[{"type": "file_search"}]
)
Dabar išbandyk visą grandinę su vidiniu įmonės dokumentu – DUK, paslaugų teikimo sąlygomis, technine dokumentacija – nesvarbu, svarbu, kad jis būtų tikras. Sukurk grindžiamą asistentą naudodamas aiškų kontekstą, užduok jam dešimt klausimų, iš kurių trys tyčia apima dokumente nenurodytus punktus, ir patikrink, ar jis atsisako atsakyti į tuos tris, o neišgražina atsakymų. Tada pridėk patikrinimą po generavimo ir išmatuok savo tikrąjį grindimo rodiklį: būtent šis skaičius, o ne tavo pasitikėjimas užklausa, lemia, ar asistentas paruoštas gamybai.
Svarbiausi punktai
- Grindimas yra būtinas bet kuriai profesionaliai programai
- Įterpkite šaltinio kontekstą tiesiai į užklausą ir reikalaukite citatų
- Kritiniais atvejais patikrinkite grindimą po generavimo
- Gynybinės formulės sumažina haliucinacijas 60–80 %
- Naudokite
temperature=0.0–0.1, kad maksimaliai padidintumėte ištikimybę šaltiniams