Pamatotība: atbilžu balstīšana faktos
Šajā lapā
Nodarbība atjaunināta 2026. gada 3. novembrī, pamatojoties uz OpenAI dokumentāciju: parametri
temperatureuntop_ptiek pieņemti tikai ar spriešanas piepūlinone, savukārt GPT-5.6 modeļi pēc noklusējuma veic spriešanu (medium). Tādēļ izsaukumos, kuros iestatīti šie parametri, ir jānorādareasoning={"effort": "none"}(Responses API) vaireasoning_effort="none"(Chat Completions). Avoti: Using GPT-6 · GPT-5.6 Terra.
Pamatotība: atbilžu balstīšana faktos
Pamatotība ierobežo modeli, liekot tam veidot atbildes, balstoties tikai uz tavu sniegto informāciju, nevis uz tā iekšējām zināšanām. Tā ir tava pirmā aizsardzības līnija pret halucinācijām un absolūti nepieciešams nosacījums, tiklīdz lietotne pāriet no prototipa stadijas. Atbalsta asistents, kas izgudro līguma punktu, nepieļauj nevainīgu kļūdu: tas juridiski saista tavu uzņēmumu ar klientu, kurš to izlasījis.
Kāpēc pamatotība ir būtiska
LLM ģenerē statistiski ticamu tekstu, kas ne vienmēr sakrīt ar faktiski pareizu informāciju. Bez pamatotības modelis var izgudrot atsauces, statistiku vai tehniskus datus, kas izklausās pilnīgi pārliecinoši: versijas numuru, kas nekad nav pastāvējis, ticamu, bet nepatiesu atteikuma termiņu vai parametra nosaukumu, kas radīts no zila gaisa. Neviens formulējuma elements nenodod šo izdomājumu, un tieši tas padara šo fenomenu bīstamu darbības vidē. Jo labāk uzrakstīta ir atbilde, jo mazāk ticams, ka lietotājs to pārbaudīs, un jo lielāks kļūst juridiskais un reputācijas risks.
1. tehnika: Eksplicīts konteksts
Vienkāršākā metode ir arī visdrošākā: ievieto avota tekstu uzvednē (prompt) un aizliedz modelim pārsniegt tā robežas. Taviem norādījumiem jāietver trīs elementi: ierobežojums izmantot tikai pievienoto dokumentu, precīza frāze, ko lietot, ja informācijas trūkst, un prasība citēt izmantoto teksta daļu. Pārbaudi rezultātu uz robežgadījuma: atmaksas pieprasījums pēc 45 dienām ir jāaktivizē noteikums par 50% daļēju atmaksu, nevis jāsniedz laipna atbilde, ko klients vēlas dzirdēt.
from openai import OpenAI
client = OpenAI()
document = """
Acme Corp Refund Policy (v3.2, January 2026):
- Full refund within 30 days of purchase
- Partial refund (50%) between 30 and 60 days
- No refund after 60 days
- Customized products are non-refundable
- Refunds are processed within 5 business days
"""
system = """You are an Acme Corp customer support assistant.
STRICT RULES:
- Answer ONLY based on the document provided below
- If the answer is not in the document, say "I do not have
this information in our current policy"
- NEVER make assumptions beyond the document
- Quote the relevant passage in quotation marks
REFERENCE DOCUMENT:
""" + document
response = client.responses.create(
model="gpt-5.6-terra",
reasoning={"effort": "none"}, # temperature requires effort none
instructions=system,
input="I would like a refund for an item purchased 45 days ago.",
temperature=0.1
)
2. tehnika: Obligātas atsauces
Nākamais līmenis pieprasa atsauzi uz katru apgalvojumu. Tam ir divkārša ietekme. Atbilde kļūst pārbaudāma lietotājam, kurš var izsekot tai līdz sākotnējam tekstam, nevis ticēt tev uz vārda. Turklāt modelis pats sevi cenzē attiecībā uz apgalvojumiem, kurus nevar saistīt ne ar vienu avotu, jo norādījums tieši liek tos izlaist, nevis sniegt bez atsauces. Dokumentu numerēšana kontekstā, kā to dara zemāk esošā funkcija, padara atsauces lietojamas arī tavā saskarnē: „[2. dokuments]” var kļūt par klikšķināmu saiti uz pareizo failu.
system_with_citations = """You are a research assistant.
For every assertion in your response, add a reference
to the source passage in brackets, for example: [Source: paragraph 3].
If you cannot cite a source passage, do not include the assertion.
Response format:
1. Response with inline citations
2. "Sources Used" section with exact excerpts"""
def reponse_grounded(question: str, documents: list[str]) -> str:
"""Generate a grounded response with citations."""
context = "\n\n---\n\n".join(
f"[Document {i+1}]\n{doc}"
for i, doc in enumerate(documents)
)
response = client.responses.create(
model="gpt-5.6-terra",
reasoning={"effort": "none"}, # temperature requires effort none
instructions=system_with_citations + f"\n\nDOCUMENTS:\n{context}",
input=question,
temperature=0.1
)
return response.output_text
3. tehnika: Pārbaude pēc ģenerēšanas
Pirmās divas tehnikas samazina risku, taču nekad to pilnībā nenovērš. Kritiskos gadījumos pievieno otro soli: atsevišķu izsaukumu, kas sadala atbildi elementāros apgalvojumos un pārbauda katru no tiem pret avotiem. Princips ir tāds pats kā koda apskatē (code review) — autors slikti lasa savu darbu, savukārt svešs skatiens to lasa daudz labāk — un tas šeit strādā tā paša iemesla dēļ, jo verificētājs nav radījis tekstu, ko tas pārbauda. Temperatūras iestatīšana uz 0.0 nav sīkums: verificētājam ir jābūt pēc iespējas reproducējamam, pretējā gadījumā tu nezināsi, vai mainīgs spriedums rodas no pašas atbildes vai modeļa „garastāvokļa”.
def verifier_grounding(reponse: str, sources: str) -> dict:
"""Verify whether a response is properly grounded in the sources."""
verification_prompt = f"""Analyze whether this response is faithful to the sources.
RESPONSE TO VERIFY:
{reponse}
SOURCES:
{sources}
For each assertion in the response, indicate:
- The assertion
- Whether it is supported by the sources (YES/NO)
- The corresponding source passage (or "None")
End with a grounding score: X supported assertions / Y total."""
response = client.responses.create(
model="gpt-5.6-terra",
reasoning={"effort": "none"}, # temperature requires effort none
input=verification_prompt,
temperature=0.0
)
return {"verification": response.output_text}
4. tehnika: Aizsargājoša uzvedne pret halucinācijām
Noteikti formulējumi būtiski samazina halucinācijas, un tie nav savstarpēji aizvietojami: katrs risina atšķirīgu simptomu. Eksplicītā formulējums vienkārši ļauj modelim atzīt nezināšanu, kas bieži vien ir pietiekami. Sodošā pieeja rangē kļūdas, kas noder, saskaroties ar modeli, kurš spontāni dod priekšroku teikt jebko, nevis neko. Strukturālā pieeja izceļ nenoteiktību pašā izvades rezultātā, kas ir vērtīgi, ja tavai saskarnei ir vizuāli jānošķir tas, kas ir drošs, no tā, kas ir secināts. Visbeidzot, ierobežojošā pieeja norobežo avotu ar tagiem, kas darbojas īpaši labi, ja ievietotais konteksts ir apjomīgs un pastāv risks, ka robeža starp dokumentu un norādījumu izplūdīs.
defensive_prompts = {
"explicit": "If you do not know the answer, say 'I don't know'.",
"penalizing": "It is FORBIDDEN to invent information. "
"An 'I don't know' response is always preferable "
"to incorrect information.",
"structural": "For each point in your response, indicate your confidence level: "
"[CERTAIN] based on the document, "
"[PROBABLE] inferred from context, [UNCERTAIN] unverified.",
"constrained": "Answer using EXCLUSIVELY the information "
"between the <source> and </source> tags. "
"Any external information is forbidden."
}
Pareizi izmantoti, šie formulējumi samazina halucinācijas par 60 līdz 80%. Tomēr tas ir jānovēro tavā vidē, nevis jāpaļaujas uz vidējo rādītāju: pamatotības koeficients tiek aprēķināts, atkārtoti veicot pārbaudi atbilžu kopai un apkopojot iegūtos rezultātus.
def taux_grounding(reponses: list[dict]) -> float:
"""Calculate the grounding rate across a set of responses.
Each response is a dict with 'reponse' and 'sources'.
"""
scores = []
for item in reponses:
verif = verifier_grounding(item["reponse"], item["sources"])
# Extract the score (adapt to output format)
scores.append(verif)
return scores
Kombinēšana ar API rīkiem
OpenAI API piedāvā divus iebūvētus rīkus, kas atbrīvo tevi no nepieciešamības veidot savu izgūšanas slāni (retrieval layer). File Search meklē tavos augšupielādētajos dokumentos un automātiski ievieto attiecīgos fragmentus kontekstā. Web Search balsta atbildes jaunākajos tīmekļa rezultātos, kas palīdz, ja tēma attīstās ātrāk nekā tava dokumentu bāze. Abos gadījumos ierobežojošie norādījumi paliek būtiski: rīks nodrošina materiāla piegādi, bet tikai tava uzvedne (un nekas cits) aizliedz modelim novirzīties no tā.
response = client.responses.create(
model="gpt-5.6-terra",
instructions="Answer based only on the provided documents.",
input="What are the warranty conditions?",
tools=[{"type": "file_search"}]
)
Tagad pārbaudi visu ķēdi, izmantojot iekšēju uzņēmuma dokumentu — FAQ, lietošanas noteikumus, tehnisko dokumentāciju; nav svarīgi, kamēr tas ir reāls. Izveido pamatotu asistentu, izmantojot eksplicītu kontekstu, uzdod tam desmit jautājumus, no kuriem trīs apzināti aptver punktus, kas dokumentā nav, un pārbaudi, vai tas atsakās uz tiem atbildēt, nevis izrotā atbildi. Pēc tam pievieno pārbaudi pēc ģenerēšanas un izmēri savu faktisko pamatotības koeficientu: tieši šis skaitlis, nevis tava pārliecība par uzvedni, nosaka, vai asistents ir gatavs darbam ražošanas vidē.
Galvenās atziņas
- Pamatotība ir būtiska jebkurai profesionālai lietotnei.
- Ievieto avota kontekstu tieši uzvednē un pieprasi atsauces.
- Kritiskos gadījumos pārbaudi pamatotību pēc ģenerēšanas.
- Aizsargājoši formulējumi samazina halucinācijas par 60 līdz 80%.
- Izmanto
temperature=0.0–0.1, lai maksimāli palielinātu uzticamību avotiem.