Grounding: Irbit ir-Risposti fuq il-Fatti
F'din il-paġna
Lezzjoni aġġornata fit-3 ta’ Novembru 2026 ibbażata fuq id-dokumentazzjoni ta’ OpenAI:
temperatureutop_phuma aċċettati biss b’sforz ta’ raġunar ta’none, filwaqt li l-mudelli GPT-5.6 jirraġunaw b’mod awtomatiku (medium). Għalhekk, is-sejħiet li jistabbilixxu dawn il-parametri jridu jispeċifikawreasoning={"effort": "none"}(Responses API) jewreasoning_effort="none"(Chat Completions). Sorsi: Using GPT-6 · GPT-5.6 Terra.
Grounding: Irbit ir-Risposti fuq il-Fatti
Il-Grounding jillimita l-mudell biex ibbaża t-tweġibiet tiegħu esklużivament fuq id-data li tipprovdi int, minflok fuq il-għarfien intern tiegħu. Din hija l-ewwel linja ta’ difensa tiegħek kontra l-alluċinazzjonijiet u rekwiżit mhux negozjabbli ladarba applikazzjoni toħroġ mill-fażi tal-prototip. Assistent tas-support li jinventa klawsola kuntrattwali mhux qed jagħmel żball ċar: qed jorbot legalment il-kumpanija tiegħek mal-klijent li qraha.
Għaliex il-Grounding Huwa Essenzjali
LLMs jiġġeneraw test statistikament probabbli, li mhux neċessarjament jikkorrispondi għal test fattwalment korrett. Mingħajr grounding, mudell jista’ jfabrika ċitazzjonijiet, statistika, jew referenzi tekniċi li jidhru perfettament plawżibbli: numru ta’ verżjoni li qatt ma eżista, perjodu ta’ riflessjoni kredibbli iżda falz, jew isem ta’ parametru inventat mill-ebda post. Xejn fil-formulazzjoni ma jiżvela l-fabbrikazzjoni, u dan huwa preċiżament dak li jagħmel il-fenomenu perikoluż fil-produzzjoni. Aktar ma tkun miktuba tajjeb ir-risposta, inqas probabbli huwa li l-utent jivverifikaha, u akbar isir ir-riskju legali u tar-reputazzjoni.
Teknika 1: Kuntest Espliċitu
L-aktar metodu sempliċi huwa wkoll l-aktar robustu: injetta t-test sors fil-prompt u ipprojbixxi lill-mudell milli jmur lil hinn minnu. L-istruzzjonijiet tiegħek iridu jinkludu tliet elementi: restrizzjoni għad-dokument ipprovdut, il-frażi eżatta ta’ ripjega li għandha tintuża meta tinħtieġ informazzjoni nieqsa, u rekwiżit biex tiċċita l-passaġġ użat. Ittestja r-riżultat fuq każ limitu: talba għal rimbors f’45 jum trid tattivja r-regola ta’ rimbors parzjali ta’ 50%, mhux it-tweġiba komoda li l-klijent jittama li jisma’.
from openai import OpenAI
client = OpenAI()
document = """
Acme Corp Refund Policy (v3.2, January 2026):
- Full refund within 30 days of purchase
- Partial refund (50%) between 30 and 60 days
- No refund after 60 days
- Customized products are non-refundable
- Refunds are processed within 5 business days
"""
system = """You are an Acme Corp customer support assistant.
STRICT RULES:
- Answer ONLY based on the document provided below
- If the answer is not in the document, say "I do not have
this information in our current policy"
- NEVER make assumptions beyond the document
- Quote the relevant passage in quotation marks
REFERENCE DOCUMENT:
""" + document
response = client.responses.create(
model="gpt-5.6-terra",
reasoning={"effort": "none"}, # temperature requires effort none
instructions=system,
input="I would like a refund for an item purchased 45 days ago.",
temperature=0.1
)
Teknika 2: Ċitazzjonijiet Obbligatorji
Il-livell li jmiss jeħtieġ referenza għal kull asserzjoni magħmula. Dan għandu effett doppju. Ir-risposta ssir verifikabbli mill-utent, li jista’ jsegwiha lura għall-passaġġ oriġinali minflok ma jieħu l-kelma tiegħek bħala fatt. U l-mudell jiċċensura lilu nnifsu fuq talbiet li ma jistax jorbot ma’ ebda sors, peress li l-istruzzjoni tgħidlu espliċitament biex iħallihom barra minflok ma jwassalha mingħajr referenza. In-numru tad-dokumenti fil-kuntest, kif tagħmel il-funzjoni hawn taħt, jagħmel ukoll liċ-ċitazzjonijiet użabbli fl-interfaċċja tiegħek: “[Dokument 2]” jista’ jsir link li tista’ tikklikkjah għall-fajl korrett.
system_with_citations = """You are a research assistant.
For every assertion in your response, add a reference
to the source passage in brackets, for example: [Source: paragraph 3].
If you cannot cite a source passage, do not include the assertion.
Response format:
1. Response with inline citations
2. "Sources Used" section with exact excerpts"""
def reponse_grounded(question: str, documents: list[str]) -> str:
"""Generate a grounded response with citations."""
context = "\n\n---\n\n".join(
f"[Document {i+1}]\n{doc}"
for i, doc in enumerate(documents)
)
response = client.responses.create(
model="gpt-5.6-terra",
reasoning={"effort": "none"}, # temperature requires effort none
instructions=system_with_citations + f"\n\nDOCUMENTS:\n{context}",
input=question,
temperature=0.1
)
return response.output_text
Teknika 3: Verifika Wara l-Ġenerazzjoni
L-ewwel żewġ tekniki jnaqqsu r-riskju mingħajr qatt ma jeliminawh. Għal każijiet kritiċi, żid pass sekondarju: sejħa ddedikata li tifforma r-risposta f’asserzjonijiet elementari u tiċċekkja kull waħda kontra s-sorsi. Il-prinċipju huwa l-istess bħar-reviżjoni tal-kodiċi—l-awtur jaqra x-xogħol tiegħu stess ħażin, filwaqt li par għajnejn ġodda jaqrah ħafna aħjar—u jaħdem hawn għall-istess raġuni, peress li l-verifikatur ma pproduċiex it-test li qed jeżamina. Li tistabbilixxi t-temperatura għal 0.0 mhix dettall: verifikatur irid ikun riproduċibbli kemm jista’ jkun, inkella ma tkunx taf jekk verdetta li qed tinbidel tiġix mir-risposta jew mill-burdata tal-mudell.
def verifier_grounding(reponse: str, sources: str) -> dict:
"""Verify whether a response is properly grounded in the sources."""
verification_prompt = f"""Analyze whether this response is faithful to the sources.
RESPONSE TO VERIFY:
{reponse}
SOURCES:
{sources}
For each assertion in the response, indicate:
- The assertion
- Whether it is supported by the sources (YES/NO)
- The corresponding source passage (or "None")
End with a grounding score: X supported assertions / Y total."""
response = client.responses.create(
model="gpt-5.6-terra",
reasoning={"effort": "none"}, # temperature requires effort none
input=verification_prompt,
temperature=0.0
)
return {"verification": response.output_text}
Teknika 4: Prompting Difensiv Kontra l-Alluċinazzjoni
Ċerti formulazzjonijiet inaqqsu b’mod sinifikanti l-alluċinazzjonijiet, u mhumiex interkambjabbli: kull waħda tindirizza sintomu distint. Il-formulazzjoni espliċita sempliċiment tippermetti lill-mudell jammetti l-injoranza, li spiss tkun biżżejjed. L-approċċ penalizzanti jikklassifika l-iżbalji bejniethom, utli meta tkun quddiem mudell li spontanjament jippreferi jgħid kwalunkwe ħaġa minflok xejn. L-approċċ strutturali joħroġ fid-dieher l-inċertezza fir-riżultat innifsu, prezzjuż meta l-interfaċċja tiegħek teħtieġ li tiddistingwi viżwalment bejn dak li huwa ċert u dak li huwa inferit. Fl-aħħar nett, l-approċċ ta’ restrizzjoni jiddelimita s-sors b’tags, li jaħdem partikolarment tajjeb meta l-kuntest inġettat ikun voluminuż u l-fruntiera bejn id-dokument u l-istruzzjoni tirriskja li tiċċajpar.
defensive_prompts = {
"explicit": "If you do not know the answer, say 'I don't know'.",
"penalizing": "It is FORBIDDEN to invent information. "
"An 'I don't know' response is always preferable "
"to incorrect information.",
"structural": "For each point in your response, indicate your confidence level: "
"[CERTAIN] based on the document, "
"[PROBABLE] inferred from context, [UNCERTAIN] unverified.",
"constrained": "Answer using EXCLUSIVELY the information "
"between the <source> and </source> tags. "
"Any external information is forbidden."
}
Meta jintużaw b’mod korrett, dawn il-formulazzjonijiet inaqqsu l-alluċinazzjonijiet b’60 sa 80%. Madankollu, għandek tosserva dan fl-ambjent tiegħek stess minflok ma tiddependi fuq medja: ir-rata ta’ grounding tiġi kkalkulata billi terġa’ tgħaddi l-verifika fuq lott ta’ risposti u taggrega l-punteġġi miksuba.
def taux_grounding(reponses: list[dict]) -> float:
"""Calculate the grounding rate across a set of responses.
Each response is a dict with 'reponse' and 'sources'.
"""
scores = []
for item in reponses:
verif = verifier_grounding(item["reponse"], item["sources"])
# Extract the score (adapt to output format)
scores.append(verif)
return scores
Tagħqid mal-Għodod tal-API
L-API ta’ OpenAI toffri żewġ għodod nattivi li jiffrankawlek milli tibni s-saff ta’ rkupru (retrieval) tiegħek stess. File Search ifittex f’dokumenti li tkun ittgħabbija u tinjetta awtomatikament estratti rilevanti fil-kuntest. Web Search jorbot ir-risposti f’riżultati reċenti tal-web, li jgħin meta s-suġġett jevolvi aktar malajr mill-bażi tad-dokumenti tiegħek. Fiż-żewġ każijiet, l-istruzzjonijiet ta’ restrizzjoni jibqgħu essenzjali: l-għodda tittratta l-ġib tal-materjal, iżda l-prompt tiegħek—u l-prompt tiegħek biss—jipprojbixxi lill-mudell milli jbiegħed minnu.
response = client.responses.create(
model="gpt-5.6-terra",
instructions="Answer based only on the provided documents.",
input="What are the warranty conditions?",
tools=[{"type": "file_search"}]
)
Issa poġġi l-katina sħiħa għat-test fuq dokument intern tal-kumpanija—FAQ, termini tas-servizz, dokumentazzjoni teknika, ma jimpurtax sakemm ikun reali. Ibni l-assistent ibbażat fuq il-fatti (grounded) billi tuża kuntest espliċitu, staqsih għaxar mistoqsijiet fejn tlieta minnhom deliberatament ikopru punti nieqsa mid-dokument, u vverifika li jirrifjuta dawk it-tlieta minflok ma jżejjenhom. Imbagħad żid verifika wara l-ġenerazzjoni u kejjel ir-rata attwali ta’ grounding tiegħek: hija din iċ-ċifra, mhux il-fiduċja li tpoġġi fil-prompt tiegħek, li tiddeċiedi jekk l-assistentx lest għall-produzzjoni.
Punti Ewlenin
- Il-Grounding huwa essenzjali għal kwalunkwe applikazzjoni professjonali
- Injetta l-kuntest tas-sors direttament fil-prompt u infurza ċ-ċitazzjonijiet
- Ivvverifika l-grounding wara l-ġenerazzjoni għal każijiet kritiċi
- Il-formulazzjonijiet difensivi jnaqqsu l-alluċinazzjonijiet b’60 sa 80%
- Uża temperature=0.0-0.1 biex timmassimizza l-fidelità għas-sorsi