RAG Casta: Il-Iarratas, HyDE, Cúlú Céime
Ar an leathanach seo
Cuspóirí
- Feabhas a chur ar aisghabháil trí theicnící casta a úsáid
- Il-iarratas, HyDE, agus leid chúlú céime a chur i bhfeidhm
- A fhios a bheith agat cathain gach teicníc a úsáid
An Fhadhb: Níl Iarratas Amháin Leor
D’fheabhsaigh an rangú athuairithe ón gcacht roimhe seo an chaoi a ndéantar iarrthóirí a rangú, ach níor chuidigh sé le doiciméid nár tháinig chun solais ar chor ar bith le linn na haisghabhála. Is é an t-iarratas féin, seachas an tsamhail nó an t-innéacs, is cúis is coitianta leis na hearráidí seo. D’fhéadfadh úsáideoir “ní oibríonn sé ar mo ghuthán” a chlóscríobh, cé go bpléann an doiciméadúacht “neamh-chomhoiriúnacht le leaganacha Android roimh 12”. Ní thabharfaidh aon tsamhail leabaithe an dá fhoirmliú sin níos gaire dá chéile go spontáineach.
Tá prionsabal amháin ag na teicnící seo a leanas: in ionad glacadh leis an iarratas mar atá sé, déanaimid é a chlaochlú nó a iolrú sula ndéanaimid cuardach. Feidhmíonn siad go léir ar an aisghabháil (recall) – is é sin, an cumas an doiciméad ceart a fháil isteach sa liosta iarrthóirí.
Il-Iarratas: An Cheist a Chur ar Bhealaí Éagsúla
Is é an chéad cur chuige an ceann is díreach. Iarraimid ar an LLM an cheist a athfhoirmliú ó roinnt uillinneacha, reáchtáilimid cuardach le gach leagan, agus cumaiscimid na torthaí. Éiríonn an cheist “conas is féidir liom mo shíntiús a chealú?” ina “nós imeachta cealaithe”, “stop an muirear míosúil”, agus “scrios mo chuntas íoctha” – trí fhoclóir éagsúla, trí sheans buailte leis an bhfoclaíocht a d’úsáid údar na doiciméadachta.
Is fiú nóta a dhéanamh ar an gcéim chumaisc: coinníonn an líne np.maximum, do gach doiciméad, an scór is fearr a baineadh amach thar gach iarratas. Éiríonn doiciméad a oireann go maith le hathfhoirmliú amháin fós go barr an liosta, rud nach dtarlódh dá ndéanfaimis meán na scór. Tá an teocht 0.7 beartaithe anseo, toisc gur mian linn éagsúlacht, ní hin-atáirgeadh.
from openai import OpenAI
import numpy as np
client = OpenAI()
def generer_multi_queries(question: str, n: int = 3) -> list[str]:
"""Generate n rephrasings of the question."""
response = client.chat.completions.create(
model="gpt-5.6-terra",
messages=[{
"role": "user",
"content": (
f"Generate {n} different rephrasings of this question "
f"for document search. Each rephrasing "
f"should cover a different angle.\n\n"
f"Original question: {question}\n\n"
f"Return only the rephrasings, one per line."
)
}],
temperature=0.7
)
queries = response.choices[0].message.content.strip().split("\n")
return [q.strip().lstrip("0123456789.-) ") for q in queries if q.strip()]
def recherche_multi_query(
question: str,
corpus_embeddings: np.ndarray,
documents: list[dict],
k: int = 5,
n_queries: int = 3
) -> list[dict]:
"""Search with multiple rephrasings."""
queries = [question] + generer_multi_queries(question, n_queries)
print(f"Queries: {queries}")
tous_scores = np.zeros(len(documents))
for query in queries:
query_emb = client.embeddings.create(
input=query, model="text-embedding-3-large"
).data[0].embedding
scores = corpus_embeddings @ np.array(query_emb)
tous_scores = np.maximum(tous_scores, scores)
top_k = np.argsort(tous_scores)[-k:][::-1]
return [
{**documents[i], "score": float(tous_scores[i])}
for i in top_k
]
HyDE: Leabaithe Doiciméad Hipitéiseacha
Déileálann HyDE leis an bhfadhb ón taobh eile. In ionad ceisteanna a iolrú, iarraimid ar an tsamhail freagra inchreidte a ghiniúint – fiú má tá sé mícheart go páirteach, ní cuma – agus ansin cuardaímid doiciméid atá gar don fhreagra sin. Cruthaíonn an cheist “conas a chumraím SSO?” mír a labhraíonn faoi sholáthraithe céannachta, SAML, agus meiteashonraí, díreach an foclaíocht atá le fáil sa doiciméadúcht fhíor.
def recherche_hyde(
question: str,
corpus_embeddings: np.ndarray,
documents: list[dict],
k: int = 5
) -> list[dict]:
"""Search with a hypothetical document (HyDE)."""
# 1. Generate a hypothetical document
response = client.chat.completions.create(
model="gpt-5.6-terra",
messages=[{
"role": "user",
"content": (
f"Write a short paragraph (3-5 sentences) that would answer "
f"this question. Write as if it were an excerpt "
f"from technical documentation.\n\n"
f"Question: {question}"
)
}],
temperature=0.3
)
doc_hypothetique = response.choices[0].message.content
# 2. Encode the hypothetical document
hyde_emb = client.embeddings.create(
input=doc_hypothetique,
model="text-embedding-3-large"
).data[0].embedding
# 3. Search for similar documents
scores = corpus_embeddings @ np.array(hyde_emb)
top_k = np.argsort(scores)[-k:][::-1]
return [
{**documents[i], "score": float(scores[i])}
for i in top_k
]
Má oibríonn an teicníc seo, is é an fáth go bhfuil leabú freagra níos cosúla le leabú doiciméid ná mar atá leabú ceiste. Tá ceist gairid, fiosrach, agus minic curtha in iarratas i bhfocail an úsáideora féin; tá doiciméad fada, dearfach, agus scríofa i seargán an cheantair. Líonann HyDE an bhearna idir an t-iarratas agus an doiciméad trí bhogadh an iarratais ar chríoch an chorpais. Sin an fáth freisin a sonraíonn an leid “amhail is dá mba blúire ó dhoiciméadúcht theicniúil é”: táimid ag aithris ar an gclár spriocdhírithe.
Leid Chúlú Céime
Déileálann an tríú teicníc leis an gcás contrártha: ceisteanna chomh sonrach sin nach bhfuil aon doiciméad ag freagairt dóibh go díreach. Níl “An féidir liom rothar leictreach a ceannaíodh i mí Feabhra a asbhaint?” le fáil in áit ar bith, ach tá an t-alt ar chostais ghnó in-asbhainte ann. Mar sin, iarraimid ar an tsamhail an cheist ghinearálta atá i bhfolach taobh thiar den cheist shonrach, ansin déanaimid cuardach leis an dá cheann, ag meáchan 0.7 don bhuncheist agus 0.3 don cheist níos leithne – cabhraíonn an comhthéacs leathan, ach níor chóir dó teacht i gceannas.
def recherche_step_back(
question: str,
corpus_embeddings: np.ndarray,
documents: list[dict],
k: int = 5
) -> list[dict]:
"""Two-pass search: general then specific."""
# 1. Generate a step-back question
response = client.chat.completions.create(
model="gpt-5.6-terra",
messages=[{
"role": "user",
"content": (
f"What is the more general question or underlying concept "
f"behind this specific question?\n\n"
f"Specific question: {question}\n\n"
f"Return only the general question."
)
}],
temperature=0.3
)
question_generale = response.choices[0].message.content.strip()
# 2. Search with both questions
resultats_combines = {}
for q, poids in [(question, 0.7), (question_generale, 0.3)]:
q_emb = client.embeddings.create(
input=q, model="text-embedding-3-large"
).data[0].embedding
scores = corpus_embeddings @ np.array(q_emb)
for i, s in enumerate(scores):
if i not in resultats_combines:
resultats_combines[i] = 0.0
resultats_combines[i] += float(s) * poids
top_k = sorted(
resultats_combines.items(),
key=lambda x: x[1], reverse=True
)[:k]
return [
{**documents[idx], "score": score}
for idx, score in top_k
]
Na Teicnící a Chur i gComparáid
Déileálann gach ceann acu le paiteolaíocht aisghabhála ar leith, agus tagann gach ceann acu ag costas glaonna breise agus, dá bhrí sin, moill níos airde.
| Teicníc | Cathain a úsáid é | Costas breise |
|---|---|---|
| Il-iarratas | Iarratais dhébhríoch, foclóir éagsúil | n glaoch leabaithe + 1 glaoch LLM |
| HyDE | Bearna idir iarratas agus doiciméad, fearainn theicniúla | 1 glaoch LLM + 1 glaoch leabaithe |
| Cúlú Céime | Ceisteanna an-sonrach, gá le comhthéacs | 1 glaoch LLM + 2 ghlaoch leabaithe |
Teicnící a Chomhcheangal
Ní gá duit ceann amháin a roghnú. Glacann an fheidhm seo a leanas le liosta straitéisí, carnann sí na scóir a tháirgeann gach ceann i bhfoclóir innéacsaithe de réir doiciméid, agus coinníonn sí an t-uasmhéid. Mar sin, rangófar doiciméad a fuarthas le HyDE amháin in éineacht le doiciméad a fuarthas le cuardach díreach. Cuimhnigh, áfach, go dtriplaíonn trí straitéis a chruachadh an buiséad agus go fadaíonn sé an t-am freagartha: coinnigh an comhcheangal seo in áirithe do cheisteanna deacra, nó do phróiseáil as líne nuair nach bhfuil tábhacht leis an moill.
def recherche_avancee(
question: str,
corpus_embeddings: np.ndarray,
documents: list[dict],
k: int = 5,
strategies: list[str] = ["direct", "multi_query", "hyde"]
) -> list[dict]:
"""Combine multiple search strategies."""
tous_resultats = {}
if "direct" in strategies:
q_emb = client.embeddings.create(
input=question, model="text-embedding-3-large"
).data[0].embedding
scores = corpus_embeddings @ np.array(q_emb)
for i, s in enumerate(scores):
tous_resultats.setdefault(i, []).append(float(s))
if "hyde" in strategies:
res_hyde = recherche_hyde(
question, corpus_embeddings, documents, k=k*2
)
for r in res_hyde:
tous_resultats.setdefault(r["id"], []).append(r["score"])
# Final score = max of scores
scores_finaux = {
idx: max(scores) for idx, scores in tous_resultats.items()
}
top_k = sorted(
scores_finaux.items(), key=lambda x: x[1], reverse=True
)[:k]
return [
{**documents[idx], "score": score}
for idx, score in top_k
]
Príomhphointí
- Athfhoirmlíonn an t-il-iarratas an cheist ó uillinneacha éagsúla chun níos mó foclóra a chlúdach
- Gineann HyDE freagra hipitéiseach atá níos cosúla leis na doiciméid spriocdhírithe
- Iarrann Cúlú Céime ceist níos ginearálta chun comhthéacs leathan a ghabháil
- Cuireann na teicnící seo moill leis, ach feabhsaíonn siad an aisghabháil go suntasach