Aqbeż għall-kontenut ewlieni
Malti— Agħżel lingwa
Menu

RAG Avvanzat: Multi-Query, HyDE, Step-Back

Lezzjoni 14 / 22 Aġġornat 29 ta’ Lulju 2026 Zviluppatur
F'din il-paġna
  1. Għanijiet
  2. Il-Problema: Mistoqsija Waħda Ma Tbiżżeżx
  3. Multi-Query: Agħmel il-Mistoqsija b’Mod Differenti
  4. HyDE: Embeddings ta’ Dokumenti Ipotetiċi
  5. Step-Back Prompting
  6. Tqabbil tat-Tekniki
  7. Tagħqid tat-Tekniki
  8. Punti Ewlenin

Għanijiet

  • Ittejjeb l-irkupru billi tuża tekniki avvanzati
  • Timplimenta l-multi-query, HyDE, u l-prompting step-back
  • Tkun taf meta tuża kull teknika

Il-Problema: Mistoqsija Waħda Ma Tbiżżeżx

Ir-reranking mil-lezzjoni ta’ qabel ittejjeb il-mod kif il-kandidati ġew ikklassifikati, iżda ma setax jgħin bid-dokumenti li l-irkupru qatt ma ħareġ fil-bidu nett. L-aktar kawża komuni ta’ dawn in-nuqqasijiet mhix il-mudell jew l-indiċi—hija l-mistoqsija nnifisha. Utent jista’ jiktib “ma taħdimx fuq it-telefon tiegħi”, filwaqt li d-dokumentazzjoni tiddiskuti “inkompatibbiltà ma’ verżjonijiet ta’ Android qabel it-12”. L-ebda mudell ta’ embedding mhu se jqarreb dawn iż-żewġ formulazzjonijiet spontanjament.

It-tekniki li ġejjin jaqsmu prinċipju wieħed: minflok ma naċċettaw il-mistoqsija hekk kif inhi, aħna ntrasformawha jew immultiplikawha qabel ma nfittxu. Dawn kollha jaġixxu fuq ir-rikall—jiġifieri, il-kapaċità li d-dokument it-tajjeb jidħol fil-lista tal-kandidati.

Multi-Query: Agħmel il-Mistoqsija b’Mod Differenti

L-ewwel approċċ huwa l-aktar dirett. Nitolbu lill-LLM jerġa’ jifformula l-mistoqsija minn diversi angoli, inwettqu tfittxija b’kull varjant, u ngħaqqdu r-riżultati. Il-mistoqsija “kif nikkanċella s-sottoskrizzjoni tiegħi?” issir ukoll “proċedura ta’ kanċellazzjoni”, “waqqaf il-ħlas mensili”, u “neħħi l-kont imħallas tiegħi”—tliet vokabolarji differenti, tliet ċansijiet biex tolqot il-kliem li uża l-awtur tad-dokumentazzjoni.

Il-pass tal-għaqda jistħoqqilha nota: il-linja np.maximum iżżomm, għal kull dokument, l-aqwa punteġġ miksub fost il-mistoqsijiet kollha. Dokument li jaqbel tajjeb ma’ riformulazzjoni waħda biss xorta jitla’ fil-quċċata, li ma kienx iseħħ kieku medjajna l-punteġġi. It-temperatura ta’ 0.7 hija intenzjonali hawnhekk, għax irridu varjetà, mhux riproduċibbiltà.

from openai import OpenAI
import numpy as np

client = OpenAI()

def generer_multi_queries(question: str, n: int = 3) -> list[str]:
    """Generate n rephrasings of the question."""
    response = client.chat.completions.create(
        model="gpt-5.6-terra",
        messages=[{
            "role": "user",
            "content": (
                f"Generate {n} different rephrasings of this question "
                f"for document search. Each rephrasing "
                f"should cover a different angle.\n\n"
                f"Original question: {question}\n\n"
                f"Return only the rephrasings, one per line."
            )
        }],
        temperature=0.7
    )
    queries = response.choices[0].message.content.strip().split("\n")
    return [q.strip().lstrip("0123456789.-) ") for q in queries if q.strip()]

def recherche_multi_query(
    question: str,
    corpus_embeddings: np.ndarray,
    documents: list[dict],
    k: int = 5,
    n_queries: int = 3
) -> list[dict]:
    """Search with multiple rephrasings."""
    queries = [question] + generer_multi_queries(question, n_queries)
    print(f"Queries: {queries}")

    tous_scores = np.zeros(len(documents))
    for query in queries:
        query_emb = client.embeddings.create(
            input=query, model="text-embedding-3-large"
        ).data[0].embedding
        scores = corpus_embeddings @ np.array(query_emb)
        tous_scores = np.maximum(tous_scores, scores)

    top_k = np.argsort(tous_scores)[-k:][::-1]
    return [
        {**documents[i], "score": float(tous_scores[i])}
        for i in top_k
    ]

HyDE: Embeddings ta’ Dokumenti Ipotetiċi

HyDE jittratta l-problema mit-tarf l-ieħor. Minflok immultiplikaw il-mistoqsijiet, nagħmlu lill-mudell jiġġenera tweġiba plawżibbli—anke jekk tkun parzjalment żbaljata, dan ma jimpurtax—u mbagħad infittxu dokumenti qrib dik it-tweġiba. Il-mistoqsija “kif nikkonfigura l-SSO?” tipproduċi paragrafu li jitkellem dwar fornituri tal-identità, SAML, u metadata, eżattament il-vokabolarju li jinsab fid-dokumentazzjoni reali.

def recherche_hyde(
    question: str,
    corpus_embeddings: np.ndarray,
    documents: list[dict],
    k: int = 5
) -> list[dict]:
    """Search with a hypothetical document (HyDE)."""
    # 1. Generate a hypothetical document
    response = client.chat.completions.create(
        model="gpt-5.6-terra",
        messages=[{
            "role": "user",
            "content": (
                f"Write a short paragraph (3-5 sentences) that would answer "
                f"this question. Write as if it were an excerpt "
                f"from technical documentation.\n\n"
                f"Question: {question}"
            )
        }],
        temperature=0.3
    )
    doc_hypothetique = response.choices[0].message.content

    # 2. Encode the hypothetical document
    hyde_emb = client.embeddings.create(
        input=doc_hypothetique,
        model="text-embedding-3-large"
    ).data[0].embedding

    # 3. Search for similar documents
    scores = corpus_embeddings @ np.array(hyde_emb)
    top_k = np.argsort(scores)[-k:][::-1]

    return [
        {**documents[i], "score": float(scores[i])}
        for i in top_k
    ]

Jekk din it-teknika taħdem, dan huwa minħabba li l-embedding ta’ tweġiba jixbah lill-embedding ta’ dokument aktar milli jixbah lill-embedding ta’ mistoqsija. Mistoqsija hija qasira, interrogattiva, u spiss ifformulata bil-kliem tal-utent innifsu; dokument huwa twil, affermattiv, u miktub bil-lingwaġġ tekniku tad-dominju. HyDE jgħaqqad din il-laguna bejn il-mistoqsija u d-dokument billi jċaqlaq il-mistoqsija fit-territorju tal-korpus. Dan huwa wkoll għaliex il-prompt jispeċifika “bħallikieku kien estratt minn dokumentazzjoni teknika”: qed nimitaw ir-reġistru fil-mira.

Step-Back Prompting

It-tielet teknika tittratta l-każ oppost: mistoqsijiet hekk speċifiċi li l-ebda dokument ma jindirizzahom direttament. “Nista’ nnaqqas roti elettrika mixtrija f’Frar?” ma tidher imkien, iżda t-taqsima dwar in-nefqiet tan-negozju li jistgħu jitnaqqsu tagħmel dan. Allura nitolbu lill-mudell għall-mistoqsija ġenerali li tinħeba wara dik speċifika, imbagħad infittxu bit-tnejn, b’piż ta’ 0.7 għall-mistoqsija oriġinali u 0.3 għal dik usa’—il-kuntest wiesa’ jgħin, iżda m’għandux jiddomina.

def recherche_step_back(
    question: str,
    corpus_embeddings: np.ndarray,
    documents: list[dict],
    k: int = 5
) -> list[dict]:
    """Two-pass search: general then specific."""
    # 1. Generate a step-back question
    response = client.chat.completions.create(
        model="gpt-5.6-terra",
        messages=[{
            "role": "user",
            "content": (
                f"What is the more general question or underlying concept "
                f"behind this specific question?\n\n"
                f"Specific question: {question}\n\n"
                f"Return only the general question."
            )
        }],
        temperature=0.3
    )
    question_generale = response.choices[0].message.content.strip()

    # 2. Search with both questions
    resultats_combines = {}

    for q, poids in [(question, 0.7), (question_generale, 0.3)]:
        q_emb = client.embeddings.create(
            input=q, model="text-embedding-3-large"
        ).data[0].embedding
        scores = corpus_embeddings @ np.array(q_emb)

        for i, s in enumerate(scores):
            if i not in resultats_combines:
                resultats_combines[i] = 0.0
            resultats_combines[i] += float(s) * poids

    top_k = sorted(
        resultats_combines.items(),
        key=lambda x: x[1], reverse=True
    )[:k]

    return [
        {**documents[idx], "score": score}
        for idx, score in top_k
    ]

Tqabbil tat-Tekniki

Kull waħda tindirizza patoloġija speċifika tal-irkupru, u kull waħda tiġi bl-ispiża ta’ sejħiet ekstra u għalhekk latenza ogħla.

TeknikaMeta tużahaSpiża addizzjonali
Multi-queryMistoqsijiet ambigwi, vokabolarju varjatn sejħiet ta’ embedding + sejħa waħda ta’ LLM
HyDELakuna bejn il-mistoqsija u d-dokument, dominji tekniċiSejħa waħda ta’ LLM + sejħa waħda ta’ embedding
Step-backMistoqsijiet speċifiċi ħafna, bżonn ta’ kuntestSejħa waħda ta’ LLM + 2 sejħiet ta’ embedding

Tagħqid tat-Tekniki

M’għandekx għalfejn tagħżel waħda biss. Il-funzjoni li ġejja taċċetta lista ta’ strateġiji, takkumula l-punteġġi li kull waħda tipproduċi f’dizzjunarju indiċjat bid-dokument, u żżomm il-massimu. Dokument misjub minn HyDE biss għalhekk jiġi kklassifikat ma’ dokument misjub permezz ta’ tfittxija diretta. Żomm f’moħħok, madankollu, li t-tgħaqqid ta’ tliet strateġiji jittreplika l-baġit u jtawwal il-ħin ta’ rispons: irriżerva dan it-taħlita għal mistoqsijiet diffiċli, jew għal ipproċessar offline fejn il-latenza ma tgħodd xejn.

def recherche_avancee(
    question: str,
    corpus_embeddings: np.ndarray,
    documents: list[dict],
    k: int = 5,
    strategies: list[str] = ["direct", "multi_query", "hyde"]
) -> list[dict]:
    """Combine multiple search strategies."""
    tous_resultats = {}

    if "direct" in strategies:
        q_emb = client.embeddings.create(
            input=question, model="text-embedding-3-large"
        ).data[0].embedding
        scores = corpus_embeddings @ np.array(q_emb)
        for i, s in enumerate(scores):
            tous_resultats.setdefault(i, []).append(float(s))

    if "hyde" in strategies:
        res_hyde = recherche_hyde(
            question, corpus_embeddings, documents, k=k*2
        )
        for r in res_hyde:
            tous_resultats.setdefault(r["id"], []).append(r["score"])

    # Final score = max of scores
    scores_finaux = {
        idx: max(scores) for idx, scores in tous_resultats.items()
    }

    top_k = sorted(
        scores_finaux.items(), key=lambda x: x[1], reverse=True
    )[:k]

    return [
        {**documents[idx], "score": score}
        for idx, score in top_k
    ]

Punti Ewlenin

  • Il-multi-query terġa’ tifformula l-mistoqsija minn angoli multipli biex tkopri aktar vokabolarju
  • HyDE tiġġenera tweġiba ipotetika li tixbah aktar lid-dokumenti fil-mira
  • Step-back tagħmel mistoqsija aktar ġenerali biex taqbad kuntest wiesa’
  • Dawn it-tekniki jżidu l-latenza iżda jtejbu b’mod sinifikanti r-rikall