Preskok na glavno vsebino
Slovenščina— Izberite jezik
Meni

RAG napredno: Multi-Query, HyDE, Step-Back

Lekcija 14 od 22 Posodobljeno 29. julij 2026 Razvijalec
Na tej strani
  1. Cilji
  2. Težava: Eno samo poizvedba ni dovolj
  3. Multi-Query: Vprašaj drugače
  4. HyDE: Vgradnje hipotetičnega dokumenta
  5. Poziv Step-Back
  6. Primerjava tehnik
  7. Kombiniranje tehnik
  8. Ključne ugotovitve

Cilji

  • Izboljšaj pridobivanje z uporabo naprednih tehnik
  • Implementiraj pozive multi-query, HyDE in step-back
  • Vedi, kdaj uporabiti posamezno tehniko

Težava: Eno samo poizvedba ni dovolj

Ponovno razvrščanje iz prejšnje lekcije je izboljšalo način razvrščanja kandidatov, vendar ni moglo pomagati pri dokumentih, ki jih pridobivanje sploh ni našlo. Najpogostejši vzrok za te promašaje ni model ali indeks, temveč sama poizvedba. Uporabnik lahko vpiše „ne deluje na mojem telefonu”, medtem ko dokumentacija obravnava „nezdružljivost z različicami sistema Android pred verzijo 12”. Noben model vgradenj ne bo samodejno približal teh dveh formulacij.

Naslednje tehnike si delijo eno samo načelo: namesto da bi poizvedbo sprejeli takšno, kot je, jo pred iskanjem preoblikujemo ali pomnožimo. Vse delujejo na priklic (recall) – torej na sposobnost, da pravi dokument pride na seznam kandidatov.

Multi-Query: Vprašaj drugače

Prvi pristop je najbolj neposreden. LLM prosimo, naj vprašanje preoblikuje z več zornih kotov, z vsako različico izvede iskanje in združi rezultate. Vprašanje „kako prekličem naročnino?” tako postane „postopek preklica”, „ustavitev mesečnega bremena” in „izbris mojega plačanega računa” – trije različni besednjaki, tri priložnosti, da zadeneš formulacijo, ki jo je uporabil avtor dokumentacije.

Korak združevanja zasluži opombo: vrstica np.maximum za vsak dokument ohrani najboljši doseženi rezultat med vsemi poizvedbami. Dokument, ki se dobro ujema le z enim preoblikovanjem, se tako vseeno povzpne na vrh, kar se ne bi zgodilo, če bi rezultate povprečili. Temperatura 0,7 je tu namerna, saj želimo raznolikost, ne ponovljivosti.

from openai import OpenAI
import numpy as np

client = OpenAI()

def generer_multi_queries(question: str, n: int = 3) -> list[str]:
    """Generate n rephrasings of the question."""
    response = client.chat.completions.create(
        model="gpt-5.6-terra",
        messages=[{
            "role": "user",
            "content": (
                f"Generate {n} different rephrasings of this question "
                f"for document search. Each rephrasing "
                f"should cover a different angle.\n\n"
                f"Original question: {question}\n\n"
                f"Return only the rephrasings, one per line."
            )
        }],
        temperature=0.7
    )
    queries = response.choices[0].message.content.strip().split("\n")
    return [q.strip().lstrip("0123456789.-) ") for q in queries if q.strip()]

def recherche_multi_query(
    question: str,
    corpus_embeddings: np.ndarray,
    documents: list[dict],
    k: int = 5,
    n_queries: int = 3
) -> list[dict]:
    """Search with multiple rephrasings."""
    queries = [question] + generer_multi_queries(question, n_queries)
    print(f"Queries: {queries}")

    tous_scores = np.zeros(len(documents))
    for query in queries:
        query_emb = client.embeddings.create(
            input=query, model="text-embedding-3-large"
        ).data[0].embedding
        scores = corpus_embeddings @ np.array(query_emb)
        tous_scores = np.maximum(tous_scores, scores)

    top_k = np.argsort(tous_scores)[-k:][::-1]
    return [
        {**documents[i], "score": float(tous_scores[i])}
        for i in top_k
    ]

HyDE: Vgradnje hipotetičnega dokumenta

HyDE obravnava težavo z drugega konca. Namesto množenja vprašanj modelu naročimo, naj ustvari verjeten odgovor – tudi če je delno napačen, to ni pomembno – in nato iščemo dokumente, ki so blizu temu odgovoru. Vprašanje „kako konfiguriram SSO?” tako ustvari odstavek o ponudnikih identitete, SAML in metapodatkih, kar je točno besedišče, ki ga najdemo v stvarni dokumentaciji.

def recherche_hyde(
    question: str,
    corpus_embeddings: np.ndarray,
    documents: list[dict],
    k: int = 5
) -> list[dict]:
    """Search with a hypothetical document (HyDE)."""
    # 1. Generate a hypothetical document
    response = client.chat.completions.create(
        model="gpt-5.6-terra",
        messages=[{
            "role": "user",
            "content": (
                f"Write a short paragraph (3-5 sentences) that would answer "
                f"this question. Write as if it were an excerpt "
                f"from technical documentation.\n\n"
                f"Question: {question}"
            )
        }],
        temperature=0.3
    )
    doc_hypothetique = response.choices[0].message.content

    # 2. Encode the hypothetical document
    hyde_emb = client.embeddings.create(
        input=doc_hypothetique,
        model="text-embedding-3-large"
    ).data[0].embedding

    # 3. Search for similar documents
    scores = corpus_embeddings @ np.array(hyde_emb)
    top_k = np.argsort(scores)[-k:][::-1]

    return [
        {**documents[i], "score": float(scores[i])}
        for i in top_k
    ]

Če ta tehnika deluje, je to zato, ker vgradnja odgovora bolj spominja na vgradnjo dokumenta kot vgradnja vprašanja. Vprašanje je kratko, poizvedbeno in pogosto formulirano z uporabnikovimi besedami; dokument je dolg, pritrdilen in napisan v strokovnem žargonu. HyDE premosti to vrzel med poizvedbo in dokumentom tako, da poizvedbo premakne na teren korpusa. Zato tudi poziv določa „kot da bi šlo za izsek iz tehnične dokumentacije”: posnemamo ciljni register.

Poziv Step-Back

Tretja tehnika obravnava nasprotni primer: vprašanja, ki so tako specifična, da jih noben dokument ne obravnava neposredno. „Ali lahko odbijem električno kolo, kupljeno februarja?” se ne pojavi nikjer, obstaja pa razdelek o odbitnih poslovnih stroških. Zato model prosimo za splošno vprašanje, ki se skriva za specifičnim, nato pa iščemo z obema, pri čemer originalno vprašanje tehtamo z 0,7, širše pa z 0,3 – širok kontekst pomaga, vendar ne sme prevladati.

def recherche_step_back(
    question: str,
    corpus_embeddings: np.ndarray,
    documents: list[dict],
    k: int = 5
) -> list[dict]:
    """Two-pass search: general then specific."""
    # 1. Generate a step-back question
    response = client.chat.completions.create(
        model="gpt-5.6-terra",
        messages=[{
            "role": "user",
            "content": (
                f"What is the more general question or underlying concept "
                f"behind this specific question?\n\n"
                f"Specific question: {question}\n\n"
                f"Return only the general question."
            )
        }],
        temperature=0.3
    )
    question_generale = response.choices[0].message.content.strip()

    # 2. Search with both questions
    resultats_combines = {}

    for q, poids in [(question, 0.7), (question_generale, 0.3)]:
        q_emb = client.embeddings.create(
            input=q, model="text-embedding-3-large"
        ).data[0].embedding
        scores = corpus_embeddings @ np.array(q_emb)

        for i, s in enumerate(scores):
            if i not in resultats_combines:
                resultats_combines[i] = 0.0
            resultats_combines[i] += float(s) * poids

    top_k = sorted(
        resultats_combines.items(),
        key=lambda x: x[1], reverse=True
    )[:k]

    return [
        {**documents[idx], "score": score}
        for idx, score in top_k
    ]

Primerjava tehnik

Vsaka obravnava specifično patologijo pridobivanja in vsaka ima svojo ceno v obliki dodatnih klicev ter posledično večje zakasnitve.

TehnikaKdaj jo uporabitiDodatni strošek
Multi-queryDvoumne poizvedbe, raznolik besednjakn klicev vgradenj + 1 klic LLM
HyDEVrzel med poizvedbo in dokumentom, tehnična področja1 klic LLM + 1 klic vgradenj
Step-backZelo specifična vprašanja, potreba po kontekstu1 klic LLM + 2 klica vgradenj

Kombiniranje tehnik

Ni treba izbrati le ene. Naslednja funkcija sprejme seznam strategij, v slovarju, indeksiranem z dokumenti, akumulira rezultate, ki jih proizvede vsaka, in ohrani maksimum. Dokument, ki ga najde samo HyDE, se tako uvrsti ob dokument, najden z neposrednim iskanjem. Vendar imej v mislih, da se s seštevanjem treh strategij proračun potroji in čas odziva podaljša: to kombinacijo prihrani za težke poizvedbe ali za obdelavo v ozadju, kjer zakasnitev ni pomembna.

def recherche_avancee(
    question: str,
    corpus_embeddings: np.ndarray,
    documents: list[dict],
    k: int = 5,
    strategies: list[str] = ["direct", "multi_query", "hyde"]
) -> list[dict]:
    """Combine multiple search strategies."""
    tous_resultats = {}

    if "direct" in strategies:
        q_emb = client.embeddings.create(
            input=question, model="text-embedding-3-large"
        ).data[0].embedding
        scores = corpus_embeddings @ np.array(q_emb)
        for i, s in enumerate(scores):
            tous_resultats.setdefault(i, []).append(float(s))

    if "hyde" in strategies:
        res_hyde = recherche_hyde(
            question, corpus_embeddings, documents, k=k*2
        )
        for r in res_hyde:
            tous_resultats.setdefault(r["id"], []).append(r["score"])

    # Final score = max of scores
    scores_finaux = {
        idx: max(scores) for idx, scores in tous_resultats.items()
    }

    top_k = sorted(
        scores_finaux.items(), key=lambda x: x[1], reverse=True
    )[:k]

    return [
        {**documents[idx], "score": score}
        for idx, score in top_k
    ]

Ključne ugotovitve

  • Multi-query preoblikuje vprašanje z več zornih kotov, da pokrije več besednjaka
  • HyDE ustvari hipotetičen odgovor, ki bolj spominja na ciljne dokumente
  • Step-back zastavi splošnejše vprašanje za zajem širšega konteksta
  • Te tehnike dodajo zakasnitev, a bistveno izboljšajo priklic