Spring til hovedindhold
Dansk— Vælg et sprog
Menu

Avanceret RAG: Multi-Query, HyDE, Step-Back

Lektion 14 af 22 Opdateret 29. juli 2026 Udvikler
På denne side
  1. Mål
  2. Problemet: En enkelt forespørgsel er ikke nok
  3. Multi-Query: Stil spørgsmålet anderledes
  4. HyDE: Hypotetiske dokument-embeddings
  5. Step-Back Prompting
  6. Sammenligning af teknikkerne
  7. Kombination af teknikker
  8. Vigtige pointer

Mål

  • Forbedre hentning ved hjælp af avancerede teknikker
  • Implementere multi-query, HyDE og step-back prompting
  • Vide hvornår du skal bruge hver teknik

Problemet: En enkelt forespørgsel er ikke nok

Reranking fra den tidligere lektion forbedrede måden, kandidater blev rangeret på, men den kunne ikke hjælpe med dokumenter, som hentningen aldrig fandt i første omgang. Den mest almindelige årsag til disse missede resultater er ikke modellen eller indekset – det er selve forespørgslen. En bruger kan skrive “det virker ikke på min telefon”, mens dokumentationen diskuterer “inkompatibilitet med Android-versioner før 12”. Ingen embedding-model vil spontant bringe disse to formuleringer tættere på hinanden.

Følgende teknikker deler et enkelt princip: I stedet for at acceptere forespørgslen som den er, transformerer eller multiplicerer vi den før søgningen. De påvirker alle recall – altså evnen til at få det rigtige dokument med på kandidatlisten.

Multi-Query: Stil spørgsmålet anderledes

Den første tilgang er den mest direkte. Vi beder LLM’en om at omformulere spørgsmålet fra flere vinkler, kører en søgning med hver variant og fletter resultaterne. Spørgsmålet “hvordan annullerer jeg mit abonnement?” bliver også til “annulleringsprocedure”, “stop den månedlige betaling” og “slet min betalte konto” – tre forskellige ordforråd, tre chancer for at ramme den formulering, dokumentationsforfatteren brugte.

Fletningstrinnet fortjener en bemærkning: Linjen med np.maximum beholder for hvert dokument den bedste score opnået på tværs af alle forespørgsler. Et dokument, der matcher godt med kun én omformulering, rykker stadig op i toppen, hvilket ikke ville ske, hvis vi gennemsnitligede scorerne. Temperaturen på 0,7 er bevidst valgt her, fordi vi ønsker variation, ikke reproducerbarhed.

from openai import OpenAI
import numpy as np

client = OpenAI()

def generer_multi_queries(question: str, n: int = 3) -> list[str]:
    """Generate n rephrasings of the question."""
    response = client.chat.completions.create(
        model="gpt-5.6-terra",
        messages=[{
            "role": "user",
            "content": (
                f"Generate {n} different rephrasings of this question "
                f"for document search. Each rephrasing "
                f"should cover a different angle.\n\n"
                f"Original question: {question}\n\n"
                f"Return only the rephrasings, one per line."
            )
        }],
        temperature=0.7
    )
    queries = response.choices[0].message.content.strip().split("\n")
    return [q.strip().lstrip("0123456789.-) ") for q in queries if q.strip()]

def recherche_multi_query(
    question: str,
    corpus_embeddings: np.ndarray,
    documents: list[dict],
    k: int = 5,
    n_queries: int = 3
) -> list[dict]:
    """Search with multiple rephrasings."""
    queries = [question] + generer_multi_queries(question, n_queries)
    print(f"Queries: {queries}")

    tous_scores = np.zeros(len(documents))
    for query in queries:
        query_emb = client.embeddings.create(
            input=query, model="text-embedding-3-large"
        ).data[0].embedding
        scores = corpus_embeddings @ np.array(query_emb)
        tous_scores = np.maximum(tous_scores, scores)

    top_k = np.argsort(tous_scores)[-k:][::-1]
    return [
        {**documents[i], "score": float(tous_scores[i])}
        for i in top_k
    ]

HyDE: Hypotetiske dokument-embeddings

HyDE griber problemet an fra den anden ende. I stedet for at multiplicere spørgsmål, får vi modellen til at generere et plausibelt svar – selvom det delvist er forkert, gør det ikke noget – og søger derefter efter dokumenter, der ligner dette svar. Spørgsmålet “hvordan konfigurerer jeg SSO?” producerer et afsnit, der taler om identitetsudbydere, SAML og metadata, præcis det ordforråd, der findes i den rigtige dokumentation.

def recherche_hyde(
    question: str,
    corpus_embeddings: np.ndarray,
    documents: list[dict],
    k: int = 5
) -> list[dict]:
    """Search with a hypothetical document (HyDE)."""
    # 1. Generate a hypothetical document
    response = client.chat.completions.create(
        model="gpt-5.6-terra",
        messages=[{
            "role": "user",
            "content": (
                f"Write a short paragraph (3-5 sentences) that would answer "
                f"this question. Write as if it were an excerpt "
                f"from technical documentation.\n\n"
                f"Question: {question}"
            )
        }],
        temperature=0.3
    )
    doc_hypothetique = response.choices[0].message.content

    # 2. Encode the hypothetical document
    hyde_emb = client.embeddings.create(
        input=doc_hypothetique,
        model="text-embedding-3-large"
    ).data[0].embedding

    # 3. Search for similar documents
    scores = corpus_embeddings @ np.array(hyde_emb)
    top_k = np.argsort(scores)[-k:][::-1]

    return [
        {**documents[i], "score": float(scores[i])}
        for i in top_k
    ]

Hvis denne teknik virker, skyldes det, at embeddingen af et svar ligner embeddingen af et dokument mere, end embeddingen af et spørgsmål gør. Et spørgsmål er kort, spørgende og ofte formuleret i brugerens egne ord; et dokument er langt, bekræftende og skrevet i fagjargon. HyDE overbruger dette gab mellem forespørgsel og dokument ved at flytte forespørgslen over på corpussets territorium. Det er også grunden til, at prompten specificerer “som om det var et uddrag fra teknisk dokumentation”: Vi efterligner målregisteret.

Step-Back Prompting

Den tredje teknik håndterer det modsatte tilfælde: spørgsmål, der er så specifikke, at intet dokument adresserer dem direkte. “Kan jeg fradrage en elcykel købt i februar?” findes ingen steder, men afsnittet om fradragsberettigede virksomhedsudgifter gør. Derfor beder vi modellen om det generelle spørgsmål, der gemmer sig bag det specifikke, og søger derefter med begge, hvor vi vægter dem 0,7 til det oprindelige spørgsmål og 0,3 til det bredere – den brede kontekst hjælper, men den må ikke dominere.

def recherche_step_back(
    question: str,
    corpus_embeddings: np.ndarray,
    documents: list[dict],
    k: int = 5
) -> list[dict]:
    """Two-pass search: general then specific."""
    # 1. Generate a step-back question
    response = client.chat.completions.create(
        model="gpt-5.6-terra",
        messages=[{
            "role": "user",
            "content": (
                f"What is the more general question or underlying concept "
                f"behind this specific question?\n\n"
                f"Specific question: {question}\n\n"
                f"Return only the general question."
            )
        }],
        temperature=0.3
    )
    question_generale = response.choices[0].message.content.strip()

    # 2. Search with both questions
    resultats_combines = {}

    for q, poids in [(question, 0.7), (question_generale, 0.3)]:
        q_emb = client.embeddings.create(
            input=q, model="text-embedding-3-large"
        ).data[0].embedding
        scores = corpus_embeddings @ np.array(q_emb)

        for i, s in enumerate(scores):
            if i not in resultats_combines:
                resultats_combines[i] = 0.0
            resultats_combines[i] += float(s) * poids

    top_k = sorted(
        resultats_combines.items(),
        key=lambda x: x[1], reverse=True
    )[:k]

    return [
        {**documents[idx], "score": score}
        for idx, score in top_k
    ]

Sammenligning af teknikkerne

Hver af dem adresserer en specifik patologi i hentningen, og hver af dem har en omkostning i form af ekstra kald og dermed højere latenstid.

TeknikHvornår skal du bruge den?Ekstra omkostning
Multi-queryTvetydige forespørgsler, varieret ordforrådn embedding-kald + 1 LLM-kald
HyDEGab mellem forespørgsel og dokument, tekniske domæner1 LLM-kald + 1 embedding-kald
Step-backMeget specifikke spørgsmål, behov for kontekst1 LLM-kald + 2 embedding-kald

Kombination af teknikker

Du behøver ikke vælge kun én. Følgende funktion accepterer en liste over strategier, akkumulerer de scorer, hver enkelt producerer, i en ordbog indekseret efter dokument, og beholder maksimum. Et dokument, der kun findes af HyDE, rangerer dermed sammen med et dokument fundet ved direkte søgning. Husk dog, at stablet tre strategier tredobler budgettet og forlænger svartiden: Gem denne kombination til svære forespørgsler eller til offline-behandling, hvor latenstid ikke betyder noget.

def recherche_avancee(
    question: str,
    corpus_embeddings: np.ndarray,
    documents: list[dict],
    k: int = 5,
    strategies: list[str] = ["direct", "multi_query", "hyde"]
) -> list[dict]:
    """Combine multiple search strategies."""
    tous_resultats = {}

    if "direct" in strategies:
        q_emb = client.embeddings.create(
            input=question, model="text-embedding-3-large"
        ).data[0].embedding
        scores = corpus_embeddings @ np.array(q_emb)
        for i, s in enumerate(scores):
            tous_resultats.setdefault(i, []).append(float(s))

    if "hyde" in strategies:
        res_hyde = recherche_hyde(
            question, corpus_embeddings, documents, k=k*2
        )
        for r in res_hyde:
            tous_resultats.setdefault(r["id"], []).append(r["score"])

    # Final score = max of scores
    scores_finaux = {
        idx: max(scores) for idx, scores in tous_resultats.items()
    }

    top_k = sorted(
        scores_finaux.items(), key=lambda x: x[1], reverse=True
    )[:k]

    return [
        {**documents[idx], "score": score}
        for idx, score in top_k
    ]

Vigtige pointer

  • Multi-query omformulerer spørgsmålet fra flere vinkler for at dække mere ordforråd
  • HyDE genererer et hypotetisk svar, der ligner måldokumenterne mere
  • Step-back stiller et mere generelt spørgsmål for at fange bred kontekst
  • Disse teknikker tilføjer latenstid, men forbedrer recall markant