Preskoči na glavni sadržaj
Hrvatski— Odaberite jezik
Izbornik

RAG napredno: Multi-Query, HyDE, Step-Back

Lekcija 14 od 22 Ažurirano 29. srpnja 2026. Programer
Na ovoj stranici
  1. Ciljevi
  2. Problem: Jedan upit nije dovoljan
  3. Multi-Query: Postavi pitanje drugačije
  4. HyDE: Hipotetske ugradnje dokumenata
  5. Step-Back Prompting
  6. Usporedba tehnika
  7. Kombiniranje tehnika
  8. Ključne točke

Ciljevi

  • Poboljšaj dohvat pomoću naprednih tehnika
  • Implementiraj multi-query, HyDE i step-back prompting
  • Znaj kada koristiti svaku tehniku

Problem: Jedan upit nije dovoljan

Ponovno rangiranje iz prethodne lekcije poboljšalo je način na koji su kandidati rangirani, ali nije moglo pomoći s dokumentima koje dohvat uopće nije izvorno pronašao. Najčešći uzrok ovih promašaja nije model niti indeks – već sam upit. Korisnik može upisati „ne radi mi na mobitelu“, dok dokumentacija raspravlja o „nekompatibilnosti s Android verzijama starijim od 12“. Nijedan model ugradnje (embedding) neće spontano približiti te dvije formulacije.

Sljedeće tehnike dijele jedno načelo: umjesto da prihvatimo upit kakav jest, transformiramo ga ili umnožimo prije pretraživanja. Sve one djeluju na prisjet (recall) – odnosno na sposobnost da se ispravan dokument uvrsti u popis kandidata.

Multi-Query: Postavi pitanje drugačije

Prvi pristup je najizravniji. Tražimo od LLM-a da preformulira pitanje iz nekoliko kutova, pokrenemo pretraživanje sa svakom varijantom i spojimo rezultate. Pitanje „kako otkazati pretplatu?“ tako postaje i „postupak otkazivanja“, „zaustavi mjesečno zaduženje“ i „izbriši moj plaćeni račun“ – tri različita rječnika, tri prilike da pogodimo izraz koji je autor dokumentacije upotrijebio.

Korak spajanja zaslužuje napomenu: redak s np.maximum zadržava, za svaki dokument, najbolji rezultat postignut kroz sve upite. Dokument koji se dobro podudara samo s jednom preformulacijom ipak će se popeti na vrh, što se ne bi dogodilo da smo prosječili rezultate. Temperatura od 0,7 ovdje je namjerna jer želimo raznolikost, a ne reproducibilnost.

from openai import OpenAI
import numpy as np

client = OpenAI()

def generer_multi_queries(question: str, n: int = 3) -> list[str]:
    """Generate n rephrasings of the question."""
    response = client.chat.completions.create(
        model="gpt-5.6-terra",
        messages=[{
            "role": "user",
            "content": (
                f"Generate {n} different rephrasings of this question "
                f"for document search. Each rephrasing "
                f"should cover a different angle.\n\n"
                f"Original question: {question}\n\n"
                f"Return only the rephrasings, one per line."
            )
        }],
        temperature=0.7
    )
    queries = response.choices[0].message.content.strip().split("\n")
    return [q.strip().lstrip("0123456789.-) ") for q in queries if q.strip()]

def recherche_multi_query(
    question: str,
    corpus_embeddings: np.ndarray,
    documents: list[dict],
    k: int = 5,
    n_queries: int = 3
) -> list[dict]:
    """Search with multiple rephrasings."""
    queries = [question] + generer_multi_queries(question, n_queries)
    print(f"Queries: {queries}")

    tous_scores = np.zeros(len(documents))
    for query in queries:
        query_emb = client.embeddings.create(
            input=query, model="text-embedding-3-large"
        ).data[0].embedding
        scores = corpus_embeddings @ np.array(query_emb)
        tous_scores = np.maximum(tous_scores, scores)

    top_k = np.argsort(tous_scores)[-k:][::-1]
    return [
        {**documents[i], "score": float(tous_scores[i])}
        for i in top_k
    ]

HyDE: Hipotetske ugradnje dokumenata

HyDE pristupa problemu s druge strane. Umjesto umnožavanja pitanja, tražimo od modela da generira vjerojatan odgovor – čak i ako je djelomično netočan, to nije bitno – a zatim pretražujemo dokumente bliske tom odgovoru. Pitanje „kako konfigurirati SSO?“ proizvodi odlomak koji govori o pružateljima identiteta, SAML-u i metapodacima, točno onim rječnikom koji se nalazi u stvarnoj dokumentaciji.

def recherche_hyde(
    question: str,
    corpus_embeddings: np.ndarray,
    documents: list[dict],
    k: int = 5
) -> list[dict]:
    """Search with a hypothetical document (HyDE)."""
    # 1. Generate a hypothetical document
    response = client.chat.completions.create(
        model="gpt-5.6-terra",
        messages=[{
            "role": "user",
            "content": (
                f"Write a short paragraph (3-5 sentences) that would answer "
                f"this question. Write as if it were an excerpt "
                f"from technical documentation.\n\n"
                f"Question: {question}"
            )
        }],
        temperature=0.3
    )
    doc_hypothetique = response.choices[0].message.content

    # 2. Encode the hypothetical document
    hyde_emb = client.embeddings.create(
        input=doc_hypothetique,
        model="text-embedding-3-large"
    ).data[0].embedding

    # 3. Search for similar documents
    scores = corpus_embeddings @ np.array(hyde_emb)
    top_k = np.argsort(scores)[-k:][::-1]

    return [
        {**documents[i], "score": float(scores[i])}
        for i in top_k
    ]

Ako ova tehnika funkcionira, to je zato što ugradnja odgovora više nalikuje ugradnji dokumenta nego što to čini ugradnja pitanja. Pitanje je kratko, upitno i često formulirano korisnikovim riječima; dokument je dug, afirmativan i napisan stručnim žargonom domene. HyDE premošćuje taj jaz između upita i dokumenta tako što premješta upit na teren korpusa. Zato i prompt specificira „kao da je izvadak iz tehničke dokumentacije“: oponašamo ciljni registar.

Step-Back Prompting

Treća tehnika rješava suprotan slučaj: pitanja toliko specifična da ih nijedan dokument ne obrađuje izravno. „Mogu li odbiti električni bicikl kupljen u veljači?“ nigdje se ne pojavljuje, ali postoji odjeljak o odbitnim poslovnim troškovima. Stoga tražimo od modela općenito pitanje koje se krije iza specifičnog, a zatim pretražujemo s oba, ponderirajući ih s 0,7 za izvorno pitanje i 0,3 za šire – široki kontekst pomaže, ali ne smije dominirati.

def recherche_step_back(
    question: str,
    corpus_embeddings: np.ndarray,
    documents: list[dict],
    k: int = 5
) -> list[dict]:
    """Two-pass search: general then specific."""
    # 1. Generate a step-back question
    response = client.chat.completions.create(
        model="gpt-5.6-terra",
        messages=[{
            "role": "user",
            "content": (
                f"What is the more general question or underlying concept "
                f"behind this specific question?\n\n"
                f"Specific question: {question}\n\n"
                f"Return only the general question."
            )
        }],
        temperature=0.3
    )
    question_generale = response.choices[0].message.content.strip()

    # 2. Search with both questions
    resultats_combines = {}

    for q, poids in [(question, 0.7), (question_generale, 0.3)]:
        q_emb = client.embeddings.create(
            input=q, model="text-embedding-3-large"
        ).data[0].embedding
        scores = corpus_embeddings @ np.array(q_emb)

        for i, s in enumerate(scores):
            if i not in resultats_combines:
                resultats_combines[i] = 0.0
            resultats_combines[i] += float(s) * poids

    top_k = sorted(
        resultats_combines.items(),
        key=lambda x: x[1], reverse=True
    )[:k]

    return [
        {**documents[idx], "score": score}
        for idx, score in top_k
    ]

Usporedba tehnika

Svaka od njih rješava specifičnu patologiju dohvata, a svaka nosi trošak dodatnih poziva, pa time i veću latenciju.

TehnikaKada je koristitiDodatni trošak
Multi-queryDvosmisleni upiti, raznolik rječnikn poziva za ugradnju + 1 LLM poziv
HyDEJaz između upita i dokumenta, tehničke domene1 LLM poziv + 1 poziv za ugradnju
Step-backVrlo specifična pitanja, potreba za kontekstom1 LLM poziv + 2 poziva za ugradnju

Kombiniranje tehnika

Ne moraš birati samo jednu. Sljedeća funkcija prihvaća popis strategija, akumulira rezultate koje svaka od njih proizvede u rječnik indeksiran po dokumentu i zadržava maksimum. Dokument koji je pronašao samo HyDE tako se rangira uz dokument pronađen izravnim pretraživanjem. Ipak, imaj na umu da slaganje triju strategija utrostručuje budžet i produljuje vrijeme odgovora: ovu kombinaciju sačuvaj za teške upite ili za offline obradu gdje latencija nije bitna.

def recherche_avancee(
    question: str,
    corpus_embeddings: np.ndarray,
    documents: list[dict],
    k: int = 5,
    strategies: list[str] = ["direct", "multi_query", "hyde"]
) -> list[dict]:
    """Combine multiple search strategies."""
    tous_resultats = {}

    if "direct" in strategies:
        q_emb = client.embeddings.create(
            input=question, model="text-embedding-3-large"
        ).data[0].embedding
        scores = corpus_embeddings @ np.array(q_emb)
        for i, s in enumerate(scores):
            tous_resultats.setdefault(i, []).append(float(s))

    if "hyde" in strategies:
        res_hyde = recherche_hyde(
            question, corpus_embeddings, documents, k=k*2
        )
        for r in res_hyde:
            tous_resultats.setdefault(r["id"], []).append(r["score"])

    # Final score = max of scores
    scores_finaux = {
        idx: max(scores) for idx, scores in tous_resultats.items()
    }

    top_k = sorted(
        scores_finaux.items(), key=lambda x: x[1], reverse=True
    )[:k]

    return [
        {**documents[idx], "score": score}
        for idx, score in top_k
    ]

Ključne točke

  • Multi-query preformulira pitanje iz više kutova kako bi obuhvatio širi rječnik
  • HyDE generira hipotetski odgovor koji više nalikuje ciljnim dokumentima
  • Step-back postavlja općenitije pitanje kako bi uhvatio širi kontekst
  • Ove tehnike dodaju latenciju, ali značajno poboljšavaju prisjet (recall)