Премини към основното съдържание
Български— Изберете език
Меню

RAG усъвършенстван: Multi-Query, HyDE, Step-Back

Урок 14 от 22 Обновен 29 юли 2026 г. Програмист
На тази страница
  1. Цели
  2. Проблемът: Една заявка не е достатъчна
  3. Multi-Query: Задайте въпроса по различен начин
  4. HyDE: Хипотетични вграждания на документи (Hypothetical Document Embeddings)
  5. Step-Back Prompting
  6. Сравнение на техниките
  7. Комбиниране на техники
  8. Ключови изводи

Цели

  • Подобряване на извличането чрез усъвършенствани техники
  • Внедряване на подходи multi-query, HyDE и step-back prompting
  • Разбиране кога да се използва всяка техника

Проблемът: Една заявка не е достатъчна

Преоценяването (reranking) от предишния урок подобри начина, по който кандидатите се класират, но не можа да помогне с документите, които извличането изобщо не е открило първоначално. Най-честата причина за тези пропуски не е моделът или индексът, а самата заявка. Потребителят може да напише „не работи на телефона ми“, докато документацията обсъжда „несъвместимост с Android версии преди 12“. Никой модел за вграждане (embedding) няма спонтанно да сближи тези две формулировки.

Следните техники споделят един принцип: вместо да приемаме заявката такава, каквато е, ние я трансформираме или умножаваме преди търсенето. Всички те действат върху пълнотата (recall) – тоест способността да се включи правилният документ в списъка с кандидати.

Multi-Query: Задайте въпроса по различен начин

Първият подход е най-директен. Молим LLM да преформулира въпроса от няколко ъгъла, изпълняваме търсене с всеки вариант и обединяваме резултатите. Въпросът „как да анулирам абонамента си?“ също става „процедура за отмяна“, „спиране на месечното таксуване“ и „изтриване на платения ми акаунт“ – три различни речника, три шанса да се попадне на формулировката, използвана от автора на документацията.

Стъпката на обединяване заслужава внимание: редът с np.maximum запазва за всеки документ най-добрия резултат, постигнат сред всички заявки. Документ, който съвпада добре само с едно преформулиране, все пак се издига на върха, което не би се случило, ако осреднявахме резултатите. Температурата от 0.7 е умишлена тук, защото искаме разнообразие, а не възпроизводимост.

from openai import OpenAI
import numpy as np

client = OpenAI()

def generer_multi_queries(question: str, n: int = 3) -> list[str]:
    """Generate n rephrasings of the question."""
    response = client.chat.completions.create(
        model="gpt-5.6-terra",
        messages=[{
            "role": "user",
            "content": (
                f"Generate {n} different rephrasings of this question "
                f"for document search. Each rephrasing "
                f"should cover a different angle.\n\n"
                f"Original question: {question}\n\n"
                f"Return only the rephrasings, one per line."
            )
        }],
        temperature=0.7
    )
    queries = response.choices[0].message.content.strip().split("\n")
    return [q.strip().lstrip("0123456789.-) ") for q in queries if q.strip()]

def recherche_multi_query(
    question: str,
    corpus_embeddings: np.ndarray,
    documents: list[dict],
    k: int = 5,
    n_queries: int = 3
) -> list[dict]:
    """Search with multiple rephrasings."""
    queries = [question] + generer_multi_queries(question, n_queries)
    print(f"Queries: {queries}")

    tous_scores = np.zeros(len(documents))
    for query in queries:
        query_emb = client.embeddings.create(
            input=query, model="text-embedding-3-large"
        ).data[0].embedding
        scores = corpus_embeddings @ np.array(query_emb)
        tous_scores = np.maximum(tous_scores, scores)

    top_k = np.argsort(tous_scores)[-k:][::-1]
    return [
        {**documents[i], "score": float(tous_scores[i])}
        for i in top_k
    ]

HyDE: Хипотетични вграждания на документи (Hypothetical Document Embeddings)

HyDE атакува проблема от другия край. Вместо да умножаваме въпросите, караме модела да генерира правдоподобен отговор – дори да е частично грешен, това няма значение – и след това търсим документи, близки до този отговор. Въпросът „как да конфигурирам SSO?“ поражда параграф, говорещ за доставчици на идентичност, SAML и метаданни, точно речника, намиращ се в реалната документация.

def recherche_hyde(
    question: str,
    corpus_embeddings: np.ndarray,
    documents: list[dict],
    k: int = 5
) -> list[dict]:
    """Search with a hypothetical document (HyDE)."""
    # 1. Generate a hypothetical document
    response = client.chat.completions.create(
        model="gpt-5.6-terra",
        messages=[{
            "role": "user",
            "content": (
                f"Write a short paragraph (3-5 sentences) that would answer "
                f"this question. Write as if it were an excerpt "
                f"from technical documentation.\n\n"
                f"Question: {question}"
            )
        }],
        temperature=0.3
    )
    doc_hypothetique = response.choices[0].message.content

    # 2. Encode the hypothetical document
    hyde_emb = client.embeddings.create(
        input=doc_hypothetique,
        model="text-embedding-3-large"
    ).data[0].embedding

    # 3. Search for similar documents
    scores = corpus_embeddings @ np.array(hyde_emb)
    top_k = np.argsort(scores)[-k:][::-1]

    return [
        {**documents[i], "score": float(scores[i])}
        for i in top_k
    ]

Ако тази техника работи, то е защото вграждането на отговор прилича повече на вграждането на документ, отколкото вграждането на въпрос. Въпросът е кратък, въпросителен и често формулиран със собствените думи на потребителя; документът е дълъг, утвърдителен и написан на жаргона на областта. HyDE преодолява тази пропаст между заявка и документ, като премества заявката на територията на корпуса. Ето защо и промптът уточнява „все едно е откъс от техническа документация“: имитираме целевия регистър.

Step-Back Prompting

Третата техника обработва обратния случай: въпроси, толкова специфични, че никой документ не ги адресира директно. „Мога ли да приспадна електрически велосипед, закупен през февруари?“ не се среща никъде, но секцията за приспадаеми бизнес разходи – да. Затова молим модела за общия въпрос, скрит зад специфичния, и след това търсим и с двата, претегляйки ги 0.7 за оригиналния въпрос и 0.3 за по-широкия – широкият контекст помага, но не трябва да доминира.

def recherche_step_back(
    question: str,
    corpus_embeddings: np.ndarray,
    documents: list[dict],
    k: int = 5
) -> list[dict]:
    """Two-pass search: general then specific."""
    # 1. Generate a step-back question
    response = client.chat.completions.create(
        model="gpt-5.6-terra",
        messages=[{
            "role": "user",
            "content": (
                f"What is the more general question or underlying concept "
                f"behind this specific question?\n\n"
                f"Specific question: {question}\n\n"
                f"Return only the general question."
            )
        }],
        temperature=0.3
    )
    question_generale = response.choices[0].message.content.strip()

    # 2. Search with both questions
    resultats_combines = {}

    for q, poids in [(question, 0.7), (question_generale, 0.3)]:
        q_emb = client.embeddings.create(
            input=q, model="text-embedding-3-large"
        ).data[0].embedding
        scores = corpus_embeddings @ np.array(q_emb)

        for i, s in enumerate(scores):
            if i not in resultats_combines:
                resultats_combines[i] = 0.0
            resultats_combines[i] += float(s) * poids

    top_k = sorted(
        resultats_combines.items(),
        key=lambda x: x[1], reverse=True
    )[:k]

    return [
        {**documents[idx], "score": score}
        for idx, score in top_k
    ]

Сравнение на техниките

Всяка от тях адресира специфична патология на извличането и всяка има цената на допълнителни заявки, а следователно и по-висока латентност.

ТехникаКога да се използваДопълнителна цена
Multi-queryДвусмислени заявки, разнообразен речникn заявки за вграждане + 1 LLM заявка
HyDEПропасть между заявка и документ, технически области1 LLM заявка + 1 заявка за вграждане
Step-backМного специфични въпроси, нужда от контекст1 LLM заявка + 2 заявки за вграждане

Комбиниране на техники

Не е нужно да избирате само една. Следната функция приема списък със стратегии, натрупва резултатите, които всяка произвежда, в речник, индексиран по документ, и запазва максимума. Така документ, открит само чрез HyDE, се класира редом с документ, открит чрез директно търсене. Имайте предвид обаче, че натрупването на три стратегии утройва бюджета и удължава времето за отговор: запазете тази комбинация за трудни заявки или за офлайн обработка, където латентността няма значение.

def recherche_avancee(
    question: str,
    corpus_embeddings: np.ndarray,
    documents: list[dict],
    k: int = 5,
    strategies: list[str] = ["direct", "multi_query", "hyde"]
) -> list[dict]:
    """Combine multiple search strategies."""
    tous_resultats = {}

    if "direct" in strategies:
        q_emb = client.embeddings.create(
            input=question, model="text-embedding-3-large"
        ).data[0].embedding
        scores = corpus_embeddings @ np.array(q_emb)
        for i, s in enumerate(scores):
            tous_resultats.setdefault(i, []).append(float(s))

    if "hyde" in strategies:
        res_hyde = recherche_hyde(
            question, corpus_embeddings, documents, k=k*2
        )
        for r in res_hyde:
            tous_resultats.setdefault(r["id"], []).append(r["score"])

    # Final score = max of scores
    scores_finaux = {
        idx: max(scores) for idx, scores in tous_resultats.items()
    }

    top_k = sorted(
        scores_finaux.items(), key=lambda x: x[1], reverse=True
    )[:k]

    return [
        {**documents[idx], "score": score}
        for idx, score in top_k
    ]

Ключови изводи

  • Multi-query преформулира въпроса от множество ъгли, за да обхване повече речник
  • HyDE генерира хипотетичен отговор, който повече прилича на целевите документи
  • Step-back задава по-общ въпрос, за да улови широк контекст
  • Тези техники добавят латентност, но значително подобряват пълнотата (recall)