RAG Avançado: Multi-Query, HyDE, Step-Back
Nesta página
Objetivos
- Melhorar a recuperação utilizando técnicas avançadas
- Implementar as estratégias multi-query, HyDE e step-back prompting
- Saber quando utilizar cada técnica
O Problema: Uma Única Consulta Não Basta
O reranking da lição anterior melhorou a forma como os candidatos foram classificados, mas não pôde ajudar com documentos que a recuperação nunca trouxe à superfície em primeiro lugar. A causa mais comum destas falhas não é o modelo nem o índice — é a própria consulta. Um utilizador pode escrever «não funciona no meu telemóvel», enquanto a documentação discute «incompatibilidade com versões do Android anteriores à 12». Nenhum modelo de embeddings aproximará espontaneamente estas duas formulações.
As seguintes técnicas partilham um único princípio: em vez de aceitar a consulta tal como está, transformamo-la ou multiplicamo-la antes de pesquisar. Todas atuam sobre o recall — ou seja, a capacidade de colocar o documento certo na lista de candidatos.
Multi-Query: Colocar a Questão de Forma Diferente
A primeira abordagem é a mais direta. Pedimos ao LLM que reformule a questão sob vários ângulos, executamos uma pesquisa com cada variante e fundimos os resultados. A questão «como cancelo a minha subscrição?» torna-se também «procedimento de cancelamento», «interromper a cobrança mensal» e «eliminar a minha conta paga» — três vocabulários diferentes, três hipóteses de acertar na redação que o autor da documentação utilizou.
A etapa de fusão merece uma nota: a linha np.maximum mantém, para cada documento, a melhor pontuação obtida em todas as consultas. Um documento que corresponda bem a apenas uma reformulação sobe ainda assim ao topo, o que não aconteceria se fizéssemos a média das pontuações. A temperatura de 0.7 é intencional aqui, porque queremos variedade, não reprodutibilidade.
from openai import OpenAI
import numpy as np
client = OpenAI()
def generer_multi_queries(question: str, n: int = 3) -> list[str]:
"""Generate n rephrasings of the question."""
response = client.chat.completions.create(
model="gpt-5.6-terra",
messages=[{
"role": "user",
"content": (
f"Generate {n} different rephrasings of this question "
f"for document search. Each rephrasing "
f"should cover a different angle.\n\n"
f"Original question: {question}\n\n"
f"Return only the rephrasings, one per line."
)
}],
temperature=0.7
)
queries = response.choices[0].message.content.strip().split("\n")
return [q.strip().lstrip("0123456789.-) ") for q in queries if q.strip()]
def recherche_multi_query(
question: str,
corpus_embeddings: np.ndarray,
documents: list[dict],
k: int = 5,
n_queries: int = 3
) -> list[dict]:
"""Search with multiple rephrasings."""
queries = [question] + generer_multi_queries(question, n_queries)
print(f"Queries: {queries}")
tous_scores = np.zeros(len(documents))
for query in queries:
query_emb = client.embeddings.create(
input=query, model="text-embedding-3-large"
).data[0].embedding
scores = corpus_embeddings @ np.array(query_emb)
tous_scores = np.maximum(tous_scores, scores)
top_k = np.argsort(tous_scores)[-k:][::-1]
return [
{**documents[i], "score": float(tous_scores[i])}
for i in top_k
]
HyDE: Hypothetical Document Embeddings
O HyDE aborda o problema pelo outro lado. Em vez de multiplicar as questões, fazemos o modelo gerar uma resposta plausível — mesmo que esteja parcialmente errada, isso não importa — e depois procuramos documentos próximos dessa resposta. A questão «como configuro o SSO?» produz um parágrafo que fala de fornecedores de identidade, SAML e metadados, exatamente o vocabulário encontrado na documentação real.
def recherche_hyde(
question: str,
corpus_embeddings: np.ndarray,
documents: list[dict],
k: int = 5
) -> list[dict]:
"""Search with a hypothetical document (HyDE)."""
# 1. Generate a hypothetical document
response = client.chat.completions.create(
model="gpt-5.6-terra",
messages=[{
"role": "user",
"content": (
f"Write a short paragraph (3-5 sentences) that would answer "
f"this question. Write as if it were an excerpt "
f"from technical documentation.\n\n"
f"Question: {question}"
)
}],
temperature=0.3
)
doc_hypothetique = response.choices[0].message.content
# 2. Encode the hypothetical document
hyde_emb = client.embeddings.create(
input=doc_hypothetique,
model="text-embedding-3-large"
).data[0].embedding
# 3. Search for similar documents
scores = corpus_embeddings @ np.array(hyde_emb)
top_k = np.argsort(scores)[-k:][::-1]
return [
{**documents[i], "score": float(scores[i])}
for i in top_k
]
Se esta técnica funciona, é porque o embedding de uma resposta se assemelha mais ao embedding de um documento do que o embedding de uma questão. Uma questão é curta, interrogativa e muitas vezes formulada pelas próprias palavras do utilizador; um documento é longo, afirmativo e escrito em jargão do domínio. O HyDE colmata esta lacuna entre consulta e documento, trazendo a consulta para o terreno do corpus. É também por isso que o prompt especifica «como se fosse um excerto de documentação técnica»: estamos a imitar o registo alvo.
Step-Back Prompting
A terceira técnica lida com o caso oposto: questões tão específicas que nenhum documento as aborda diretamente. «Posso deduzir uma bicicleta elétrica comprada em fevereiro?» não aparece em lado nenhum, mas a secção sobre despesas comerciais dedutíveis sim. Por isso, pedimos ao modelo a questão geral que se esconde por trás da específica e depois pesquisamos com ambas, ponderando-as em 0.7 para a questão original e 0.3 para a mais ampla — o contexto amplo ajuda, mas não deve dominar.
def recherche_step_back(
question: str,
corpus_embeddings: np.ndarray,
documents: list[dict],
k: int = 5
) -> list[dict]:
"""Two-pass search: general then specific."""
# 1. Generate a step-back question
response = client.chat.completions.create(
model="gpt-5.6-terra",
messages=[{
"role": "user",
"content": (
f"What is the more general question or underlying concept "
f"behind this specific question?\n\n"
f"Specific question: {question}\n\n"
f"Return only the general question."
)
}],
temperature=0.3
)
question_generale = response.choices[0].message.content.strip()
# 2. Search with both questions
resultats_combines = {}
for q, poids in [(question, 0.7), (question_generale, 0.3)]:
q_emb = client.embeddings.create(
input=q, model="text-embedding-3-large"
).data[0].embedding
scores = corpus_embeddings @ np.array(q_emb)
for i, s in enumerate(scores):
if i not in resultats_combines:
resultats_combines[i] = 0.0
resultats_combines[i] += float(s) * poids
top_k = sorted(
resultats_combines.items(),
key=lambda x: x[1], reverse=True
)[:k]
return [
{**documents[idx], "score": score}
for idx, score in top_k
]
Comparação das Técnicas
Cada uma aborda uma patologia específica de recuperação e cada uma tem o custo de chamadas adicionais e, portanto, de maior latência.
| Técnica | Quando utilizar | Custo adicional |
|---|---|---|
| Multi-query | Consultas ambíguas, vocabulário variado | n chamadas de embedding + 1 chamada LLM |
| HyDE | Lacuna consulta-documento, domínios técnicos | 1 chamada LLM + 1 chamada de embedding |
| Step-back | Questões muito específicas, necessidade de contexto | 1 chamada LLM + 2 chamadas de embedding |
Combinação de Técnicas
Não tem de escolher apenas uma. A função seguinte aceita uma lista de estratégias, acumula as pontuações que cada uma produz num dicionário indexado por documento e mantém o máximo. Um documento encontrado apenas pelo HyDE classifica-se assim ao lado de um documento encontrado por pesquisa direta. Tenha em mente, no entanto, que empilhar três estratégias triplica o orçamento e alarga o tempo de resposta: reserve esta combinação para consultas difíceis ou para processamento offline onde a latência não importa.
def recherche_avancee(
question: str,
corpus_embeddings: np.ndarray,
documents: list[dict],
k: int = 5,
strategies: list[str] = ["direct", "multi_query", "hyde"]
) -> list[dict]:
"""Combine multiple search strategies."""
tous_resultats = {}
if "direct" in strategies:
q_emb = client.embeddings.create(
input=question, model="text-embedding-3-large"
).data[0].embedding
scores = corpus_embeddings @ np.array(q_emb)
for i, s in enumerate(scores):
tous_resultats.setdefault(i, []).append(float(s))
if "hyde" in strategies:
res_hyde = recherche_hyde(
question, corpus_embeddings, documents, k=k*2
)
for r in res_hyde:
tous_resultats.setdefault(r["id"], []).append(r["score"])
# Final score = max of scores
scores_finaux = {
idx: max(scores) for idx, scores in tous_resultats.items()
}
top_k = sorted(
scores_finaux.items(), key=lambda x: x[1], reverse=True
)[:k]
return [
{**documents[idx], "score": score}
for idx, score in top_k
]
Pontos-chave
- O multi-query reformula a questão sob múltiplos ângulos para cobrir mais vocabulário
- O HyDE gera uma resposta hipotética que se assemelha mais aos documentos alvo
- O step-back coloca uma questão mais geral para captar o contexto amplo
- Estas técnicas adicionam latência, mas melhoram significativamente o recall