Επαυξημένη με ανάκτηση δημιουργία αιτημάτων
Σε αυτήν τη σελίδα
Μάθημα ενημερώθηκε στις 3 Νοεμβρίου 2026 βάσει της τεκμηρίωσης της OpenAI: οι παράμετροι
temperatureκαιtop_pγίνονται δεκτές μόνο με προσπάθεια συλλογισμού (reasoning effort) ίση μεnone, ενώ τα μοντέλα GPT-5.6 συλλογίζονται εξ ορισμού (medium). Επομένως, οι κλήσεις που ορίζουν αυτές τις παραμέτρους πρέπει να προσδιορίζουνreasoning={"effort": "none"}(Responses API) ήreasoning_effort="none"(Chat Completions). Πηγές: Χρήση του GPT-6 · GPT-5.6 Terra.
Επαυξημένη με ανάκτηση δημιουργία αιτημάτων
Η Επαυξημένη με Ανάκτηση Δημιουργία Αιτημάτων (Retrieval-Augmented Prompting - RAP) συνδυάζει την αναζήτηση εγγράφων με τη δημιουργία αιτημάτων (prompting) για να παρέχει στο μοντέλο σχετικό και επίκαιρο πλαίσιο. Αποτελεί τη φυσική εξέλιξη της θεμελίωσης (grounding): αντί να εισάγετε χειροκίνητα το πλαίσιο, αυτοματοποιείτε την αναζήτηση σχετικών αποσπασμάτων πριν από κάθε κλήση του LLM.
Η διαφορά γίνεται εμφανής σε μεγάλη κλίμακα. Η χειροκίνητη επικόλληση τριών χρήσιμων παραγράφων από την τεκμηρίωσή σας λειτουργεί για μια επίδειξη· ωστόσο, μόλις η βάση τεκμηρίωσής σας φτάσει τις μερικές εκατοντάδες σελίδες και οι ερωτήσεις καταφτάνουν συνεχώς, κανείς δεν γνωρίζει πλέον ποια αποσπάσματα να επικολλήσει. Το RAP αναθέτει αυτή την επιλογή σε ένα αυτόματο στοιχείο, το οποίο εκτελείται πριν από κάθε δημιουργία και μοναδικός ρόλος του είναι να βρει τι θα συμπεριληφθεί στο αίτημα.
Αρχιτεκτονική ενός συστήματος RAP
Μια ροή εργασίας RAP αναλύεται σε τρία βήματα που λειτουργούν με διαφορετικές ταχύτητες και κόστος. Η ευρετηρίαση μετατρέπει τα έγγραφά σας σε διανυσματικές ενσωματώσεις (embeddings)· αυτό συμβαίνει μία φορά, εκτός σύνδεσης, μετατρέποντας κάθε έγγραφο σε ένα αριθμητικό διάνυσμα που κωδικοποιεί το νόημά του, το οποίο αποθηκεύεται μαζί με το αρχικό κείμενο. Η ανάκτηση, αντιθέτως, εκτελείται σε κάθε ερώτηση: μετατρέπετε την ερώτηση σε διάνυσμα χρησιμοποιώντας το ίδιο μοντέλο ενσωμάτωσης και στη συνέχεια αναζητάτε τα πλησιέστερα διανύσματα εγγράφων. Τέλος, η επαύξηση είναι απλώς η τυπική δημιουργία αιτημάτων—δομείτε ένα αίτημα συστήματος που περιέχει τα ανακτηθέντα αποσπάσματα και δίνετε εντολή στο μοντέλο να μην ξεφεύγει από αυτό το εύρος.
Θυμηθείτε αυτή τη διαίρεση: ό,τι είναι δαπανηρό συμβαίνει κατά τη διάρκεια της ευρετηρίασης, όπου μπορείτε να είστε απαιτητικοί, ενώ ό,τι επαναλαμβάνεται για κάθε ερώτηση πρέπει να παραμένει γρήγορο. Ο παρακάτω κώδικας υλοποιεί τα δύο πρώτα βήματα χρησιμοποιώντας την ομοιότητα συνημιτόνου ως μέτρο εγγύτητας.
from openai import OpenAI
import numpy as np
client = OpenAI()
# Step 1: Generate document embeddings
def embed_texts(texts: list[str]) -> list[list[float]]:
"""Generates embeddings for a list of texts."""
response = client.embeddings.create(
model="text-embedding-3-large",
input=texts
)
return [item.embedding for item in response.data]
# Step 2: Search by cosine similarity
def cosine_similarity(a: list[float], b: list[float]) -> float:
"""Calculates cosine similarity between two vectors."""
a, b = np.array(a), np.array(b)
return float(np.dot(a, b) / (np.linalg.norm(a) * np.linalg.norm(b)))
def retrieve(query: str, documents: list[str],
doc_embeddings: list[list[float]],
top_k: int = 3) -> list[str]:
"""Returns the top_k most relevant documents."""
query_emb = embed_texts([query])[0]
scores = [
(i, cosine_similarity(query_emb, doc_emb))
for i, doc_emb in enumerate(doc_embeddings)
]
scores.sort(key=lambda x: x[1], reverse=True)
return [documents[i] for i, _ in scores[:top_k]]
Πλήρης ροή εργασίας
Η συναρμολόγηση αυτών των δομικών στοιχείων αποδίδει μια κλάση που χωράει σε περίπου τριάντα γραμμές. Οι περισσότερες αποφάσεις λαμβάνονται στο παραγόμενο αίτημα συστήματος και αξίζει να το διαβάσετε γραμμή προς γραμμή. Το μοντέλο λαμβάνει πρώτα την εντολή να απαντά ΜΟΝΟ βάσει των παρεχόμενων αποσπασμάτων, γεγονός που περιορίζει τις παραισθησιακές απαντήσεις όταν η τεκμηρίωση σιωπά. Στη συνέχεια, λαμβάνει την οδηγία να παραθέτει τον αριθμό του αποσπάσματος για κάθε ισχυρισμό, και αυτό είναι που καθιστά δυνατή την επαλήθευση: ένας αναθεωρητής μπορεί να εντοπίσει την πηγή με μια ματιά. Μια τιμή temperature 0,1 ολοκληρώνει τη ρύθμιση—σε μια απάντηση θεμελιωμένη σε έγγραφα, η δημιουργικότητα αποτελεί σφάλμα.
class RAGPipeline:
"""Minimalist RAP pipeline."""
def __init__(self, documents: list[str]):
self.documents = documents
self.embeddings = embed_texts(documents)
def query(self, question: str, top_k: int = 3) -> str:
"""Answers a question based on the documents."""
# Retrieval
relevant_docs = retrieve(
question, self.documents,
self.embeddings, top_k
)
# Prompt augmentation
context = "\n\n---\n\n".join(
f"[Passage {i+1}]\n{doc}"
for i, doc in enumerate(relevant_docs)
)
system = f"""You are a technical assistant.
Answer ONLY based on the provided passages.
If the passages do not contain the answer, say so.
Cite the passage number for every claim.
RELEVANT PASSAGES:
{context}"""
# Generation
response = client.responses.create(
model="gpt-5.6-terra",
reasoning={"effort": "none"}, # temperature requires effort none
instructions=system,
input=question,
temperature=0.1
)
return response.output_text
Τμηματοποίηση: διαίρεση εγγράφων
Η διαίρεση των εγγράφων σε τμήματα (chunks) είναι κρίσιμη για την ποιότητα της ανάκτησης. Αν τα τμήματα είναι πολύ μεγάλα, πνίγουν τις σχετικές πληροφορίες· αν είναι πολύ μικρά, χάνουν το πλαίσιο. Ένα εγχειρίδιο API χωρισμένο σε μπλοκ δέκα σελίδων θα επιστρέφει πάντα το ίδιο γενικό μπλοκ, ανεξάρτητα από την ερώτηση που τίθεται. Αν χωριστεί σε μεμονωμένες προτάσεις, θα επιστρέφει μια πρόταση που ξεκινά με «αυτή η μέθοδος» χωρίς το μοντέλο να γνωρίζει σε ποια μέθοδο αναφέρεται. Η επικάλυψη μετριάζει συγκεκριμένα αυτόν τον κίνδυνο: κάθε τμήμα επαναλαμβάνει το τέλος του προηγούμενου, ώστε οι πληροφορίες που εκτείνονται σε ένα όριο να παραμένουν αναγνώσιμες τουλάχιστον από τη μία πλευρά.
Όταν τα έγγραφά σας έχουν δομή επικεφαλίδων, η τμηματοποίηση βάσει ενοτήτων είναι σχεδόν πάντα ανώτερη από την τμηματοποίηση σταθερού μεγέθους: μια ενότητα «Πιστοποίηση» παραμένει άθικτη, μαζί με την εισαγωγή και τα παραδείγματά της.
def chunk_document(text: str, chunk_size: int = 500,
overlap: int = 50) -> list[str]:
"""Splits text into chunks with overlap."""
words = text.split()
chunks = []
for i in range(0, len(words), chunk_size - overlap):
chunk = " ".join(words[i:i + chunk_size])
if chunk.strip():
chunks.append(chunk)
return chunks
def chunk_by_sections(text: str) -> list[str]:
"""Splits by sections (Markdown headings)."""
sections = []
current = []
for line in text.split("\n"):
if line.startswith("## ") and current:
sections.append("\n".join(current))
current = [line]
else:
current.append(line)
if current:
sections.append("\n".join(current))
return sections
Προηγμένες στρατηγικές ανάκτησης
Επαναβαθμολόγηση (Reranking)
Μετά την αρχική ανάκτηση, χρησιμοποιήστε το LLM για να αναδιατάξετε τα αποτελέσματα. Η λογική είναι αυτή μιας χοάνης: η διανυσματική αναζήτηση είναι γρήγορη αλλά κατά προσέγγιση, φέρνοντας πίσω μια ντουζίνα πιθανών υποψηφίων· το μοντέλο, πιο αργό αλλά πιο λεπτομερές, διαβάζει ξανά αυτούς τους υποψηφίους γνωρίζοντας την ερώτηση και τους κατατάσσει. Στη συνέχεια, κρατάτε μόνο την κορυφή της λίστας για τη δημιουργία. Το κέρδος είναι πιο εμφανές σε ερωτήσεις όπου πολλά αποσπάσματα μιλούν για το ίδιο θέμα αλλά μόνο ένα απαντά πραγματικά—τρεις ενότητες αναφέρουν τη λέξη «ποσόστωση», αλλά μόνο μία εξηγεί πώς να την αυξήσετε.
def rerank(question: str, passages: list[str]) -> list[str]:
"""Reorders passages by relevance using the LLM."""
prompt = f"""Question: {question}
Here are candidate passages. Rank them from most relevant
to least relevant for answering the question.
Return only the numbers in order (e.g., 3, 1, 2).
{chr(10).join(f"[{i+1}] {p[:200]}" for i, p in enumerate(passages))}"""
response = client.responses.create(
model="gpt-5.6-terra",
reasoning={"effort": "none"}, # temperature requires effort none
input=prompt,
temperature=0.0
)
# Parse returned order and reorganize
return response.output_text
Υποθετική Ενσωμάτωση Εγγράφου (HyDE)
Δημιουργήστε ένα ιδανικό υποθετικό έγγραφο και στη συνέχεια αναζητήστε παρόμοια έγγραφα. Το πρόβλημα που λύνει αυτή η τεχνική είναι η ασυμφωνία λεξιλογίου: μια ερώτηση διατυπωμένη σε καθημερινή γλώσσα δεν μοιάζει, διανυσματικά, με μια παράγραφο τεχνικής τεκμηρίωσης. Ζητώντας πρώτα από το μοντέλο να γράψει την απάντηση που φαντάζεται, αποκτάτε ένα κείμενο γραμμένο στο ύφος των εγγράφων σας, και αυτό το κείμενο χρησιμοποιείτε ως ερώτημα αναζήτησης. Δεν έχει σημασία αν η υποθετική παράγραφος περιέχει κατά προσέγγιση πληροφορίες: δεν χρησιμεύει ποτέ ως απάντηση, μόνο ως ανιχνευτής.
def hyde_retrieve(question: str, documents: list[str],
doc_embeddings: list[list[float]]) -> list[str]:
"""Retrieval via HyDE."""
# Generate a hypothetical passage
hypo_response = client.responses.create(
model="gpt-5.6-terra",
reasoning={"effort": "none"}, # temperature requires effort none
input=f"Write a short technical paragraph that would perfectly "
f"answer this question: {question}",
temperature=0.5
)
hypothetical_doc = hypo_response.output_text
# Search for documents similar to the hypothetical passage
return retrieve(hypothetical_doc, documents,
doc_embeddings, top_k=3)
Χρήση της εγγενούς Αναζήτησης Αρχείων της OpenAI
Για ταχεία ανάπτυξη, το API προσφέρει ενσωματωμένη ανάκτηση. Ανεβάζετε το αρχείο, δημιουργείτε ένα αποθετήριο διανυσμάτων (vector store), συνδέετε το αρχείο σε αυτό και δηλώνετε το εργαλείο file_search στην κλήση: η τμηματοποίηση, η ενσωμάτωση και η αναζήτηση διαχειρίζονται διακομιστικά. Αυτή είναι η σωστή επιλογή όταν τα έγγραφά σας είναι τυπικά και δεν σας ενδιαφέρει πού ζουν τα δεδομένα. Η οικεία ροή εργασίας διατηρεί το πλεονέκτημα μόλις χρειαστεί να ελέγξετε την τμηματοποίηση, να φιλοξενήσετε μόνοι σας το ευρετήριο ή να συνδέσετε συγκεκριμένη επαναβαθμολόγηση.
# Upload file
file = client.files.create(
file=open("documentation.pdf", "rb"),
purpose="assistants"
)
# Create a vector store
vector_store = client.vector_stores.create(
name="Technical Documentation"
)
client.vector_stores.files.create(
vector_store_id=vector_store.id,
file_id=file.id
)
# Query with File Search
response = client.responses.create(
model="gpt-5.6-terra",
instructions="Answer based on the provided documentation.",
input="How do I configure authentication?",
tools=[{
"type": "file_search",
"vector_store_ids": [vector_store.id]
}]
)
Καθορίστε μια βασική γραμμή
Πάρτε πέντε έως δέκα σελίδες τεχνικής τεκμηρίωσης και υλοποιήστε την πλήρη ροή εργασίας, από την τμηματοποίηση έως τη δημιουργία. Γράψτε δέκα ερωτήσεις των οποίων οι απαντήσεις βρίσκονται στα έγγραφα, εκτελέστε τη ροή εργασίας σε καθεμία και στη συνέχεια επαναλάβετε με ενεργοποιημένη την επαναβαθμολόγηση: παρατηρώντας σε ποιες ερωτήσεις αλλάζει η κατάταξη, κατανοείτε τι χάνει η καθαρή διανυσματική αναζήτηση. Ολοκληρώστε μετρώντας το ποσοστό των σωστά θεμελιωμένων απαντήσεων, εκείνων όπου κάθε ισχυρισμός αναφέρεται αποτελεσματικά σε ένα παρεχόμενο απόσπασμα. Αυτός ο αριθμός είναι το σημείο εκκίνησής σας· όλες οι επόμενες βελτιστοποιήσεις θα κριθούν σε σχέση με αυτόν, και όχι με βάση την εντύπωση που αφήνουν δύο ή τρεις τυχαία διαβασμένες απαντήσεις.
Βασικά σημεία
- Το RAP αυτοματοποιεί την έγχυση σχετικού πλαισίου στο αίτημα
- Η τμηματοποίηση είναι κρίσιμη: πειραματιστείτε με διαφορετικά μεγέθη
- Η επαναβαθμολόγηση με το LLM βελτιώνει σημαντικά τη συνάφεια
- Το HyDE είναι χρήσιμο όταν η ερώτηση διαφέρει πολύ από το λεξιλόγιο των εγγράφων
- Η Αναζήτηση Αρχείων της OpenAI απλοποιεί την ανάπτυξη για τυπικές περιπτώσεις