Πλήρης Αρχιτεκτονική RAG
Σε αυτήν τη σελίδα
Μάθημα ενημερώθηκε στις 3 Νοεμβρίου 2026 βάσει της τεκμηρίωσης της OpenAI: οι παράμετροι
temperatureκαιtop_pγίνονται δεκτές μόνο με προσπάθεια συλλογισμού (reasoning effort) ίση μεnone, ενώ τα μοντέλα GPT-5.6 συλλογίζονται εξ ορισμού (medium). Επομένως, οι κλήσεις που ορίζουν αυτές τις παραμέτρους πρέπει να προσδιορίζουνreasoning={"effort": "none"}(API Responses) ήreasoning_effort="none"(Chat Completions). Πηγές: Χρήση του GPT-6 · GPT-5.6 Terra.
Στόχοι
- Να κατανοήσετε την αρχιτεκτονική RAG από άκρη σε άκρη
- Να υλοποιήσετε μια λειτουργική ροή εργασίας (pipeline) RAG
- Να εντοπίσετε τα στοιχεία που μπορούν να βελτιστοποιηθούν
Τι είναι το RAG;
Το RAG (Retrieval-Augmented Generation ή Παραγωγή Ενισχυμένη με Ανάκτηση) συνδυάζει την αναζήτηση εγγράφων με τη δημιουργία κειμένου από ένα Μεγάλο Γλωσσικό Μοντέλο (LLM). Αντί να βασίζεται αποκλειστικά στις εσωτερικές του γνώσεις, το μοντέλο λαμβάνει σχετικά έγγραφα ως πλαίσιο αναφοράς και στη διαμορφώνει την απάντησή του με βάση αυτό το πλαίσιο. Ό,τι έχετε κατασκευάσει από την αρχή αυτού του μαθήματος—ενσωματώσεις (embeddings), ευρετηρίαση, αναζήτηση, αξιολόγηση—αποτελεί εδώ το πρώτο μισό ενός πλήρους συστήματος.
Γιατί RAG;
Τέσσερις λόγοι το δικαιολογούν, και αυτοί αλληλοενισχύονται. Πρώτον, ιδιόκτητα δεδομένα: η πολιτική τηλεργασίας σας, οι εσωτερικές διαδικασίες και ο κατάλογος προϊόντων σας δεν υπήρξαν ποτέ στα δεδομένα εκπαίδευσης του μοντέλου, και κανένα prompt δεν θα τα κάνει να εμφανιστούν εκεί. Δεύτερον, πρόσφατες πληροφορίες: οτιδήποτε μεταγενέστερο της εκπαίδευσης είναι αόρατο για το μοντέλο, whereas ένα ευρετήριο ενημερώνεται την ίδια ημέρα. Η επαληθευσιμότητα έχει εξίσου μεγάλη σημασία, καθώς κάθε απάντηση αγκυρώνεται σε αναγνωρίσιμες πηγές που ο χρήστης μπορεί να ανοίξει και να ελέγξει—μεταμορφώνοντας έτσι τη φύση της εμπιστοσύνης προς το σύστημα. Τέλος, το κόστος λειτουργεί υπέρ του: η προσθήκη γνώσης μέσω RAG κοστίζει πολύ λιγότερο από τη λεπτομερή προσαρμογή (fine-tuning), και οι διορθώσεις γίνονται με τη διαγραφή ενός εγγράφου και όχι με την επανεκπαίδευση ενός μοντέλου.
Στάδια της Ροής Εργασίας (Pipeline)
Διαβάστε το RAG σε δύο διακριτές φάσεις που δεν πρέπει να συγχέετε. Η Εισαγωγή (Ingestion) συμβαίνει εκτός σύνδεσης (offline), μία και μοναδική φορά ή όποτε ενημερώνεται το σώμα κειμένων:
Documents → Chunking → Embeddings → Vector Storage
Το Ερώτημα (Query) συμβαίνει σε σύνδεση (online), για κάθε ερώτηση που τίθεται, και πρέπει να παραμένει γρήγορο:
Question → Embedding → Search → Context + Question → LLM → Response
Αυτός ο διαχωρισμός έχει μια πρακτική συνέπεια: το κόστος εισαγωγής πληρώνεται μία φορά και μπορεί να είναι υψηλό, ενώ το κόστος του ερωτήματος πληρώνεται ανά κλήση και καθορίζει την εμπειρία του χρήστη. Μπορείτε επομένως να αντέξετε οικονομικά μια εξελιγμένη επεξεργασία κατά την εισαγωγή, αλλά πρέπει να παραμείνετε λιτοί στην πλευρά του ερωτήματος.
Πλήρης Υλοποίηση
Η ακόλουθη κλάση υλοποιεί τις τρεις φάσεις σε τρεις διακριτές μεθόδους, συν μια τέταρτη που τις συνδέει όλες μαζί. Αυτός ο διαχωρισμός δεν είναι επιφανειακός: σας επιτρέπει να δοκιμάζετε την αναζήτηση χωρίς να καταναλώνετε tokens παραγωγής, και να επαναλαμβάνετε την παραγωγή σε ένα σταθερό πλαίσιο για να συγκρίνετε δύο prompts.
from openai import OpenAI
import numpy as np
client = OpenAI()
class PipelineRAG:
def __init__(
self,
model_embedding: str = "text-embedding-3-large",
model_generation: str = "gpt-5.6-terra"
):
self.client = OpenAI()
self.model_embedding = model_embedding
self.model_generation = model_generation
self.chunks: list[dict] = []
self.embeddings: np.ndarray | None = None
# --- Ingestion Phase ---
def ingest(self, documents: list[dict]):
"""Ingests documents {id, text, metadata}."""
self.chunks = documents
texts = [d["text"] for d in documents]
# Generate embeddings in batches
all_emb = []
for i in range(0, len(texts), 100):
batch = texts[i:i + 100]
resp = self.client.embeddings.create(
input=batch, model=self.model_embedding
)
batch_emb = sorted(resp.data, key=lambda x: x.index)
all_emb.extend([e.embedding for e in batch_emb])
self.embeddings = np.array(all_emb, dtype=np.float32)
print(f"Ingestion complete: {len(self.chunks)} chunks indexed")
# --- Retrieval Phase ---
def search(self, question: str, k: int = 5) -> list[dict]:
"""Finds the k most relevant chunks."""
query_emb = self.client.embeddings.create(
input=question, model=self.model_embedding
).data[0].embedding
scores = self.embeddings @ np.array(query_emb)
top_k = np.argsort(scores)[-k:][::-1]
return [
{**self.chunks[i], "score": float(scores[i])}
for i in top_k
]
# --- Generation Phase ---
def generate(self, question: str, contexts: list[dict]) -> str:
"""Generates a response based on retrieved contexts."""
# Build the prompt
formatted_context = "\n\n---\n\n".join(
f"[Source: {c.get('id', 'unknown')}]\n{c['text']}"
for c in contexts
)
messages = [
{
"role": "system",
"content": (
"You are an assistant that answers questions "
"based solely on the provided documents. "
"If the information is not in the documents, "
"state this clearly. Cite your sources."
)
},
{
"role": "user",
"content": (
f"Reference documents:\n\n{formatted_context}\n\n"
f"---\n\nQuestion: {question}"
)
}
]
response = self.client.chat.completions.create(
model=self.model_generation,
reasoning_effort="none", # temperature requires effort none
messages=messages,
temperature=0.2
)
return response.choices[0].message.content
# --- Complete Pipeline ---
def answer(self, question: str, k: int = 5) -> dict:
"""Complete RAG pipeline: search → generation."""
contexts = self.search(question, k=k)
response = self.generate(question, contexts)
return {
"question": question,
"response": response,
"sources": [
{"id": c["id"], "score": c["score"],
"excerpt": c["text"][:150]}
for c in contexts
]
}
Τρεις λεπτομέρειες στη φάση παραγωγής καθορίζουν το μεγαλύτερο μέρος της ποιότητας. Το μήνυμα συστήματος επιβάλλει την απάντηση μόνο από τα παρεχόμενα έγγραφα και την παραδοχή όταν λείπουν πληροφορίες: χωρίς αυτή την οδηγία, το μοντέλο θα συμπληρώσει τα κενά με τις γενικές του γνώσεις, παράγοντας μια εύλογη αλλά επινοημένη απάντηση. Το πρόθεμα [Source: id] πριν από κάθε απόσπασμα δίνει στο μοντέλο κάτι συγκεκριμένο να αναφέρει, αντί για ένα αόριστο «σύμφωνα με τα έγγραφα». Τέλος, ένα temperature ίσο με 0.2 μειώνει τη μεταβλητότητα: για ερωτήσεις γεγονότων απέναντι σε μια βάση εγγράφων, θέλετε συνέπεια, όχι δημιουργικότητα.
Χρήση
Ας δοκιμάσουμε τη ροή εργασίας σε μια ελάχιστη επιχειρηματική περίπτωση—τρεις εσωτερικές πολιτικές και μια ερώτηση που δεν αντιγράφει την ακριβή διατύπωσή τους.
# Prepare documents
documents = [
{
"id": "leave-policy",
"text": "Employees receive 25 days of paid leave "
"per year. Leave must be requested at least 2 weeks "
"in advance via the HR portal.",
"metadata": {"type": "hr", "date": "2026-01"}
},
{
"id": "remote-work-policy",
"text": "Remote work is authorized up to 3 days per week. "
"Tuesdays and Thursdays are mandatory office days. "
"Written agreement with the manager is required.",
"metadata": {"type": "hr", "date": "2026-01"}
},
{
"id": "reimbursement-procedure",
"text": "Expense reports must be submitted within 30 days "
"of the expense. Attach the original receipt. "
"Validation by the direct supervisor required for amounts over 200 euros.",
"metadata": {"type": "finance", "date": "2026-01"}
},
]
# Create the pipeline
rag = PipelineRAG()
rag.ingest(documents)
# Ask a question
result = rag.answer("How many days of remote work per week?")
print(result["response"])
print("\nSources used:")
for s in result["sources"]:
print(f" [{s['score']:.3f}] {s['id']}: {s['excerpt']}")
Προχωρήστε την άσκηση further θέτοντας μια ερώτηση στην οποία κανένα έγγραφο δεν απαντά, όπως μια ερώτηση σχετικά με το πρόγραμμα υγείας της εταιρείας. Η ροή εργασίας θα επιστρέψει παρόλα αυτά τρεις πηγές—η αναζήτηση επιστρέφει πάντα τους k καλύτερους υποψήφιους—και είναι το μήνυμα συστήματος αυτό που πρέπει να εμποδίσει το μοντέλο να επινοήσει μια απάντηση. Η επαλήθευση αυτής της συμπεριφοράς πριν την παραγωγή είναι προτιμότερη από το να την ανακαλύψετε μέσω μιας καταγγελίας.
Σημεία Βελτιστοποίησης
Κάθε βήμα της ροής εργασίας μπορεί να βελτιωθεί ανεξάρτητα, επιτρέποντας την πρόοδο μέσω μικρών, μετρήσιμων προσαρμογών.
| Βήμα | Πιθανές Βελτιστοποιήσεις |
|---|---|
| Chunking | Μέγεθος τμήματος, επικάλυψη, σημασιολογική τμηματοποίηση |
| Embedding | Επιλογή μοντέλου, διαστάσεις, εμπλουτισμός κειμένου |
| Search | Υβριδική, επανακατάταξη (reranking), φίλτρα μεταδεδομένων |
| Prompt | Οδηγίες συστήματος, μορφή πλαισίου, few-shot |
| Generation | Μοντέλο, temperature, παραπομπές |
Τα επόμενα μαθήματα αναλύουν λεπτομερώς καθεμία από αυτές τις βελτιστοποιήσεις. Αντιμετωπίστε τις με αυτή τη σειρά: η τμηματοποίηση καθορίζει τι μπορεί να ανακτηθεί, και καμία επανακατάταξη δεν θα διορθώσει ένα έγγραφο που έχει τμηματοποιηθεί poorly.
Βασικά σημεία
- RAG = Αναζήτηση + Πλαίσιο + Παραγωγή LLM
- Η ροή εργασίας χωρίζεται σε εισαγωγή (offline) και ερώτημα (online)
- Κάθε στοιχείο (τμηματοποίηση, ενσωμάτωση, αναζήτηση, prompt, παραγωγή) μπορεί να βελτιστοποιηθεί ανεξάρτητα
- Το RAG είναι πιο ευέλικτο και λιγότερο δαπανηρό από το fine-tuning για την προσθήκη γνώσης