Μετάβαση στο κύριο περιεχόμενο
Ελληνικά— Επιλέξτε γλώσσα
Μενού

Adaptive RAG

Μάθημα 17 / 18 Ενημερώθηκε 2 Νοεμβρίου 2026 Για developers
Σε αυτήν τη σελίδα
  1. Δρομολόγηση ερωτήσεων με ευφυΐα
  2. Υλοποίηση του δρομολογητή
  3. Η πλήρης ροή εργασίας
  4. Βασικά σημεία

Δρομολόγηση ερωτήσεων με ευφυΐα

Το Self-RAG εφαρμόζει την ίδια μεταχείριση σε κάθε ερώτηση, και αυτό ακριβώς αποτελεί το ελάττωμά του. Ρωτήστε το πόσο κάνει δύο συν δύο: θα κωδικοποιήσει το ερώτημα, θα σαρώσει τον ευρετήριο, θα βαθμολογήσει τέσσερα άσχετα έγγραφα, θα στραφεί στον ιστό, θα παράγει και θα επαληθεύσει. Πρόκειται για δώδεκα κλήσεις LLM για μια ερώτηση που το μοντέλο λύνει ακαριαία. Δεν έχουν όλες οι ερωτήσεις την ίδια πολυπλοκότητα, και ένα απλό ερώτημα γεγονότων δεν απαιτεί την ίδια μεταχείριση με ένα που ζητά σύνθεση πολλαπλών εγγράφων. Το Adaptive RAG προσθέτει επομένως έναν ευφυή δρομολογητή upstream της ροής εργασίας: αναλύει την ερώτηση και επιλέγει τη βέλτιστη στρατηγική πριν εμπλακεί σε οποιαδήποτε δαπανηρή επεξεργασία.

Ο δρομολογητής έχει τρεις προορισμούς. Οι ερωτήσεις για θέματα που καλύπτονται πραγματικά από τα έγγραφά σας πηγαίνουν στο vector store: αυτή είναι η πλήρης διαδρομή RAG. Οι ερωτήσεις για τρέχοντα γεγονότα ή εκτός του ευρετηριασμένου πεδίου πηγαίνουν στην αναζήτηση στον ιστό (web search), καθώς η ερώτηση στο ευρετήριο θα επέστρεφε μόνο θόρυβο. Τέλος, οι απλές ερωτήσεις ή αυτές γενικών γνώσεων λαμβάνουν μια άμεση απάντηση από το μοντέλο, χωρίς καμία ανάκτηση.

Υλοποίηση του δρομολογητή

Το δύσκολο σημείο είναι ότι ο δρομολογητής πρέπει να γνωρίζει το πεδίο εφαρμογής του ευρετηρίου σας για να λάβει απόφαση. Η επιλεγμένη λύση είναι τόσο απλή όσο και αποτελεσματική: του περνάτε τη λίστα των καλυπτόμενων θεμάτων, indexed_topics, την οποία συγκρίνει με την ερώτηση. Οι τρεις κανόνες διατυπώνονται ρητά στο prompt, και η περιορισμένη μορφή JSON εγγυάται μια χρησιμοποιήσιμη τιμή. Το result.get("route", "vectorstore") αξίζει προσοχής: σε περίπτωση απροσδόκητης εξόδου, η προεπιλογή επιστρέφει στο vector store. Αυτή είναι η πιο ασφαλής συμπεριφορά, βασιζόμενη στα δεδομένα σας και όχι στον ιστό ή στη μνήμη του μοντέλου.

import json
from mistralai.client import Mistral

client = Mistral(api_key=api_key)

def route_question(question, indexed_topics):
    """Route a question to the best strategy."""
    topics_str = ", ".join(indexed_topics)

    prompt = f"""You are a question router. Given a question,
determine the best source of information.

Your indexed documents cover the following topics: {topics_str}

Rules:
- If the question concerns indexed topics -> "vectorstore"
- If the question concerns current events or an uncovered topic -> "websearch"
- If the question is very simple or general knowledge -> "direct"

Respond ONLY with a JSON object: {{"route": "vectorstore"}} or {{"route": "websearch"}} or {{"route": "direct"}}

Question: {question}

Route JSON:"""

    response = client.chat.complete(
        model="mistral-large-latest",
        messages=[{"role": "user", "content": prompt}],
        temperature=0,
        response_format={"type": "json_object"},
    )

    result = json.loads(response.choices[0].message.content)
    return result.get("route", "vectorstore")

# Test the router
topics = ["embeddings", "RAG", "Mistral AI", "vector search", "FAISS"]

tests = [
    "How does mistral-embed work?",          # -> vectorstore
    "What is Apple's stock price today?",  # -> websearch
    "How much is 2 + 2?",                        # -> direct
    "What are the steps of RAG?",             # -> vectorstore
    "Who won the 2026 World Cup?",         # -> websearch
]

for q in tests:
    route = route_question(q, topics)
    print(f"  [{route:12s}] {q}")

Το σύνολο δοκιμών απεικονίζει κάθε σενάριο και θα λειτουργήσει ως η ασφάλειά σας. Μια ερώτηση για το mistral-embed εμπίπτει σαφώς στα δηλωμένα θέματα, οπότε πηγαίνει στο vector store. Οι τιμές μετοχών ή τα αποτελέσματα διαγωνισμών αλλάζουν καθημερινά: κανένα στατικό ευρετήριο δεν μπορεί να τα περιέχει, επομένως πηγαίνουν στον ιστό. Το δύο συν δύο δεν απαιτεί ούτε σώμα κειμένου ούτε αναζήτηση. Επαναχρησιμοποιήστε αυτό το μπλοκ με τα δικά σας θέματα και περίπου δεκαπέντε ερωτήσεις αντιπροσωπευτικές της πραγματικής σας κίνησης: αυτός είναι ο πιο οικονομικός τρόπος για να επαληθεύσετε ότι η λίστα topics είναι αρκετά ακριβής. Ένας δρομολογητής που στέλνει τα πάντα στο vector store δεν προσφέρει καμία αξία, και ένας δρομολογητής που απαντά άμεσα στα επιχειρηματικά σας θέματα είναι ευθέως επικίνδυνος.

Η πλήρης ροή εργασίας

Το AdaptiveRAG συγκεντρώνει όλα όσα έχετε κατασκευάσει στα τελευταία τρία μαθήματα. Κάθε διαδρομή έχει τη δική της μέθοδο εκτέλεσης, και η μέθοδος ask διαβάζεται σαν μια εντολή switch. Η διαδρομή direct επιστρέφει αμέσως, με θερμοκρασία 0,3 καθώς δεν υπάρχει πλαίσιο αναφοράς στο οποίο να πρέπει να προσκολληθεί, και μια κενή λίστα πηγών που σηματοδοτεί ειλικρινά στον χρήστη ότι τίποτα δεν υποστηρίζει αυτή την απάντηση. Η διαδρομή websearch παράγει αποκλειστικά από αποτελέσματα του ιστού. Η διαδρομή vectorstore, ωστόσο, αναπτύσσει το πλήρες οπλοστάσιο: βαθμολόγηση εγγράφων στο στυλ του Corrective RAG, εφεδρεία στον ιστό αν κανένα δεν επιβιώσει, και στη συνέχεια ένας βρόχος παραγωγής με ελέγχους θεμελίωσης και χρησιμότητας κληρονομημένους από το Self-RAG, ομαδοποιημένοι εδώ στο grade_and_correct.

Μια διαφορά κατωφλίου αξίζει να σημειωθεί σε σύγκριση με το μάθημα του Corrective RAG. Η εφεδρεία στον ιστό δεν ενεργοποιείται πλέον μόλις απορριφθεί ένα έγγραφο, αλλά μόνο αν το relevant_docs είναι κενό. Αυτή η επιλογή είναι πιο ανεκτική: όταν δύο από τα τέσσερα αποσπάσματα παραμένουν σχετικά, είναι λογικό να παράγετε με αυτά αντί να πάτε στον ιστό, κάτι που εξοικονομεί μια κλήση και μειώνει τον λανθάνοντα χρόνο. Πρέπει να κάνετε την επιλογή σας με βάση τις απαιτήσεις του τομέα σας.

import numpy as np

class AdaptiveRAG:
    """Adaptive RAG pipeline with intelligent routing."""

    def __init__(self, chunks, embeddings, index, topics):
        self.chunks = chunks
        self.embeddings = embeddings
        self.index = index
        self.topics = topics

    def route(self, question):
        """Determine the optimal strategy."""
        return route_question(question, self.topics)

    def retrieve_from_vectorstore(self, question, k=4):
        """Retrieval from the local vector store."""
        response = client.embeddings.create(
            model="mistral-embed", inputs=[question]
        )
        query_vec = np.array([response.data[0].embedding], dtype=np.float32)
        distances, indices = self.index.search(query_vec, k)

        return [
            {"text": self.chunks[idx]["text"], "source": "vectorstore"}
            for dist, idx in zip(distances[0], indices[0]) if idx >= 0
        ]

    def search_web(self, question):
        """Web search for out-of-scope questions."""
        return web_search_fallback(question)

    def direct_answer(self, question):
        """Direct answer without retrieval."""
        response = client.chat.complete(
            model="mistral-large-latest",
            messages=[{"role": "user", "content": question}],
            temperature=0.3,
        )
        return response.choices[0].message.content

    def generate_with_context(self, question, documents):
        """Generation with context (classic RAG)."""
        context = "\n\n---\n\n".join([d["text"] for d in documents])
        prompt = f"Context:\n{context}\n\nQuestion: {question}"

        response = client.chat.complete(
            model="mistral-large-latest",
            messages=[
                {"role": "system", "content": "Answer based on the provided context."},
                {"role": "user", "content": prompt},
            ],
            temperature=0.1,
        )
        return response.choices[0].message.content

    def grade_and_correct(self, question, documents, generation):
        """Self-RAG checks (hallucinations + usefulness)."""
        is_grounded = check_hallucination(documents, generation)
        if not is_grounded:
            return None, "hallucination"

        is_useful = check_answer_usefulness(question, generation)
        if not is_useful:
            return None, "not_useful"

        return generation, "ok"

    def ask(self, question, max_retries=2):
        """Complete Adaptive RAG pipeline."""
        print(f"\n{'='*60}")
        print(f"Question: {question}")

        # 1. Routing
        route = self.route(question)
        print(f"Chosen route: {route}")

        # 2. Execute based on route
        if route == "direct":
            answer = self.direct_answer(question)
            return {"answer": answer, "route": "direct", "sources": []}

        elif route == "websearch":
            docs = self.search_web(question)
            answer = self.generate_with_context(question, docs)
            return {"answer": answer, "route": "websearch", "sources": ["web"]}

        else:  # vectorstore
            docs = self.retrieve_from_vectorstore(question)

            # Document grading
            relevant_docs = []
            for doc in docs:
                if grade_document(question, doc["text"]):
                    relevant_docs.append(doc)

            # Web fallback if not enough relevant documents
            if not relevant_docs:
                print("  No relevant documents, web fallback...")
                relevant_docs = self.search_web(question)

            # Generation loop with verification
            for attempt in range(max_retries + 1):
                generation = self.generate_with_context(question, relevant_docs)
                answer, status = self.grade_and_correct(
                    question, relevant_docs, generation
                )

                if status == "ok":
                    return {
                        "answer": answer,
                        "route": "vectorstore",
                        "attempts": attempt + 1,
                        "sources": [d.get("source", "") for d in relevant_docs],
                    }
                elif status == "not_useful":
                    web_docs = self.search_web(question)
                    relevant_docs.extend(web_docs)

            # Return the last generation even if imperfect
            return {
                "answer": generation,
                "route": "vectorstore",
                "attempts": max_retries + 1,
                "sources": [d.get("source", "") for d in relevant_docs],
            }

# Usage
adaptive_rag = AdaptiveRAG(chunks, embeddings, index, topics=topics)

questions = [
    "How do I create a FAISS index with mistral-embed?",
    "What is the weather in Paris tomorrow?",
    "How many dimensions does codestral-embed have?",
]

for q in questions:
    result = adaptive_rag.ask(q)
    print(f"\nRoute: {result['route']}")
    print(f"Answer: {result['answer'][:200]}...")

Οι τρεις παραδειγματικές ερωτήσεις διατρέχουν όλες τις διαδρομές σε μία μόνο εκτέλεση, και το πεδίο route στο αποτέλεσμα σας λέει ποια ακολουθήθηκε. Αυτή είναι η τιμή που πρέπει να καταγράφετε σε παραγωγή: η κατανομή των διαδρομών στην πραγματική σας κίνηση είναι ο καλύτερος δείκτης υγείας για το σύστημά σας, αποκαλύπτοντας τόσο ένα ευρετήριο που είναι πολύ στενό όσο και έναν κακώς βαθμονομημένο δρομολογητή.

Βασικά σημεία

  • Το Adaptive RAG δρομολογεί κάθε ερώτηση στη βέλτιστη στρατηγική (vectorstore, web, direct)
  • Ο δρομολογητής χρησιμοποιεί ένα LLM με δομημένη έξοδο για την ταξινόμηση των ερωτήσεων
  • Οι ερωτήσεις σχετικά με ευρετηριασμένα θέματα πηγαίνουν στο vector store· οι υπόλοιπες στον ιστό
  • Η δρομολόγηση μειώνει τον λανθάνοντα χρόνο και το κόστος αποφεύγοντας το πλήρες RAG για απλές ερωτήσεις
  • Το Adaptive RAG συνδυάζει ιδέες από το Corrective RAG και το Self-RAG με δρομολόγηση