Μετάβαση στο κύριο περιεχόμενο
Ελληνικά— Επιλέξτε γλώσσα
Μενού

Ανάκτηση και Δημιουργία

Μάθημα 13 / 18 Ενημερώθηκε 2 Νοεμβρίου 2026 Για developers
Σε αυτήν τη σελίδα
  1. Από το Διάνυσμα στην Απάντηση
  2. Δημιουργία της Οδηγίας RAG
  3. Δημιουργία της Απάντησης
  4. Ενσωμάτωση της Ροής σε μια Κλάση
  5. Τρεις Παραλλαγές Οδηγιών ανά Περίπτωση Χρήσης
  6. Βασικά σημεία

Από το Διάνυσμα στην Απάντηση

Γνωρίζετε πώς να ευρετηριάζετε έγγραφα και να ανακτάτε εκείνα που βρίσκονται πλησιέστερα σε μια ερώτηση. Απομένει ένα βήμα: η μετατροπή μιας λίστας αποσπασμάτων σε μια ευανάγνωστη απάντηση. Αυτό σημαίνει ένεση του ανακτηθέντος συμφραζόμενου σε μια οδηγία (prompt), ώστε το LLM να διατυπώσει μια απάντηση βασισμένη στα δικά σας δεδομένα και όχι στις μνήμες εκπαίδευσής του. Απαιτούνται μόνο λίγες γραμμές κώδικα, αλλά η διαφορά στην ποιότητα είναι καθοριστική. Ένα καλά παρουσιασμένο συμφραζόμενο και μια σαφής οδηγία έχουν την ίδια σημασία με την ακρίβεια της ανάκτησης.

Δημιουργία της Οδηγίας RAG

Η δομή της οδηγίας είναι απλή, αλλά κάθε επιλογή έχει συνέπειες. Αριθμήστε τα αποσπάσματα και επισημάνετέ τα με την πηγή τους, ώστε το μοντέλο να μπορεί να παραθέτει με ακρίβεια. Διαχωρίστε τα με ένα ορατό διαχωριστικό, ---, ώστε το μοντέλο να μην συγχωνεύει δύο αντιφατικά έγγραφα σε έναν μόνο ισχυρισμό. Το σημαντικότερο είναι ότι η οδηγία πρέπει να περιορίζει ρητά την απάντηση στο παρεχόμενο συμφραζόμενο και να επιτρέπει στο μοντέλο να δηλώνει ότι δεν γνωρίζει. Χωρίς αυτή την άδεια, ένα LLM που ερωτάται για ελλείπουσες πληροφορίες θα καλύψει το κενό με ό,τι φαίνεται εύλογο. Αυτός είναι ακριβώς ο μηχανισμός της ψευδαίσθησης (hallucination).

def build_rag_prompt(question, retrieved_chunks):
    """Build the RAG prompt with retrieved context."""
    # Format the context
    context_parts = []
    for i, chunk in enumerate(retrieved_chunks):
        source = chunk.get("source", "unknown source")
        context_parts.append(f"[Document {i+1} - {source}]\n{chunk['text']}")

    context = "\n\n---\n\n".join(context_parts)

    prompt = f"""You are an expert assistant. Answer the question using
ONLY the context provided below. If the information is not in the
context, say so clearly.

## Context

{context}

## Question

{question}

## Answer"""

    return prompt

Δημιουργία της Απάντησης

Η κλήση δημιουργίας είναι απλή: ένα μήνυμα συστήματος που επαναλαμβάνει τον ρόλο και ένα μήνυμα χρήστη που μεταφέρει τη συναρμολογημένη οδηγία. Προσέξτε την παράμετρο θερμοκρασίας (temperature), η οποία ορίζεται εδώ σε 0.1. Στη δημιουργική γραφή, θέλετε ποικιλία· στο RAG, θέλετε το αντίθετο. Θέλετε το μοντέλο να παραμένει όσο το δυνατόν πιο κοντά σε ό,τι λέει το συμφραζόμενο και θέλετε δύο εκτελέσεις για την ίδια ερώτηση να παράγουν την ίδια απάντηση. Μια υψηλή θερμοκρασία θα ωθούσε το μοντέλο να αναδιατυπώσει, να εξάγει συμπεράσματα πέρα από τα δεδομένα και να απομακρυνθεί από την πηγή.

from mistralai.client import Mistral

client = Mistral(api_key=api_key)

def generate_answer(question, retrieved_chunks, model="mistral-large-latest"):
    """Generate a RAG answer with Mistral."""
    prompt = build_rag_prompt(question, retrieved_chunks)

    response = client.chat.complete(
        model=model,
        messages=[
            {
                "role": "system",
                "content": "You are a precise assistant that answers based on the provided context."
            },
            {
                "role": "user",
                "content": prompt,
            }
        ],
        temperature=0.1,  # Low temperature for factual answers
    )

    return response.choices[0].message.content

# Example
question = "What are the main steps of RAG?"
results = search_index(question, index, chunks, k=3)
answer = generate_answer(question, results)
print(answer)

Ενσωμάτωση της Ροής σε μια Κλάση

Οι διάσπαρτες συναρτήσεις λειτουργούν για εξερεύνηση, όχι για παράδοση. Η κλάση RAGPipeline συγκεντρώνει την κατάσταση—τα αποσπάσματα, τον πίνακα ενσωματώσεων και το ευρετήριο FAISS που κατασκευάζεται μία φορά κατά την αρχικοποίηση—και τρεις λειτουργίες: η retrieve κωδικοποιεί την ερώτηση και ερωτά το ευρετήριο, η generate συναρμολογεί την οδηγία και καλεί το μοντέλο, και η ask συνδέει τις δύο. Σημειώστε τι επιστρέφει η ask: όχι μια συμβολοσειρά, αλλά ένα λεξικό που περιέχει την απάντηση, τη λίστα των πηγών και τον αριθμό των αποσπασμάτων που χρησιμοποιήθηκαν. Αυτή η ιχνηλασιμότητα είναι που χωρίζει έναν ελέγξιμο βοηθό από ένα μαύρο κουτί. Την ημέρα που ένας χρήστης αμφισβητήσει μια απάντηση, θα ξέρετε σε ποια αποσπάσματα βασίστηκε.

import numpy as np
import faiss
from mistralai.client import Mistral

client = Mistral(api_key=api_key)

class RAGPipeline:
    """Complete RAG pipeline with Mistral and FAISS."""

    def __init__(self, chunks, embeddings):
        self.chunks = chunks
        self.embeddings = embeddings.astype(np.float32)

        # Create the FAISS index
        dimension = embeddings.shape[1]
        self.index = faiss.IndexFlatL2(dimension)
        self.index.add(self.embeddings)

    def retrieve(self, question, k=3):
        """Step 1: retrieve relevant chunks."""
        response = client.embeddings.create(
            model="mistral-embed",
            inputs=[question],
        )
        query_vector = np.array(
            [response.data[0].embedding], dtype=np.float32
        )

        distances, indices = self.index.search(query_vector, k)

        results = []
        for dist, idx in zip(distances[0], indices[0]):
            if idx >= 0:
                results.append({
                    "text": self.chunks[idx]["text"],
                    "source": self.chunks[idx].get("source", ""),
                    "distance": float(dist),
                })
        return results

    def generate(self, question, context_chunks):
        """Step 2: generate the answer with context."""
        prompt = build_rag_prompt(question, context_chunks)

        response = client.chat.complete(
            model="mistral-large-latest",
            messages=[{"role": "user", "content": prompt}],
            temperature=0.1,
        )
        return response.choices[0].message.content

    def ask(self, question, k=3):
        """Full pipeline: question -> sourced answer."""
        # Retrieval
        context = self.retrieve(question, k=k)

        # Generation
        answer = self.generate(question, context)

        return {
            "question": question,
            "answer": answer,
            "sources": [c["source"] for c in context],
            "n_chunks_used": len(context),
        }

# Usage
rag = RAGPipeline(chunks, embeddings)
result = rag.ask("How does indexing work in FAISS?")

print(f"Question: {result['question']}")
print(f"Answer: {result['answer']}")
print(f"Sources: {result['sources']}")

Τρεις Παραλλαγές Οδηγιών ανά Περίπτωση Χρήσης

Μπορείτε να εξειδικεύσετε τη βασική οδηγία ανάλογα με το τι αναμένετε από τον βοηθό. Εάν οι χρήστες σας πρέπει να επαληθεύουν κάθε ισχυρισμό, ζητήστε ρητά παραπομπές σε αγκύλες. Το μοντέλο τότε συνδέει κάθε πρόταση με ένα αριθμημένο έγγραφο. Εάν η απάντηση τροφοδοτεί μια διεπαφή ή μια αναφορά, μια δομημένη μορφή επιβάλλει σταθερές ενότητες: μια συνοπτική απάντηση, λεπτομέρειες, πηγές και ένα επίπεδο εμπιστοσύνης που αντικατοπτρίζει το πόσο καλά καλύπτει το συμφραζόμενο την ερώτηση. Η τρίτη παραλλαγή παίζει διαφορετικό ρόλο: διδάσκει στο μοντέλο να αναλύει την αβεβαιότητα, διακρίνοντας τι μπορεί να βεβαιώσει, τι λείπει και πού να αναζητήσει στη συνέχεια. Αυτό συχνά παράγει τους πιο χρήσιμους βοηθούς στην πράξη, επειδή το «μου λείπει το Χ» είναι προτιμότερο από μια σίγουρη αλλά λανθασμένη απάντηση.

# 1. Prompt with citation instruction
prompt_cite = """Answer by citing source documents in brackets.
Example: "RAG improves accuracy [Document 1]."

Context: {context}
Question: {question}"""

# 2. Prompt with structured format
prompt_structured = """Answer in the following format:

**Answer**: [your concise answer]
**Details**: [detailed explanation]
**Sources**: [list of documents used]
**Confidence**: [high/medium/low based on context coverage]

Context: {context}
Question: {question}"""

# 3. Prompt with missing-information handling
prompt_honest = """If the context does not contain enough information to
answer completely, state clearly:
- What you can assert with certainty
- What is missing from the context
- Suggestions for obtaining the missing information

Context: {context}
Question: {question}"""

Όσον αφορά τις παραμέτρους κλήσης, τρεις ρυθμίσεις διέπουν τη συμπεριφορά του RAG. Μια χαμηλή θερμοκρασία κλειδώνει την πραγματική έξοδο, το max_tokens αποτρέπει απαντήσεις που εκτρέπονται σε δοκίμια και ένα συντηρητικό top_p περιορίζει το λεξιλόγιο δειγματοληψίας στις πιο πιθανές συνέχειες.

# For RAG, use a low temperature
response = client.chat.complete(
    model="mistral-large-latest",
    messages=[{"role": "user", "content": prompt}],
    temperature=0.1,   # Factual, low creativity
    max_tokens=1024,    # Limit answer length
    top_p=0.95,         # Conservative nucleus sampling
)

Βασικά σημεία

  • Η οδηγία RAG ενσωματώνει το ανακτηθέν συμφραζόμενο πριν από την ερώτηση
  • Χρησιμοποιήστε χαμηλή θερμοκρασία (0.1–0.3) για πραγματικές απαντήσεις
  • Ζητήστε από το μοντέλο να παραθέτει πηγές για ιχνηλασιμότητα
  • Η κλάση RAGPipeline ενσωματώνει την πλήρη ροή: retrieve, generate, ask
  • Διαχειριστείτε περιπτώσεις όπου το συμφραζόμενο στερείται επαρκών πληροφοριών