Μετάβαση στο κύριο περιεχόμενο
Ελληνικά— Επιλέξτε γλώσσα
Μενού

Πλαίσια RAG: LangChain, LlamaIndex, Haystack

Μάθημα 18 / 18 Ενημερώθηκε 29 Ιουλίου 2026 Για developers
Σε αυτήν τη σελίδα
  1. Πέρα από το RAG από το Μηδέν
  2. LangChain με Mistral
  3. LlamaIndex με Mistral
  4. Haystack με Mistral
  5. Ποιο να Επιλέξετε
  6. Επόμενα Βήματα
  7. Βασικά σημεία
  8. Δοκιμάστε τις Γνώσεις σας

Πέρα από το RAG από το Μηδέν

Έχετε κατασκευάσει έναν πλήρη αγωγό RAG σε καθαρή Python, και αυτός ήταν ο σωστός δρόμος: τώρα γνωρίζετε τι κάνει κάθε γραμμή, πού κρύβονται τα σφάλματα ευθυγράμμισης και γιατί ένα κακώς τμηματοποιημένο κομμάτι καταστρέφει μια απάντηση. Στην παραγωγή, μπορείτε επίσης να βασιστείτε σε ειδικά πλαίσια που αναλαμβάνουν τις τεχνικές λεπτομέρειες και προσθέτουν προηγμένα χαρακτηριστικά. Τα τρία κύρια—LangChain, LlamaIndex και Haystack—είναι όλα συμβατά με το Mistral AI, και η επιλογή μεταξύ τους εξαρτάται λιγότερο από την ποιότητα και περισσότερο από τον τύπο της εφαρμογής που στοχεύετε.

LangChain με Mistral

Το LangChain είναι το πιο δημοφιλές πλαίσιο για εφαρμογές LLM. Η κύρια δύναμή του είναι το εύρος του οικοσυστήματος ενσωμάτωσής του, το οποίο συμπληρώνεται από την ενότητα LangGraph για προηγμένες ροές ελέγχου. Το πακέτο εγκατάστασης περιλαμβάνει τον πυρήνα, τον συνδέσμο Mistral, τις ενσωματώσεις της κοινότητας και το FAISS.

pip install langchain langchain-mistralai langchain-community faiss-cpu

Ο ελάχιστος RAG χωράει τότε σε περίπου τριάντα γραμμές, και το σημείο είναι να δείτε τι έχει εξαφανιστεί σε σύγκριση με τη χειροκίνητη υλοποίησή σας. Η ομαδοποίηση (batching), οι επαναδοκιμές, η μετατροπή σε float32, η ευθυγράμμιση μεταξύ διανυσμάτων και μεταδεδομένων: όλα αυτά απορροφώνται από το FAISS.from_texts. Το RecursiveCharacterTextSplitter αντικαθιστά τις συναρτήσεις τμηματοποίησής σας με τις ίδιες παραμέτρους όπως πριν, 1500 χαρακτήρες και 200 επικάλυψης. Η τελική αλυσίδα γράφεται με τον τελεστή pipe, ο οποίος συνθέτει βήματα από αριστερά προς τα δεξιά: ο retriever τροφοδοτεί το πλαίσιο, το RunnablePassthrough κυκλοφορεί την ερώτηση ως έχει, το prompt τα συναρμολογεί, το μοντέλο παράγει και ο parser εξάγει τη συμβολοσειρά.

from langchain_mistralai import ChatMistralAI, MistralAIEmbeddings
from langchain_community.vectorstores import FAISS
from langchain.text_splitter import RecursiveCharacterTextSplitter
from langchain_core.prompts import ChatPromptTemplate
from langchain_core.output_parsers import StrOutputParser
from langchain_core.runnables import RunnablePassthrough

# Mistral models
embeddings = MistralAIEmbeddings(model="mistral-embed")
llm = ChatMistralAI(model="mistral-large-latest", temperature=0.1)

# Splitting and indexing
splitter = RecursiveCharacterTextSplitter(
    chunk_size=1500,
    chunk_overlap=200,
)
chunks = splitter.split_text(document_text)

# Create the vector store
vectorstore = FAISS.from_texts(chunks, embeddings)
retriever = vectorstore.as_retriever(search_kwargs={"k": 3})

# RAG chain
prompt = ChatPromptTemplate.from_template(
    """Context: {context}

Question: {question}

Answer based on the context."""
)

rag_chain = (
    {"context": retriever, "question": RunnablePassthrough()}
    | prompt
    | llm
    | StrOutputParser()
)

# Usage
answer = rag_chain.invoke("How does FAISS work?")
print(answer)

LangGraph για Διορθωτικό, Αυτόνομο και Προσαρμοστικό RAG

Η γραμμική αλυσίδα παραπάνω λειτουργεί για τυπικό RAG, αλλά δεν μπορεί να κάνει βρόχους ή διακλαδώσεις—ωστόσο αυτό ακριβώς κάνουν οι αρχιτεκτονικές στα προηγούμενα τρία μαθήματα. Το LangGraph αντιμετωπίζει αυτή την ανάγκη ορίζοντας ροές ελέγχου ως γραφήματα. Το typed GraphState λειτουργεί ως κοινή μνήμη: κάθε κόμβος το λαμβάνει, διαβάζει ό,τι χρειάζεται και επιστρέφει τα πεδία που ενημερώνει. Θα αναγνωρίσετε τις δικές σας συναρτήσεις πίσω από τα retrieve_node, grade_node και generate_node, με το grade_document να επαναχρησιμοποιείται ως έχει.

Ο πραγματικά νέος μηχανισμός είναι το add_conditional_edges. Εκεί όπου η κλάση Python σας αλυσίδωνε εντολές if, το γράφημα δηλώνει μια συνάρτηση απόφασης—εδώ route_after_grade—και τον πίνακα των πιθανών προορισμών. Αυτός ο διαχωρισμός μεταξύ της επιχειρηματικής λογικής των κόμβων και της τοπολογίας ροής καθιστά τον αγωγό αναγνώσιμο με μια ματιά και τροποποιήσιμο χωρίς να αγγίξετε τον κώδικα του βήματος. Μόλις μεταγλωττιστεί, το γράφημα καλείται σαν μια απλή συνάρτηση.

from langgraph.graph import StateGraph, END
from typing import TypedDict

class GraphState(TypedDict):
    question: str
    documents: list
    generation: str
    web_search_needed: bool

def retrieve_node(state):
    """Retrieval node."""
    question = state["question"]
    docs = retriever.get_relevant_documents(question)
    return {"documents": docs, "question": question}

def grade_node(state):
    """Document grading node."""
    question = state["question"]
    docs = state["documents"]
    relevant = []
    web_needed = False

    for doc in docs:
        # Use the LLM to evaluate relevance
        grade = grade_document(question, doc.page_content)
        if grade:
            relevant.append(doc)
        else:
            web_needed = True

    return {"documents": relevant, "web_search_needed": web_needed}

def generate_node(state):
    """Generation node."""
    question = state["question"]
    docs = state["documents"]
    context = "\n\n".join([d.page_content for d in docs])
    generation = llm.invoke(f"Context: {context}\n\nQuestion: {question}")
    return {"generation": generation.content}

def route_after_grade(state):
    """Conditional decision after grading."""
    if state["web_search_needed"]:
        return "web_search"
    return "generate"

# Build the graph
workflow = StateGraph(GraphState)

# Add nodes
workflow.add_node("retrieve", retrieve_node)
workflow.add_node("grade", grade_node)
workflow.add_node("generate", generate_node)

# Define the flow
workflow.set_entry_point("retrieve")
workflow.add_edge("retrieve", "grade")
workflow.add_conditional_edges("grade", route_after_grade, {
    "generate": "generate",
    "web_search": "web_search",
})
workflow.add_edge("generate", END)

# Compile
app = workflow.compile()

# Execute
result = app.invoke({"question": "How does RAG work?"})
print(result["generation"])

LlamaIndex με Mistral

Το LlamaIndex ωθεί την αφαίρεση πιο μακριά, καθώς είναι βελτιστοποιημένο ειδικά για RAG και διαχείριση δομημένων εγγράφων.

pip install llama-index llama-index-llms-mistralai llama-index-embeddings-mistralai

Η διαμόρφωση γίνεται μέσω ενός καθολικού αντικειμένου Settings που ορίζει το μοντέλο παραγωγής και το μοντέλο ενσωμάτωσης μια και καλή. Το SimpleDirectoryReader φορτώνει έναν ολόκληρο κατάλογο μαντεύοντας τις μορφές, και το VectorStoreIndex.from_documents αλυσιδώνει την τμηματοποίηση και την κωδικοποίηση χωρίς εσείς να χρειάζεται να τις παραμετροποιήσετε. Το κέρδος σε συντομία είναι πραγματικό, αλλά μετρήστε τι συνεπάγεται: η στρατηγική τμηματοποίησης, την οποία πλέον γνωρίζετε ότι καθορίζει την ποιότητα της ανάκτησης, επιλέγεται εδώ για εσάς. Είναι άνετο για την εκκίνηση, και είναι η πρώτη ρύθμιση που θα χρειαστεί να αναλάβετε ξανά στα χέρια σας την ημέρα που οι απαντήσεις θα απογοητεύσουν. Σημειώστε ότι το response.source_nodes διατηρεί τα μεταδεδομένα, εξ ου και η ιχνηλασιμότητα που υλοποιήσατε χειροκίνητα.

from llama_index.core import VectorStoreIndex, SimpleDirectoryReader
from llama_index.llms.mistralai import MistralAI
from llama_index.embeddings.mistralai import MistralAIEmbedding
from llama_index.core import Settings

# Global configuration
Settings.llm = MistralAI(model="mistral-large-latest", temperature=0.1)
Settings.embed_model = MistralAIEmbedding(model_name="mistral-embed")

# Load documents
documents = SimpleDirectoryReader("./data/").load_data()

# Create the index (automatic chunking + embedding)
index = VectorStoreIndex.from_documents(documents)

# Create the query engine
query_engine = index.as_query_engine(similarity_top_k=3)

# Ask a question
response = query_engine.query("What are the steps of RAG?")
print(response)
print(f"\nSources: {[n.metadata for n in response.source_nodes]}")

Haystack με Mistral

Το Haystack, που αναπτύχθηκε από την deepset, υιοθετεί μια τρίτη φιλοσοφία: αυτή των αρθρωτών αγωγών (pipelines), όπου κάθε συνιστώσα ονομάζεται, προστίθεται και στη συνέχεια συνδέεται ρητά με τους γείτονές της.

pip install haystack-ai mistral-haystack

Ο παρακάτω αγωγός ευρετηρίασης απεικονίζει καλά αυτή την προσέγγιση. Δηλώνονται τρία συστατικά—ο διαχωριστής, ο κωδικοποιητής μέσω MistralDocumentEmbedder και ο εγγραφέας στο αποθετήριο εγγράφων—και στη συνέχεια συνδέονται με κλήσεις connect που καθιστούν ορατή τη ροή δεδομένων στον κώδικα. Αυτή η verbose προσέγγιση, που μπορεί να φαίνεται περιττή σε μια απλή περίπτωση, γίνεται περιουσιακό στοιχείο μόλις ο αγωγός διακλαδωθεί ή χρειαστεί να αντικαταστήσετε έναν σύνδεσμο χωρίς να αγγίξετε τους άλλους. Σημειώστε επίσης τη διάκριση μεταξύ MistralDocumentEmbedder και MistralTextEmbedder: το πρώτο κωδικοποιεί έγγραφα κατά τη στιγμή της ευρετηρίασης, το δεύτερο θα κωδικοποιεί ερωτήματα κατά τη στιγμή της ανάκρισης, ένας διαχωρισμός που αποτρέπει το κλασικό σφάλμα της αντιμετώπισης και των δύο με τον ίδιο τρόπο.

from haystack import Pipeline
from haystack.components.writers import DocumentWriter
from haystack.components.preprocessors import DocumentSplitter
from haystack_integrations.components.embedders.mistral import (
    MistralDocumentEmbedder,
    MistralTextEmbedder,
)
from haystack_integrations.components.generators.mistral import MistralChatGenerator
from haystack.document_stores.in_memory import InMemoryDocumentStore

# Document store
doc_store = InMemoryDocumentStore()

# Indexing pipeline
indexing_pipeline = Pipeline()
indexing_pipeline.add_component("splitter", DocumentSplitter(
    split_by="passage", split_length=5
))
indexing_pipeline.add_component("embedder", MistralDocumentEmbedder(
    model="mistral-embed"
))
indexing_pipeline.add_component("writer", DocumentWriter(
    document_store=doc_store
))

indexing_pipeline.connect("splitter", "embedder")
indexing_pipeline.connect("embedder", "writer")

Ποιο να Επιλέξετε

Κάθε πλαίσιο έχει τα δυνατά του σημεία, και ο παρακάτω πίνακας συνοψίζει τον συμβιβασμό.

FrameworkΚύριο ΠλεονέκτημαΙδανική Χρήση
LangChainΠλουσιότερο οικοσύστημα, LangGraph για σύνθετες ροές ελέγχουΠράκτορες και προηγμένο RAG
LlamaIndexΑπλούστερο για RAG, εγγενής διαχείριση δομημένων εγγράφωνΓρήγορη εκκίνηση, αρχάριοι
HaystackΑρθρωτή προσέγγιση αγωγών, ισχυρό στην αξιολόγησηΑνάπτυξη σε παραγωγή

Επόμενα Βήματα

Έχετε πλέον όλα τα βασικά στοιχεία για να κατασκευάσετε συστήματα RAG με το Mistral AI. Γνωρίζετε πώς να κωδικοποιήσετε κείμενο με το mistral-embed και τις 1024 διαστάσεις του, να κωδικοποιήσετε κώδικα με το codestral-embed και τις διαμορφώσιμες διαστάσεις του έως 3072, να χτίσετε ένα RAG από το μηδέν στο FAISS και το Mistral API, και στη συνέχεια να το θωρακίσετε με αρχιτεκτονικές Διορθωτικού, Αυτόνομου και Προσαρμοστικού RAG. Αυτό το τελικό μάθημα προσθέτει τη διαδρομή των πλαισίων: LangChain, LlamaIndex και Haystack.

Για να προχωρήσετε περισσότερο, εξερευνήστε τα επίσημα cookbooks του Mistral AI καθώς και τα notebooks για κάθε πλαίσιο, τα οποία παρακολουθούν την εξέλιξη του API πιο στενά από οποιοδήποτε μάθημα. Το RAG είναι ένα πεδίο που κινείται γρήγορα: οι τεχνικές τμηματοποίησης, ανάκτησης και επαλήθευσης βελτιώνονται συνεχώς, και είναι ακριβώς επειδή έχετε γράψει κάθε βήμα με το χέρι σας που θα μπορέσετε να αξιολογήσετε το επόμενο που θα εμφανιστεί.

Βασικά σημεία

  • Το LangChain + LangGraph είναι η κύρια επιλογή για προηγμένες ροές ελέγχου RAG
  • Το LlamaIndex είναι το απλούστερο για τυπικό RAG με Mistral
  • Το Haystack διαπρέπει στην αρθρωτότητα και την αξιολόγηση αγωγών
  • Και τα τρία πλαίσια υποστηρίζουν εγγενώς τα mistral-embed και mistral-large
  • Ξεκινήστε με RAG από το μηδέν για να κατανοήσετε, και στη συνέχεια μεταβείτε σε ένα πλαίσιο για την παραγωγή

Δοκιμάστε τις Γνώσεις σας

Ενσωματώσεις, RAG και προηγμένες παραλλαγές: η μεγάλη τελική εξέταση.

1. Ποια είναι τα δύο μοντέλα ενσωμάτωσης της Mistral και σε τι χρησιμεύουν;

Απάντηση: Το mistral-embed για γενικό κείμενο, το codestral-embed για κώδικα—το καθένα προβάλλει τον τομέα του σε έναν χώρο όπου μετριέται η σημασιολογική ομοιότητα.

2. Ποια βήματα αποτελούν τον αγωγό RAG του μαθήματος;

Απάντηση: Προετοιμασία δεδομένων (τμηματοποίηση), δημιουργία ενσωματώσεων, αποθήκευσή τους σε ένα διανυσματικό αποθετήριο (FAISS), και στη συνέχεια ανάκτηση + παραγωγή: η ερώτηση βρίσκει τα περάσματά της, το μοντέλο απαντά βάσει αυτών.

3. Τι διορθώνει το Διορθωτικό RAG (Corrective RAG);

Απάντηση: Τις κακές ανακτήσεις: αξιολογεί τη συνάφεια των ανακτηθέντων περασμάτων και ενεργοποιεί μια διόρθωση (νέα αναζήτηση, αναδιατύπωση) πριν από την παραγωγή—αντί να απαντά σε θόρυβο.

4. Αυτόνομο RAG (Self-RAG) και Προσαρμοστικό RAG (Adaptive RAG): ποια είναι η κοινή ιδέα;

Απάντηση: Να καταστήσετε τον αγωγό στοχαστικό: να αποφασίζετε πότε να ανακτήσετε, να επικρίνετε τις δικές σας εξόδους, να προσαρμόζετε τη στρατηγική στην ερώτηση—το RAG παύει να είναι ένας σταθερός αγωγός.

5. Τι προσφέρουν τα LangChain, LlamaIndex ή Haystack;

Απάντηση: Εργαλεία: έτοιμα συστατικά για εισαγωγή, ευρετήρια, αλυσίδες και αξιολόγηση—χρήσιμα για ταχύτητα, υπό την προϋπόθεση ότι κατανοείτε τι συναρμολογούν (κάτι που σας έχει διδάξει αυτό το μάθημα).

Τώρα γνωρίζετε πώς να χτίσετε ένα RAG με το χέρι και να το αναθέσετε σε ένα πλαίσιο με πλήρη επίγνωση—αυτή είναι η σωστή σειρά.