Többdokumentumos kérdés-válasz
Ezen az oldalon
Frissítve: 2026. november 2. — OCR. Az OCR 4.0 (
mistral-ocr-4-0) modell támogatása 2026. szeptember 30-án megszűnt. Használd az OCR 4.1 (mistral-ocr-4-1) verziót, amely augusztus 31. óta általánosan elérhető ugyanazon az áron, vagy amistral-ocr-latestaliast, amely július 16. óta erre mutat. Az OCR 4.1 blokk szintű megbízhatósági pontszámokat (confidence scores) is biztosít. Kiegészítés: 2026. november 3.: A helyi PDF fájlokat base64 kódolással kell elküldeni a következő formátumban:{"type": "document_url", "document_url": "data:application/pdf;base64,…"}; a régebbi példákban szereplődocument_base64típus sem a dokumentációban, sem amistralaiSDK-ban nem létezik, és ezek a példák hibát okoztak volna. Források: OCR Processzor · Dokumentum QnA. Javítva: 2026. november 3.: A korábbi kód oldalanként olvasta apage.document_annotationmezőt; amistralaiSDK 3.7.0 verziójában a dokumentum annotáció egyetlen mező a válaszban (response.document_annotation), míg a kép annotációja azimage.image_annotationmezőből olvasható.
Amikor a válasz több fájlt érint
Számos szakmai helyzetben a kérdésre adott válasz nem egyetlen dokumentumban található meg. Előfordulhat, hogy szerződéseket kell összehasonlítanod, számlákat kell összevetned a megrendelésekkel, vagy jelentések sorozatát kell elemezned. Három stratégia létezik, és a legjobb megközelítés kiválasztásánál a dokumentumok mennyisége alapján döntsd el a módszert, ne pedig automatikusan a legbonyolultabb megoldást válaszd.
Minden elküldése egyetlen hívásban
A legközvetlenebb módszer, ha több document_url blokkot halmozol fel ugyanabban az üzenetben. A modell így egyszerre látja mindkét szerződést, és képes valódi összehasonlítást végezni, amit az oldalankénti feldolgozás nem tesz lehetővé. Itt a mistral-large-latest modellre váltunk, mert az összehasonlítás következtetést igényel, nem csupán olvasást.
import os
from mistralai.client import Mistral
client = Mistral(api_key=os.environ["MISTRAL_API_KEY"])
response = client.chat.complete(
model="mistral-large-latest",
messages=[
{
"role": "user",
"content": [
{
"type": "text",
"text": (
"Compare the payment terms "
"of these two contracts."
)
},
{
"type": "document_url",
"document_url": "https://example.com/contract-A.pdf"
},
{
"type": "document_url",
"document_url": "https://example.com/contract-B.pdf"
}
]
}
]
)
print(response.choices[0].message.content)
A korlát hamar megjelenik: a dokumentumok összterjedelme nem haladhatja meg a modell kontextusablakának méretét. Két tízoldalas brosúra gond nélkül átmegy; két százoldalos keretszerződés már nem.
A kinyerés és a lekérdezés szétválasztása
Nagyobb mennyiségű adat esetén a javasolt stratégia e két lépés szétválasztása. Minden dokumentumot átengedsz az OCR-en, megőrzöd a kapott Markdown szöveget, majd manuálisan építed fel az LLM-nek küldendő kontextust. Ennek előnye a kontroll: a példában látható 5000 karakteres levágás, minden dokumentum nevének szakaszcímként való megtartása, valamint a rendszerüzenet, amely jogi asszisztens szerepet határoz meg. Te döntöd el pontosan, mi kerül a kontextusablakba, ahelyett, hogy ezt automatikusra bíznád.
import os
from mistralai.client import Mistral
client = Mistral(api_key=os.environ["MISTRAL_API_KEY"])
def extract_text(url: str) -> str:
"""Extracts text from a document via OCR."""
response = client.ocr.process(
model="mistral-ocr-latest",
document={"type": "document_url", "document_url": url}
)
return "\n\n".join(p.markdown for p in response.pages)
# OCR kinyerés minden dokumentumhoz
documents = {
"Contract A": extract_text("https://example.com/contract-A.pdf"),
"Contract B": extract_text("https://example.com/contract-B.pdf"),
"Contract C": extract_text("https://example.com/contract-C.pdf"),
}
# A prompt felépítése kontextussal
context = "\n\n---\n\n".join(
f"## {name}\n\n{text[:5000]}" # Szükség esetén korlátozás
for name, text in documents.items()
)
response = client.chat.complete(
model="mistral-large-latest",
messages=[
{
"role": "system",
"content": (
"You are a legal assistant. Analyze the "
"provided documents and answer questions."
)
},
{
"role": "user",
"content": (
f"Here are the documents:\n\n{context}\n\n"
f"Question: Which contract offers the best "
f"early termination conditions?"
)
}
]
)
Áttérés dokumentum-alapú RAG-ra
Néhány tucat dokumentum felett egyetlen kontextusablak sem lesz elegendő. Ilyenkor csak a releváns részleteket kell elküldened, amihez szövegdarabokra (chunk) kell bontanod a szövegeket, vektorizálnod kell őket a mistral-embed modellel, majd hasonlóság alapján keresned lekérdezéskor. A 200 karakteres átfedéssel történő darabolás megakadályozza, hogy egy félbevágott mondat elveszítse jelentését a darabok között, a top_k paraméter pedig meghatározza, hány részlet kíséri majd végül a kérdést.
import os
from mistralai.client import Mistral
client = Mistral(api_key=os.environ["MISTRAL_API_KEY"])
def create_embeddings(text: str) -> list[float]:
"""Creates embeddings for a text."""
response = client.embeddings.create(
model="mistral-embed",
inputs=[text]
)
return response.data[0].embedding
def chunker(text: str, size: int = 1000, overlap: int = 200) -> list[str]:
"""Splits text into chunks with overlap."""
chunks = []
start = 0
while start < len(text):
end = start + size
chunk = text[start:end]
chunks.append(chunk)
start = end - overlap
return chunks
# Egyszerűsített RAG folyamat
def index_document(name: str, text: str) -> list[dict]:
"""Indexes a document for search."""
chunks = chunker(text)
index = []
for i, chunk in enumerate(chunks):
embedding = create_embeddings(chunk)
index.append({
"document": name,
"chunk_id": i,
"text": chunk,
"embedding": embedding
})
return index
def search(query: str, index: list[dict], top_k: int = 5) -> list[dict]:
"""Searches for the most relevant chunks."""
q_embedding = create_embeddings(query)
# Koszinusz hasonlóság számítása
import numpy as np
scores = []
for item in index:
score = np.dot(q_embedding, item["embedding"])
scores.append((score, item))
scores.sort(key=lambda x: x[0], reverse=True)
return [item for _, item in scores[:top_k]]
Foglaljuk össze a választási logikát. Több dokumentum elküldése egyetlen hívásban az egyszerűség szempontjából verhetetlen, és jól működik két-három rövid dokumentum esetén. A különálló OCR, majd azt követő kérdés-válasz folyamat nagyobb rugalmasságot biztosít, és kontrollt ad az LLM-nek küldött adatok felett, bár ez némi plusz kódot igényel. A dokumentum-alapú RAG nehezebben állítható be, de a gyűjtemény növekedésével elengedhetetlenné válik, mivel ez az egyetlen módszer, amely skálázható.
End-to-end összehasonlító munkafolyamat
A két technika kombinálható: semmi akadálya annak, hogy először strukturált adatokat nyerj ki annotáció segítségével, majd ezeket az adatokat átadd az LLM-nek elemzésre. Egy számlatétel esetén minden dokumentumot három mezőre redukálhatsz – szállító, összeg, dátum –, mielőtt egyetlen kéréssel megkérnéd a modellt a trendek és anomáliák azonosítására. A tokenköltség elhanyagolhatóvá válik, az elemzés pedig a tisztán kinyert számokra fókuszál, nem pedig a menet közben értelmezett szövegre.
import os
from pydantic import BaseModel, Field
from mistralai.client import Mistral
from mistralai.extra import response_format_from_pydantic_model
client = Mistral(api_key=os.environ["MISTRAL_API_KEY"])
class InvoiceSummary(BaseModel):
vendor: str = Field(..., description="Vendor name")
amount_inc_tax: float = Field(..., description="Amount including tax")
date: str = Field(..., description="Date (YYYY-MM-DD)")
def compare_invoices(paths: list[str]) -> str:
"""Compares multiple invoices and returns an analysis."""
import base64
invoices = []
for path in paths:
with open(path, "rb") as f:
doc_b64 = base64.b64encode(f.read()).decode("utf-8")
response = client.ocr.process(
model="mistral-ocr-latest",
document={
"type": "document_url",
"document_url": f"data:application/pdf;base64,{doc_b64}"
},
document_annotation_format=response_format_from_pydantic_model(
InvoiceSummary
)
)
if response.document_annotation:
invoice = InvoiceSummary.model_validate_json(
response.document_annotation
)
invoices.append(invoice)
# Összehasonlító elemzés LLM-mel
summary = "\n".join(
f"- {f.vendor}: €{f.amount_inc_tax} ({f.date})"
for f in invoices
)
response = client.chat.complete(
model="mistral-small-latest",
messages=[
{
"role": "user",
"content": (
f"Here are {len(invoices)} invoices:\n{summary}\n\n"
f"Analyze trends and anomalies."
)
}
]
)
return response.choices[0].message.content
Főbb megállapítások
- Három megközelítés létezik többdokumentumos kérdés-válaszhoz: beágyazott, különálló OCR, RAG
- A beágyazott megközelítés 2–3 rövid dokumentum esetén működik jól
- A különálló OCR + kérdés-válasz nagyobb kontrollt biztosít a felhasznált tokenek felett
- A RAG elengedhetetlen nagy gyűjtemények esetén (több tucat dokumentum)
- Kombináld a strukturált annotációkat a kérdés-válasz funkcióval a pontos elemzések érdekében