Küsimused ja vastused mitme dokumendi põhjal
Sellel lehel
Uuendatud 2. novembril 2026 – OCR. OCR 4.0 (
mistral-ocr-4-0) võeti kasutusest välja 30. septembril 2026. Kasuta OCR 4.1 (mistral-ocr-4-1), mis on olnud üldkasutatav alates 31. augustist sama hinnaga, või aliastmistral-ocr-latest, mis on sellele viidanud alates 16. juulist. OCR 4.1 lisab usaldusväärsuse skoorid ploki tasandil. Lisandus 3. novembril 2026: Kohalik PDF edastatakse base64-kodeeringus kujul{"type": "document_url", "document_url": "data:application/pdf;base64,…"}; vanemates näidetes esinenud tüüpdocument_base64ei eksisteeri ei dokumentatsioonis egamistralaiSDK-s ning need näited oleksid nurjunud. Allikad: OCR Processor · Document QnA. Parandatud 3. novembril 2026: Eelnev kood lugespage.document_annotationlehe kaupa;mistralaiSDK versioonis 3.7.0 on dokumendi annotatsioon vastuses üks väli (response.document_annotation) ja pildi annotatsioon loetakse väljaimage.image_annotation.
Kui vastus hõlmab mitut faili
Paljudes professionaalsetes stsenaariumides ei leidu vastust küsimusele ühestainsast dokumendist. Võib olla vaja võrrelda lepinguid, ristviidata arveid tellimustega või analüüsida raportite seeriat. Eksisteerib kolm strateegiat ja parim lähenemine on valida mahust lähtuvalt, mitte haarata kohe kõige keerukama variandi järele.
Saada kõik ühes päringus
Kõige otsesem meetod on paigutada samasse sõnumisse mitu document_url plokki. Mudel näeb mõlemat lepingut kõrvuti ja suudab neid tegelikult võrrelda – midagi, mida lehehaaval töötlemine saavutada ei suuda. Siin lülitume üle mudelile mistral-large-latest, sest võrdlemine eeldab arutlemist, mitte pelgalt lugemist.
import os
from mistralai.client import Mistral
client = Mistral(api_key=os.environ["MISTRAL_API_KEY"])
response = client.chat.complete(
model="mistral-large-latest",
messages=[
{
"role": "user",
"content": [
{
"type": "text",
"text": (
"Compare the payment terms "
"of these two contracts."
)
},
{
"type": "document_url",
"document_url": "https://example.com/contract-A.pdf"
},
{
"type": "document_url",
"document_url": "https://example.com/contract-B.pdf"
}
]
}
]
)
print(response.choices[0].message.content)
Piirang tuleb kiiresti välja: dokumentide summaarne maht ei tohi ületada mudeli kontekstiakent. Kaks kümneleheküljelist brošüüri lähevad läbi ilma probleemideta; kahe sajaleheküljelise raamlepinguga see enam ei õnnestu.
Eralda ekstraheerimine ja päringute esitamine
Suurte mahtude puhul on soovitatav strateegia need kaks sammu lahutada. Saadad iga dokumendi läbi OCR-i, säilitad saadud Markdowni ja seejärel konstrueerid käsitsi LLM-ile saadetava konteksti. Kasu seisneb kontrollis: näites nähtav kärpimine 5000 märgini, iga dokumendi nime säilitamine jaotisena ning süsteemsõnum, mis määratleb rolli juriidilise assistendina. Sina otsustad täpselt, mis kontekstiaknasse satub, selle asemel et lasta sellel automaatselt juhtuda.
import os
from mistralai.client import Mistral
client = Mistral(api_key=os.environ["MISTRAL_API_KEY"])
def extract_text(url: str) -> str:
"""Extracts text from a document via OCR."""
response = client.ocr.process(
model="mistral-ocr-latest",
document={"type": "document_url", "document_url": url}
)
return "\n\n".join(p.markdown for p in response.pages)
# OCR extraction for each document
documents = {
"Contract A": extract_text("https://example.com/contract-A.pdf"),
"Contract B": extract_text("https://example.com/contract-B.pdf"),
"Contract C": extract_text("https://example.com/contract-C.pdf"),
}
# Build the prompt with context
context = "\n\n---\n\n".join(
f"## {name}\n\n{text[:5000]}" # Limit if necessary
for name, text in documents.items()
)
response = client.chat.complete(
model="mistral-large-latest",
messages=[
{
"role": "system",
"content": (
"You are a legal assistant. Analyze the "
"provided documents and answer questions."
)
},
{
"role": "user",
"content": (
f"Here are the documents:\n\n{context}\n\n"
f"Question: Which contract offers the best "
f"early termination conditions?"
)
}
]
)
Liigu dokumendi RAG-i juurde
Kui dokumente on rohkem kui paar tosinat, ei piisa ükski kontekstiaken. Siis tuleb saata ainult asjakohased lõigud, mis eeldab tekstide tükeldamist, nende vektoriseerimist mudeliga mistral-embed ja sarnasuse põhjal otsimist päringu esitamise ajal. Tükeldamine 200-märgilise kattumisega hoiab ära olukorra, kus poolikuks jäänud lause kaotaks tükkide vahel oma tähenduse, ja top_k määrab, mitu lõiku lõpuks küsimusele kaasa antakse.
import os
from mistralai.client import Mistral
client = Mistral(api_key=os.environ["MISTRAL_API_KEY"])
def create_embeddings(text: str) -> list[float]:
"""Creates embeddings for a text."""
response = client.embeddings.create(
model="mistral-embed",
inputs=[text]
)
return response.data[0].embedding
def chunker(text: str, size: int = 1000, overlap: int = 200) -> list[str]:
"""Splits text into chunks with overlap."""
chunks = []
start = 0
while start < len(text):
end = start + size
chunk = text[start:end]
chunks.append(chunk)
start = end - overlap
return chunks
# Simplified RAG pipeline
def index_document(name: str, text: str) -> list[dict]:
"""Indexes a document for search."""
chunks = chunker(text)
index = []
for i, chunk in enumerate(chunks):
embedding = create_embeddings(chunk)
index.append({
"document": name,
"chunk_id": i,
"text": chunk,
"embedding": embedding
})
return index
def search(query: str, index: list[dict], top_k: int = 5) -> list[dict]:
"""Searches for the most relevant chunks."""
q_embedding = create_embeddings(query)
# Cosine similarity calculation
import numpy as np
scores = []
for item in index:
score = np.dot(q_embedding, item["embedding"])
scores.append((score, item))
scores.sort(key=lambda x: x[0], reverse=True)
return [item for _, item in scores[:top_k]]
Võtame kokku valikuloogika. Mitme dokumendi saatmine ühes päringus on lihtsuse poolest ületamatu ja toimib hästi kahe või kolme lühikese dokumendi puhul. Eraldi OCR koos järgneva küsimuste ja vastustega pakub paindlikkust ja annab sulle kontrolli selle üle, mida LLM-ile saadetakse, kuigi see nõuab veidi rohkem koodi. Dokumendi RAG on seadistamiseks mahukam, kuid muutub korpuse kasvades hädavajalikuks, sest see on ainus skaalautuv lähenemine.
Terviklik võrdlustöövoog
Mõlemat tehnikat saab kombineerida: miski ei takista sul esmalt ekstraheerida struktureeritud andmeid annotatsiooni kaudu ja seejärel anda need andmed analüüsiks LLM-ile. Arvete partiis taandatakse iga dokument kolmele väljale – müüja, summa, kuupäev – enne kui üksainus päring palub mudelil tuvastada trende ja anomaaliaid. Tokenite kulu muutub tühiseks ja analüüs keskendub puhtalt ekstraheeritud numbritele, mitte reaalajas tõlgendatavale tekstile.
import os
from pydantic import BaseModel, Field
from mistralai.client import Mistral
from mistralai.extra import response_format_from_pydantic_model
client = Mistral(api_key=os.environ["MISTRAL_API_KEY"])
class InvoiceSummary(BaseModel):
vendor: str = Field(..., description="Vendor name")
amount_inc_tax: float = Field(..., description="Amount including tax")
date: str = Field(..., description="Date (YYYY-MM-DD)")
def compare_invoices(paths: list[str]) -> str:
"""Compares multiple invoices and returns an analysis."""
import base64
invoices = []
for path in paths:
with open(path, "rb") as f:
doc_b64 = base64.b64encode(f.read()).decode("utf-8")
response = client.ocr.process(
model="mistral-ocr-latest",
document={
"type": "document_url",
"document_url": f"data:application/pdf;base64,{doc_b64}"
},
document_annotation_format=response_format_from_pydantic_model(
InvoiceSummary
)
)
if response.document_annotation:
invoice = InvoiceSummary.model_validate_json(
response.document_annotation
)
invoices.append(invoice)
# Comparative analysis via LLM
summary = "\n".join(
f"- {f.vendor}: €{f.amount_inc_tax} ({f.date})"
for f in invoices
)
response = client.chat.complete(
model="mistral-small-latest",
messages=[
{
"role": "user",
"content": (
f"Here are {len(invoices)} invoices:\n{summary}\n\n"
f"Analyze trends and anomalies."
)
}
]
)
return response.choices[0].message.content
Peamised punktid
- Kolm lähenemist mitme dokumendi küsimustele ja vastustele: sisene, eraldatud OCR, RAG
- Sisene lähenemine toimib 2–3 lühikese dokumendi puhul
- Eraldi OCR + küsimused ja vastused pakub suuremat kontrolli tarbitud tokenite üle
- RAG on hädavajalik suurte korpuste jaoks (kümned dokumendid)
- Kombineeri struktureeritud annotatsioone küsimuste ja vastustega täpsete analüüside jaoks