QnA s više dokumenata
Na ovoj stranici
Ažurirano 2. studenoga 2026. — OCR. OCR 4.0 (
mistral-ocr-4-0) povučen je 30. rujna 2026. Koristi OCR 4.1 (mistral-ocr-4-1), koji je općenito dostupan od 31. kolovoza po istoj cijeni, ili aliasmistral-ocr-latest, koji na njega pokazuje od 16. srpnja. OCR 4.1 dodaje ocjene pouzdanosti na razini blokova. Dodatak 3. studenoga 2026.: Lokalni PDF prenosi se u base64 formatu kao{"type": "document_url", "document_url": "data:application/pdf;base64,…"}; tipdocument_base64iz starijih primjera ne postoji ni u dokumentaciji ni umistralaiSDK-u, pa bi ti primjeri nisu radili. Izvori: OCR Processor · Document QnA. Ispravljeno 3. studenoga 2026.: Kod je prethodno čitaopage.document_annotationstranicu po stranicu; umistralaiSDK-u 3.7.0, anotacija dokumenta jedno je polje u odgovoru (response.document_annotation), a anotacija slike čita se izimage.image_annotation.
Kada odgovor obuhvaća više datoteka
U mnogim profesionalnim scenarijima odgovor na pitanje ne nalazi se u jednom dokumentu. Možda ćeš trebati usporediti ugovore, unakrsno provjeriti račune s narudžbenicama ili analizirati niz izvješća. Postoje tri strategije, a najbolji pristup je odabrati onu temeljem volumena podataka, umjesto da odmah posegneš za najsofisticiranijom opcijom.
Pošalji sve u jednom pozivu
Najizravnija metoda je slaganje više blokova document_url u istu poruku. Model vidi oba ugovora jedan do drugoga i može ih stvarno usporediti, što obrada stranica po stranicu ne može postići. Ovdje prelazimo na mistral-large-latest jer usporedba uključuje rezoniranje, a ne samo čitanje.
import os
from mistralai.client import Mistral
client = Mistral(api_key=os.environ["MISTRAL_API_KEY"])
response = client.chat.complete(
model="mistral-large-latest",
messages=[
{
"role": "user",
"content": [
{
"type": "text",
"text": (
"Compare the payment terms "
"of these two contracts."
)
},
{
"type": "document_url",
"document_url": "https://example.com/contract-A.pdf"
},
{
"type": "document_url",
"document_url": "https://example.com/contract-B.pdf"
}
]
}
]
)
print(response.choices[0].message.content)
Ograničenje se brzo pojavljuje: zbroj veličina dokumenata ne smije prijeći kontekstni prozor modela. Dvije brošure od deset stranica proći će bez problema; dva okvirna ugovora od dvjesto stranica neće.
Odvoji ekstrakciju od upita
Za velike volumene preporučena strategija razdvaja ova dva koraka. Svaki dokument proslijediš kroz OCR, zadržiš rezultirajući Markdown, a zatim ručno konstruiraš kontekst koji šalješ LLM-u. Prednost je kontrola: skraćivanje na 5000 znakova vidljivo u primjeru, zadržavanje naziva svakog dokumenta kao naslova odjeljka i sistemska poruka koja uspostavlja ulogu pravnog asistenta. Ti odlučuješ što točno ulazi u kontekstni prozor umjesto da to prepustiš automatizmu.
import os
from mistralai.client import Mistral
client = Mistral(api_key=os.environ["MISTRAL_API_KEY"])
def extract_text(url: str) -> str:
"""Extracts text from a document via OCR."""
response = client.ocr.process(
model="mistral-ocr-latest",
document={"type": "document_url", "document_url": url}
)
return "\n\n".join(p.markdown for p in response.pages)
# OCR extraction for each document
documents = {
"Contract A": extract_text("https://example.com/contract-A.pdf"),
"Contract B": extract_text("https://example.com/contract-B.pdf"),
"Contract C": extract_text("https://example.com/contract-C.pdf"),
}
# Build the prompt with context
context = "\n\n---\n\n".join(
f"## {name}\n\n{text[:5000]}" # Limit if necessary
for name, text in documents.items()
)
response = client.chat.complete(
model="mistral-large-latest",
messages=[
{
"role": "system",
"content": (
"You are a legal assistant. Analyze the "
"provided documents and answer questions."
)
},
{
"role": "user",
"content": (
f"Here are the documents:\n\n{context}\n\n"
f"Question: Which contract offers the best "
f"early termination conditions?"
)
}
]
)
Prijeđi na Document RAG
Kada prijeđeš nekoliko desetaka dokumenata, nijedan kontekstni prozor neće biti dovoljan. Tada moraš poslati samo relevantne odlomke, što zahtijeva cijepanje tekstova, njihovu vektorizaciju pomoću mistral-embed i pretraživanje po sličnosti u trenutku upita. Cijepanje s preklapanjem od 200 znakova sprječava da rečenica presječena na pola izgubi značenje između dijelova, a top_k određuje koliko će odlomaka na kraju pratiti pitanje.
import os
from mistralai.client import Mistral
client = Mistral(api_key=os.environ["MISTRAL_API_KEY"])
def create_embeddings(text: str) -> list[float]:
"""Creates embeddings for a text."""
response = client.embeddings.create(
model="mistral-embed",
inputs=[text]
)
return response.data[0].embedding
def chunker(text: str, size: int = 1000, overlap: int = 200) -> list[str]:
"""Splits text into chunks with overlap."""
chunks = []
start = 0
while start < len(text):
end = start + size
chunk = text[start:end]
chunks.append(chunk)
start = end - overlap
return chunks
# Simplified RAG pipeline
def index_document(name: str, text: str) -> list[dict]:
"""Indexes a document for search."""
chunks = chunker(text)
index = []
for i, chunk in enumerate(chunks):
embedding = create_embeddings(chunk)
index.append({
"document": name,
"chunk_id": i,
"text": chunk,
"embedding": embedding
})
return index
def search(query: str, index: list[dict], top_k: int = 5) -> list[dict]:
"""Searches for the most relevant chunks."""
q_embedding = create_embeddings(query)
# Cosine similarity calculation
import numpy as np
scores = []
for item in index:
score = np.dot(q_embedding, item["embedding"])
scores.append((score, item))
scores.sort(key=lambda x: x[0], reverse=True)
return [item for _, item in scores[:top_k]]
Da sumiramo logiku odabira. Slanje više dokumenata u jednom pozivu ostaje nepobjedivo po jednostavnosti i dobro funkcionira za dva ili tri kratka dokumenta. Odvojeni OCR praćen QnA-om pruža fleksibilnost i daje ti kontrolu nad onim što se šalje LLM-u, uz cijenu dodatnog koda. Document RAG zahtijeva složeniju postavku, ali postaje nužan kako korpus raste jer je to jedini pristup koji se skalira.
Radni tijek end-to-end usporedbe
Dvije se tehnike mogu kombinirati: ništa te ne sprječava da prvo ekstrahiraš strukturirane podatke putem anotacije, a zatim te podatke predaš LLM-u na analizu. Na seriji računa svaki se dokument svodi na tri polja—dobavljač, iznos, datum—prije nego što jedan zahtjev zamoli model da identificira trendove i anomalije. Trošak tokena postaje zanemariv, a analiza se fokusira na čisto ekstrahirane brojke umjesto na tekst interpretiran u stvarnom vremenu.
import os
from pydantic import BaseModel, Field
from mistralai.client import Mistral
from mistralai.extra import response_format_from_pydantic_model
client = Mistral(api_key=os.environ["MISTRAL_API_KEY"])
class InvoiceSummary(BaseModel):
vendor: str = Field(..., description="Vendor name")
amount_inc_tax: float = Field(..., description="Amount including tax")
date: str = Field(..., description="Date (YYYY-MM-DD)")
def compare_invoices(paths: list[str]) -> str:
"""Compares multiple invoices and returns an analysis."""
import base64
invoices = []
for path in paths:
with open(path, "rb") as f:
doc_b64 = base64.b64encode(f.read()).decode("utf-8")
response = client.ocr.process(
model="mistral-ocr-latest",
document={
"type": "document_url",
"document_url": f"data:application/pdf;base64,{doc_b64}"
},
document_annotation_format=response_format_from_pydantic_model(
InvoiceSummary
)
)
if response.document_annotation:
invoice = InvoiceSummary.model_validate_json(
response.document_annotation
)
invoices.append(invoice)
# Comparative analysis via LLM
summary = "\n".join(
f"- {f.vendor}: €{f.amount_inc_tax} ({f.date})"
for f in invoices
)
response = client.chat.complete(
model="mistral-small-latest",
messages=[
{
"role": "user",
"content": (
f"Here are {len(invoices)} invoices:\n{summary}\n\n"
f"Analyze trends and anomalies."
)
}
]
)
return response.choices[0].message.content
Ključne točke
- Tri pristupa za QnA s više dokumenata: u liniji, odvojeni OCR, RAG
- Pristup u liniji funkcionira za 2–3 kratka dokumenta
- Odvojeni OCR + QnA nudi veću kontrolu nad potrošenim tokenima
- RAG je nužan za velike korpuse (deseci dokumenata)
- Kombiniraj strukturirane anotacije s QnA-om za precizne analize