A Document QnA API
Ezen az oldalon
Lecke frissítve: 2026. november 3. Kiegészítés 2026. november 3-án: Helyi PDF küldéséhez továbbítsd azt base64 formátumban a következő szerkezetben:
{"type": "document_url", "document_url": "data:application/pdf;base64,…"}. A régebbi példákban szereplődocument_base64típus nem létezik sem a dokumentációban, sem amistralaiSDK-ban; az ilyen példák hibát okoztak volna. Források: OCR Processor · Document QnA.
Dokumentumaid lekérdezése természetes nyelven
A Document QnA az OCR technológiát egyesíti egy Mistral LLM-mel, lehetővé téve, hogy közvetlenül kérdéseket tegyél fel a dokumentumaid tartalmával kapcsolatban. Ahelyett, hogy ötven oldalon keresztül keresgélnél egy konkrét záradék vagy szám után, egyszerűen felteszed a kérdést, és elolvasod a választ. A szolgáltatás belsőleg két lépésben működik: az OCR kinyeri a szöveget, a szerkezetet és a formázást, majd egy Mistral chat-modell elemzi a kinyert tartalmat, hogy generálja a választ. Ez a kombináció számodra átlátható – egyetlen API-hívás mindent intéz.
Egy másik végpont, mint az OCR-nél
Ez az a rész, ahol az emberek többsége először elakad. A tiszta OCR a client.ocr.process metódust használja, míg a QnA a szabványos Chat végpontot, a client.chat.complete-et hívja meg, olyan üzenettel, amely egyszerre tartalmaz szöveges blokkot és egy document_url blokkot. Más szóval: a dokumentum a kérdésed mellékletévé válik, akárcsak egy kép egy multimodális beszélgetésben.
import os
from mistralai.client import Mistral
client = Mistral(api_key=os.environ["MISTRAL_API_KEY"])
# Kérdés egy nyilvános dokumentumról
response = client.chat.complete(
model="mistral-small-latest",
messages=[
{
"role": "user",
"content": [
{
"type": "text",
"text": "What is the total revenue mentioned?"
},
{
"type": "document_url",
"document_url": "https://example.com/annual-report.pdf"
}
]
}
]
)
print(response.choices[0].message.content)
Három módszer a dokumentum elküldésére
A nyilvános URL a legközvetlenebb út, ideális olyan dokumentumokhoz, amelyek már elérhetők online – például tudományos publikációk, intézményi jelentések vagy a weboldaladon tárolt PDF-ek.
messages = [
{
"role": "user",
"content": [
{"type": "text", "text": "Summarize the main points."},
{
"type": "document_url",
"document_url": "https://arxiv.org/pdf/1805.04770"
}
]
}
]
response = client.chat.complete(
model="mistral-small-latest",
messages=messages
)
A helyi fájlokat ezzel szemben base64 kódolással küldöd el. Ez az alapértelmezett mód, amikor a dokumentum bizalmas, vagy tűzfal mögött tárolod; semmit nem kell közzétenni a weben ahhoz, hogy lekérdezd.
import base64
with open("contract.pdf", "rb") as f:
doc_base64 = base64.b64encode(f.read()).decode("utf-8")
messages = [
{
"role": "user",
"content": [
{
"type": "text",
"text": "What are the termination clauses?"
},
{
"type": "document_url",
"document_url": f"data:application/pdf;base64,{doc_base64}"
}
]
}
]
response = client.chat.complete(
model="mistral-small-latest",
messages=messages
)
Végül létezik egy harmadik lehetőség is a Files API-n keresztül már feltöltött fájlok esetén: egyszer feltöltöd a fájlt a purpose="ocr" paraméterrel, majd a kapott azonosítót (ID) annyiszor hivatkozod meg, ahányszor csak szükséges. Ha egy dokumentumot többször is le szeretnél kérdezni, ezzel elkerülheted, hogy minden egyes kérdéskor újra feltölts több megabájtnyi adatot.
uploaded = client.files.upload(
file=open("report.pdf", "rb"),
purpose="ocr"
)
messages = [
{
"role": "user",
"content": [
{"type": "text", "text": "What is the planned budget?"},
{"type": "file_id", "file_id": uploaded.id}
]
}
]
response = client.chat.complete(
model="mistral-small-latest",
messages=messages
)
Melyik chat-modellt válaszd melyik kérdéshez?
A model paraméter rajtad múlik, és ez befolyásolja mind a válaszok minőségét, mind a költségeket.
| Modell | Profil | Mikor válaszd? |
|---|---|---|
mistral-small-latest | Gyors és gazdaságos | A legtöbb kérdéshez elegendő |
mistral-medium-latest | Jó kompromisszum | Kiegyensúlyozott sebesség és pontosság |
mistral-large-latest | Pontosabb | Komplex elemzés és következtetés igénye esetén |
A választásod a kérdéseid összetettségétől és a költségkeretedtől függ: egy számláról történő összeg kinyeréséhez nem ugyanaz a modell szükséges, mint két szerződés felelősségi rendszereinek összehasonlításához.
Kérdések láncolása
Nem kell mindent egyszerre megkérdezned. Elküldöd a dokumentumot az első üzenetben, hozzáadod a modell válaszát az előzményekhez, majd a követő kérdésedet már csak szöveges formában teszed fel: a dokumentum kontextusa megmarad a beszélgetésben. Ez a természetes módja egy jelentés feltárásának – kezdj egy összefoglalóval, majd mélyülj el abban a pontban, amely érdekel.
history = [
{
"role": "user",
"content": [
{"type": "text", "text": "Summarize this document in 3 points."},
{
"type": "document_url",
"document_url": "https://example.com/report.pdf"
}
]
}
]
# Első hívás
response = client.chat.complete(
model="mistral-small-latest",
messages=history
)
# Válasz hozzáadása az előzményekhez
history.append({
"role": "assistant",
"content": response.choices[0].message.content
})
# Követő kérdés
history.append({
"role": "user",
"content": "Detail the second point."
})
response = client.chat.complete(
model="mistral-small-latest",
messages=history
)
print(response.choices[0].message.content)
Amit a QnA nem végez el helyetted
Négy korlátozást érdemes ismerned, mielőtt szolgáltatást építenél erre az alapra. Először is a méret: fájlonként maximum 50 MB és 1000 oldal, ami kizárja a nagy archívumok előzetes felosztás nélküli feldolgozását. Másodszor a költség, mivel a hosszú dokumentumok minden egyes kérdéskor sok bemeneti tokent emésztenek fel. Harmadszor a tartós memória hiánya: magadnak kell felépítened az előzményeket; minden hívás független, kivéve a több körös beszélgetéseken belül. A legtrükkösebb pont az utolsó: az LLM nemcsak kinyer, hanem értelmez is, ami pontatlan számok esetén hibákhoz vezethet. Ha egy összeget könyvelési célokra használsz, részesítsd előnyben a strukturált annotációt; a QnA-t hagyd meg a megértésre és az összefoglalásra.
Főbb megállapítások
- A Document QnA a Chat végpontot használja
document_urltartalommal: ez lehet nyilvános URL vagy base64-kódolt PDF adat-URL-ként - A belső munkafolyamat először OCR, majd LLM, de csak egyetlen hívás szükséges
- Három küldési módszer: URL, base64, feltöltött fájl
- A több körös beszélgetések lehetővé teszik a mélyreható elemzést
- A kérdéseid összetettsége alapján válaszd ki a megfelelő chat-modellt