API Document QnA
Na tejto strane
Lekcia aktualizovaná 3. novembra 2026. Dodatok z 3. novembra 2026: Ak chceš odoslať lokálny súbor PDF, pošli ho zakódovaný ako base64 vo formáte
{"type": "document_url", "document_url": "data:application/pdf;base64,…"}. Typdocument_base64, ktorý sa nachádza v starších príkladoch, v dokumentácii ani v SDKmistralaineexistuje a takéto príklady by zlyhali. Zdroje: OCR Processor · Document QnA.
Pýtaj sa svojich dokumentov prirodzeným jazykom
Document QnA kombinuje OCR s veľkým jazykovým modelom (LLM) od Mistralu, čo ti umožňuje klásť otázky priamo na obsah tvojich dokumentov. Namiesto toho, aby si prechádzal päťdesiat strán hľadajúc konkrétnu klauzulu alebo číslo, jednoducho sa opýtaš a prečítaš si odpoveď. Interné spracovanie prebieha v dvoch krokoch: OCR extrahuje text, štruktúru a formátovanie, následne chatovací model Mistral analyzuje extrahovaný obsah a vygeneruje odpoveď. Táto kombinácia je pre teba transparentná – všetko vybaví jediné volanie API.
Iný koncový bod než pri OCR
Toto je časť, ktorá ľudí pri prvom pokuse často zmätie. Čisté OCR používa client.ocr.process, zatiaľ čo QnA využíva štandardný koncový bod Chat client.chat.complete, pričom správa obsahuje textový blok aj blok document_url. Inými slovami, dokument sa stáva prílohou k tvojej otázke, presne ako obrázok pri multimodálnej komunikácii.
import os
from mistralai.client import Mistral
client = Mistral(api_key=os.environ["MISTRAL_API_KEY"])
# Otázka týkajúca sa verejného dokumentu
response = client.chat.complete(
model="mistral-small-latest",
messages=[
{
"role": "user",
"content": [
{
"type": "text",
"text": "What is the total revenue mentioned?"
},
{
"type": "document_url",
"document_url": "https://example.com/annual-report.pdf"
}
]
}
]
)
print(response.choices[0].message.content)
Tri spôsoby odoslania dokumentu
Verejná URL adresa je najpriamejšia cesta, ideálna pre dokumenty, ktoré sú už dostupné online – napríklad vedecká publikácia, inštitucionálna správa alebo PDF hostené na tvojej webovej stránke.
messages = [
{
"role": "user",
"content": [
{"type": "text", "text": "Summarize the main points."},
{
"type": "document_url",
"document_url": "https://arxiv.org/pdf/1805.04770"
}
]
}
]
response = client.chat.complete(
model="mistral-small-latest",
messages=messages
)
Lokálne súbory sa naopak odosielajú ako base64. Toto je predvolený režim vždy, keď je dokument dôverný alebo uložený za tvojím firewallom; nič nemusí byť zverejnené na webe, aby bolo možné sa ho pýtať.
import base64
with open("contract.pdf", "rb") as f:
doc_base64 = base64.b64encode(f.read()).decode("utf-8")
messages = [
{
"role": "user",
"content": [
{
"type": "text",
"text": "What are the termination clauses?"
},
{
"type": "document_url",
"document_url": f"data:application/pdf;base64,{doc_base64}"
}
]
}
]
response = client.chat.complete(
model="mistral-small-latest",
messages=messages
)
Nakoniec tu je tretia možnosť pre súbory, ktoré už boli nahrané prostredníctvom Files API: nahraješ ich raz s parametrom purpose="ocr" a následne môžeš výsledné ID odkazovať toľkokrát, koľkokrát potrebuješ. Pri dokumente, ktorý plánuješ viackrát analyzovať, tým predídeš opakovanému nahrávaniu niekoľkých megabajtov pri každej otázke.
uploaded = client.files.upload(
file=open("report.pdf", "rb"),
purpose="ocr"
)
messages = [
{
"role": "user",
"content": [
{"type": "text", "text": "What is the planned budget?"},
{"type": "file_id", "file_id": uploaded.id}
]
}
]
response = client.chat.complete(
model="mistral-small-latest",
messages=messages
)
Ktorý chatovací model pre ktorú otázku
Parameter model je na tebe a ovplyvňuje kvalitu odpovede aj cenu.
| Model | Profil | Kedy ho vybrať |
|---|---|---|
mistral-small-latest | Rýchly a ekonomický | Postačuje pre väčšinu otázok |
mistral-medium-latest | Dobrý kompromis | Vyvážená rýchlosť a presnosť |
mistral-large-latest | Presnejší | Zložitá analýza a logické usudzovanie |
Tvoja voľba závisí od zložitosti otázok a tvojho rozpočtu: extrakcia sumy z faktúry si nevyžaduje rovnaký model ako porovnávanie režimov zodpovednosti medzi dvoma zmluvami.
Reťazenie otázok
Nemusíš sa pýtať všetko naraz. Dokument odošleš v prvej správe, pridáš odpoveď modelu do histórie a následnú otázku položíš už len ako text – kontext dokumentu zostáva v konverzácii zachovaný. Toto je prirodzený spôsob preskúmavania správ: začni súhrnom a potom sa ponor hlbšie do bodu, ktorý ťa zaujíma.
history = [
{
"role": "user",
"content": [
{"type": "text", "text": "Summarize this document in 3 points."},
{
"type": "document_url",
"document_url": "https://example.com/report.pdf"
}
]
}
]
# Prvé volanie
response = client.chat.complete(
model="mistral-small-latest",
messages=history
)
# Pridanie odpovede do histórie
history.append({
"role": "assistant",
"content": response.choices[0].message.content
})
# Nadväzujúca otázka
history.append({
"role": "user",
"content": "Detail the second point."
})
response = client.chat.complete(
model="mistral-small-latest",
messages=history
)
print(response.choices[0].message.content)
Čo QnA pre teba neurobí
Predtým, než na tomto postavíš službu, stojí za to poznať štyri obmedzenia. Po prvé, veľkosť: 50 MB na súbor a maximum 1 000 strán, čo vylučuje veľké archívy bez predchádzajúceho rozdelenia. Po druhé, náklady, keďže dlhé dokumenty spotrebujú pri každej otázke veľa vstupných tokenov. Po tretie, chýbajúca trvalá pamäť znamená, že históriu si musíš reconštruovať sám; každé volanie je nezávislé mimo rámca viacťahovej konverzácie. Najzáludnejší je posledný bod: LLM nielen extrahuje, ale aj interpretuje, čo môže viesť k chybám v presných číslach. Pre sumy určené do účtovníctva uprednostni štruktúrovanú anotáciu; QnA si nechaj na pochopenie a syntézu.
Kľúčové poznatky
- Document QnA využíva koncový bod Chat s obsahom
document_url: buď verejnú URL, alebo PDF zakódované v base64 ako dátovú URL - Interný pracovný postup je najprv OCR a potom LLM, ale vyžaduje sa len jedno volanie
- Tri spôsoby odoslania: URL, base64, nahraný súbor
- Viacťahové konverzácie umožňujú hĺbkovú analýzu
- Chatovací model vyberaj podľa zložitosti svojich otázok