API za vprašanja in odgovore o dokumentih (Document QnA)
Na tej strani
Posodobitev lekcije: 3. november 2026. Dodatek z dne 3. novembra 2026: Za pošiljanje lokalnega PDF-ja ga prenesite kot base64 v formatu
{"type": "document_url", "document_url": "data:application/pdf;base64,…"}. Tipdocument_base64, ki ga najdemo v starejših primerih, ne obstaja niti v dokumentaciji niti v SDK-jumistralai, zato bi ti primeri spodleteli. Viri: OCR Processor · Document QnA.
Povpraševanje po vaših dokumentih v naravnem jeziku
Document QnA združuje OCR z jezikovnim modelom Mistral LLM, kar vam omogoča, da postavljate vprašanja neposredno o vsebini vaših dokumentov. Namesto da bi prebrali petdeset strani, da bi našli specifično klavzulo ali številko, preprosto postavite vprašanje in preberete odgovor. Interno storitev izvede dva koraka: OCR izvleče besedilo, strukturo in oblikovanje, nato pa klepetalni model Mistral analizira izvlečeno vsebino in ustvari odgovor. Ta kombinacija je za vas prozorna – vse opravi en sam klic API-ja.
Drugačna končna točka kot pri OCR-ju
To je del, ki ljudi pri prvem poskusu pogosto zmede. Čisti OCR uporablja client.ocr.process, medtem ko QnA uporablja standardno končno točko za klepet client.chat.complete, s sporočilom, ki vsebuje tako besedilni blok kot blok document_url. Z drugimi besedami, dokument postane priloga vašemu vprašanju, prav tako kot slika v večmodalni izmenjavi.
import os
from mistralai.client import Mistral
client = Mistral(api_key=os.environ["MISTRAL_API_KEY"])
# Vprašanje o javnem dokumentu
response = client.chat.complete(
model="mistral-small-latest",
messages=[
{
"role": "user",
"content": [
{
"type": "text",
"text": "What is the total revenue mentioned?"
},
{
"type": "document_url",
"document_url": "https://example.com/annual-report.pdf"
}
]
}
]
)
print(response.choices[0].message.content)
Trije načini pošiljanja dokumenta
Javni URL je najbolj neposredna pot, idealna za dokumente, ki so že dostopni na spletu – kot so znanstvene publikacije, institucionalna poročila ali PDF-ji, gostovani na vašem spletnem mestu.
messages = [
{
"role": "user",
"content": [
{"type": "text", "text": "Summarize the main points."},
{
"type": "document_url",
"document_url": "https://arxiv.org/pdf/1805.04770"
}
]
}
]
response = client.chat.complete(
model="mistral-small-latest",
messages=messages
)
Lokalne datoteke pa se pošljejo kot base64. To je privzeti način, kadar je dokument zaupen ali shranjen za vašim požarnim zidom; ničesar ni treba objaviti na spletu, da bi ga lahko povprašali.
import base64
with open("contract.pdf", "rb") as f:
doc_base64 = base64.b64encode(f.read()).decode("utf-8")
messages = [
{
"role": "user",
"content": [
{
"type": "text",
"text": "What are the termination clauses?"
},
{
"type": "document_url",
"document_url": f"data:application/pdf;base64,{doc_base64}"
}
]
}
]
response = client.chat.complete(
model="mistral-small-latest",
messages=messages
)
Nazadnje, obstaja tretja možnost za datoteke, ki so bile že naložene prek API-ja Files: naložite jih enkrat z purpose="ocr", nato pa nastali ID uporabite tolikokrat, kot je potrebno. Za dokument, ki ga nameravate večkrat povprašati, se s tem izognete ponovnemu nalaganju več megabajtov ob vsakem vprašanju.
uploaded = client.files.upload(
file=open("report.pdf", "rb"),
purpose="ocr"
)
messages = [
{
"role": "user",
"content": [
{"type": "text", "text": "What is the planned budget?"},
{"type": "file_id", "file_id": uploaded.id}
]
}
]
response = client.chat.complete(
model="mistral-small-latest",
messages=messages
)
Kateri klepetalni model za katero vprašanje
Parameter model je vaša izbira in vpliva tako na kakovost odgovora kot na stroške.
| Model | Profil | Kdaj ga izbrati |
|---|---|---|
mistral-small-latest | Hiter in ekonomičen | Zadosten za večino vprašanj |
mistral-medium-latest | Dober kompromis | Uravnotežena hitrost in natančnost |
mistral-large-latest | Bolj natančen | Za kompleksno analizo in sklepanje |
Vaša izbira je odvisna od zahtevnosti vaših vprašanj in vašega proračuna: izvleček zneska iz računa ne zahteva istega modela kot primerjava režimov odgovornosti med dvema pogodbama.
Povezovanje vprašanj
Vsega vam ni treba vprašati naenkrat. Dokument pošljete v prvem sporočilu, odgovor modela dodate v zgodovino, nato pa svoje nadaljnje vprašanje postavite samo kot besedilo: kontekst dokumenta ostane v pogovoru. To je naraven način raziskovanja poročila – začnete s povzetkom, nato pa se poglobite v točko, ki vas zanima.
history = [
{
"role": "user",
"content": [
{"type": "text", "text": "Summarize this document in 3 points."},
{
"type": "document_url",
"document_url": "https://example.com/report.pdf"
}
]
}
]
# Prvi klic
response = client.chat.complete(
model="mistral-small-latest",
messages=history
)
# Dodaj odgovor v zgodovino
history.append({
"role": "assistant",
"content": response.choices[0].message.content
})
# Nadaljnje vprašanje
history.append({
"role": "user",
"content": "Detail the second point."
})
response = client.chat.complete(
model="mistral-small-latest",
messages=history
)
print(response.choices[0].message.content)
Česa QnA ne bo naredil za vas
Preden na tem gradite storitev, je vredno poznati štiri omejitve. Prvič, velikost: 50 MB na datoteko in največ 1.000 strani, kar izključuje velike arhive brez predhodne razdelitve. Drugič, stroški, saj dolgi dokumenti porabijo veliko vhodnih žetonov ob vsakem zastavljenem vprašanju. Tretjič, pomanjkanje trajnega pomnilnika pomeni, da morate zgodovino rekonstruirati sami; vsak klic je neodvisen zunaj večkratnega pogovora. Najzahtevnejša točka je zadnja: LLM enako veliko interpretira, kot izvleče, kar lahko vnese napake v natančne številke. Za zneske, ki gredo v računovodstvo, raje uporabite strukturirano anotacijo; QnA pa rezervirajte za razumevanje in sintezo.
Ključne ugotovitve
- Document QnA uporablja končno točko Chat z vsebino
document_url: bodisi javni URL bodisi PDF, kodiran v base64, kot podatkovni URL - Notranji delovni tok je najprej OCR, nato LLM, vendar je potreben le en klic
- Trije načini pošiljanja: URL, base64, naložena datoteka
- Večkratni pogovori omogočajo poglobljeno analizo
- Klepetalni model izberite glede na zahtevnost vaših vprašanj