Document QnA API
Sellel lehel
Tund uuendatud 3. novembril 2026. Lisand 3. novembril 2026: Kohaliku PDF-faili saatmiseks edasta see base64-kodeeringus formaadis
{"type": "document_url", "document_url": "data:application/pdf;base64,…"}. Vanades näidetes leiduv tüüpdocument_base64ei eksisteeri ei dokumentatsioonis egamistralaiSDK-s ning need näited oleksid nurjunud. Allikad: OCR Processor · Document QnA.
Päringute esitamine dokumentidele loomulikus keeles
Document QnA ühendab OCR-i Mistrali suure keelemudeliga (LLM), võimaldades sul esitada küsimusi otse oma dokumentide sisu kohta. Viiekümne lehe läbikammimise asemel, et leida konkreetne klausel või arv, esitad lihtalt küsimuse ja loed vastust. Sisemiselt koosneb teenus kahest sammust: OCR eraldab teksti, struktuuri ja vormingu, seejärel analüüsib Mistrali vestlusmudel eraldatud sisu ja genereerib vastuse. See kombinatsioon on sinu jaoks läbipaistev – üksainus API väljakutse haldab kõike.
Erinev lõpp-punkt võrreldes OCR-iga
See on osa, millega esmakasutajad sageli hätta jäävad. Puhas OCR kasutab meetodit client.ocr.process, samas kui QnA kasutab standardset vestluse lõpp-punkti client.chat.complete, kus sõnum sisaldab nii tekstiplokki kui ka document_url plokki. Teisisõnu, dokument muutub sinu küsimuse lisaks, täpselt nagu pilt mitmemodaalses vahetuses.
import os
from mistralai.client import Mistral
client = Mistral(api_key=os.environ["MISTRAL_API_KEY"])
# Küsimus avaliku dokumendi kohta
response = client.chat.complete(
model="mistral-small-latest",
messages=[
{
"role": "user",
"content": [
{
"type": "text",
"text": "What is the total revenue mentioned?"
},
{
"type": "document_url",
"document_url": "https://example.com/annual-report.pdf"
}
]
}
]
)
print(response.choices[0].message.content)
Kolm viisi dokumendi saatmiseks
Avalik URL on kõige otsesem tee, mis sobib ideaalselt juba veebis kättesaadavatele dokumentidele – olgu selleks teaduspublikatsioon, asutuse aruanne või sinu veebisaidil majutatud PDF.
messages = [
{
"role": "user",
"content": [
{"type": "text", "text": "Summarize the main points."},
{
"type": "document_url",
"document_url": "https://arxiv.org/pdf/1805.04770"
}
]
}
]
response = client.chat.complete(
model="mistral-small-latest",
messages=messages
)
Kohalikke faile saadetakse seevastu base64-kodeeringus. See on vaikimisi režiim iga kord, kui dokument on konfidentsiaalne või asub tulemüüri taga; midagi ei pea veebi avaldama, et seda pärida.
import base64
with open("contract.pdf", "rb") as f:
doc_base64 = base64.b64encode(f.read()).decode("utf-8")
messages = [
{
"role": "user",
"content": [
{
"type": "text",
"text": "What are the termination clauses?"
},
{
"type": "document_url",
"document_url": f"data:application/pdf;base64,{doc_base64}"
}
]
}
]
response = client.chat.complete(
model="mistral-small-latest",
messages=messages
)
Lõpuks on olemas kolmas võimalus failide jaoks, mis on juba Files API kaudu üles laaditud: laadid faili korra üles parameetriga purpose="ocr" ja viidad seejärel saadud ID-le nii mitu korda kui vaja. Dokumendi puhul, mida plaanid mitu korda pärida, väldid sellega mitme megabaidi uuesti üleslaadimist iga küsimuse korral.
uploaded = client.files.upload(
file=open("report.pdf", "rb"),
purpose="ocr"
)
messages = [
{
"role": "user",
"content": [
{"type": "text", "text": "What is the planned budget?"},
{"type": "file_id", "file_id": uploaded.id}
]
}
]
response = client.chat.complete(
model="mistral-small-latest",
messages=messages
)
Milline vestlusmudel millisele küsimusele
Parameeter model on sinu valida ja see mõjutab nii vastuse kvaliteeti kui ka kulu.
| Mudel | Profiil | Millal valida |
|---|---|---|
mistral-small-latest | Kiire ja ökonoomne | Piisab enamiku küsimuste jaoks |
mistral-medium-latest | Hea kompromiss | Tasakaalustatud kiirus ja täpsus |
mistral-large-latest | Täpsem | Kompleksne analüüs ja arutluskäik |
Sinu valik sõltub küsimuste keerukusest ja eelarvest: summa väljavõtmine arvelt ei nõua sama mudelit kui kahe lepingu vastutusrežiimide võrdlemine.
Küsimuste aheldamine
Sa ei pea kõike korraga küsima. Saadad dokumendi esimeses sõnumis, lisad mudeli vastuse ajaloosse ja esitad järelküsimuse puhta tekstina: dokumendi kontekst püsib vestluses alles. See on loomulik viis aruande uurimiseks – alusta kokkuvõttest ja süvene seejärel sind huvitavasse punkti.
history = [
{
"role": "user",
"content": [
{"type": "text", "text": "Summarize this document in 3 points."},
{
"type": "document_url",
"document_url": "https://example.com/report.pdf"
}
]
}
]
# Esimene väljakutse
response = client.chat.complete(
model="mistral-small-latest",
messages=history
)
# Lisa vastus ajalukku
history.append({
"role": "assistant",
"content": response.choices[0].message.content
})
# Järelküsimus
history.append({
"role": "user",
"content": "Detail the second point."
})
response = client.chat.complete(
model="mistral-small-latest",
messages=history
)
print(response.choices[0].message.content)
Mida QnA sinu eest ei tee
Enne sellele teenusele tugineva lahenduse loomist tasub teada nelja piirangut. Esiteks suurus: 50 MB faili kohta ja maksimaalselt 1000 lehekülge, mis välistab suured arhiivid ilma eelneva tükeldamiseta. Teiseks kulud, kuna pikad dokumendid tarbivad iga esitatud küsimusega palju sisendtokeneid. Kolmandaks, püsiva mälu puudumine tähendab, et pead ajaloo ise taastama; iga väljakutse on sõltumatu, välja arvatud mitmevoorulises vestluses. Kõige keerulisem punkt on viimane: LLM tõlgendab sama palju kui eraldab, mis võib täpsetes arvudes vigu tekitada. Raamatupidamisse mineva summa jaoks eelista struktureeritud annotatsiooni; jäta QnA mõistmiseks ja sünteesiks.
Peamised punktid
- Document QnA kasutab vestluse lõpp-punkti sisuga
document_url: kas avalik URL või base64-kodeeritud PDF andme-URLina - Sisemine töövoog on OCR ja seejärel LLM, kuid vajalik on ainult üks väljakutse
- Kolm saatmisviisi: URL, base64, üleslaaditud fail
- Mitmevoorulised vestlused võimaldavad sügavamat analüüsi
- Vali oma vestlusmudel vastavalt küsimuste keerukusele