Document QnA API
Šiame puslapyje
Pamoka atnaujinta 2026 m. lapkričio 3 d. Priedas, 2026 m. lapkričio 3 d.: Norėdami siųsti vietinį PDF failą, perduokite jį kaip „base64“ formatu
{"type": "document_url", "document_url": "data:application/pdf;base64,…"}. Senesniuose pavyzdžiuose naudotas tipasdocument_base64dokumentacijoje arbamistralaiSDK neegzistuoja, todėl tokie pavyzdžiai būtų nepavykę. Šaltiniai: OCR Processor · Document QnA.
Užduok klausimus savo dokumentams natūralia kalba
„Document QnA“ sujungia OCR technologiją su „Mistral“ didžiuoju kalbos modeliu (LLM), leisdamas tau tiesiogiai klausti apie dokumento turinį. Užuot skenavęs penkiasdešimt puslapių ieškodamas konkretaus punkto ar skaičiaus, tiesiog užduok klausimą ir perskaityk atsakymą. Viduje ši paslauga atlieka du veiksmus: OCR ištraukia tekstą, struktūrą ir formatavimą, tada „Mistral“ pokalbių modelis analizuoja gautą turinį ir sugeneruoja atsakymą. Tau šis derinys yra nematomas – viską atlieka vienas API iškvietimas.
Kitoks galinis punktas nei OCR
Būtent čia dažniausiai suklystama pirmąjį kartą. Grynas OCR naudoja client.ocr.process, o QnA naudoja standartinį pokalbių galinį punktą client.chat.complete, su žinute, kurioje yra ir teksto blokas, ir document_url blokas. Kitaip tariant, dokumentas tampa tavo klausimo priedu, lygiai kaip vaizdas daugiamodžiame pokalbyje.
import os
from mistralai.client import Mistral
client = Mistral(api_key=os.environ["MISTRAL_API_KEY"])
# Klausimas apie viešą dokumentą
response = client.chat.complete(
model="mistral-small-latest",
messages=[
{
"role": "user",
"content": [
{
"type": "text",
"text": "What is the total revenue mentioned?"
},
{
"type": "document_url",
"document_url": "https://example.com/annual-report.pdf"
}
]
}
]
)
print(response.choices[0].message.content)
Trys būdai siųsti dokumentą
Viešas URL yra tiesiausias kelias, idealus dokumentams, kurie jau pasiekiami internete – pavyzdžiui, moksliniam straipsniui, institucijos ataskaitai ar PDF failui, talpinamam tavo svetainėje.
messages = [
{
"role": "user",
"content": [
{"type": "text", "text": "Summarize the main points."},
{
"type": "document_url",
"document_url": "https://arxiv.org/pdf/1805.04770"
}
]
}
]
response = client.chat.complete(
model="mistral-small-latest",
messages=messages
)
Vietiniai failai, priešingai, siunčiami kaip „base64“. Tai yra numatytasis režimas, kai dokumentas yra konfidencialus arba saugomas už tavo užkardos; nieko nereikia skelbti internete, kad būtų galima užduoti klausimus.
import base64
with open("contract.pdf", "rb") as f:
doc_base64 = base64.b64encode(f.read()).decode("utf-8")
messages = [
{
"role": "user",
"content": [
{
"type": "text",
"text": "What are the termination clauses?"
},
{
"type": "document_url",
"document_url": f"data:application/pdf;base64,{doc_base64}"
}
]
}
]
response = client.chat.complete(
model="mistral-small-latest",
messages=messages
)
Galiausiai yra trečiasis būdas failams, kurie jau buvo įkelti naudojant „Files API“: vieną kartą įkeli failą su parametru purpose="ocr", o tada tiek kartų, kiek reikia, nurodai gautą ID. Jei planuoji tam pačiam dokumentui užduoti daug klausimų, tai leidžia išvengti kelių megabaitų pakartotinio įkėlimo prie kiekvieno klausimo.
uploaded = client.files.upload(
file=open("report.pdf", "rb"),
purpose="ocr"
)
messages = [
{
"role": "user",
"content": [
{"type": "text", "text": "What is the planned budget?"},
{"type": "file_id", "file_id": uploaded.id}
]
}
]
response = client.chat.complete(
model="mistral-small-latest",
messages=messages
)
Kurį pokalbių modelį rinktis kokiam klausimui
Parametras model priklauso nuo tavęs ir daro įtaką tiek atsakymų kokybei, tiek kainai.
| Modelis | Profilis | Kada jį rinktis |
|---|---|---|
mistral-small-latest | Greitas ir ekonomiškas | Pakanka daugumai klausimų |
mistral-medium-latest | Geras kompromisas | Subalansuotas greitis ir tikslumas |
mistral-large-latest | Tikslesnis | Sudėtingai analizei ir samprotavimams |
Tavo pasirinkimas priklauso nuo klausimų sudėtingumo ir biudžeto: sąskaitos sumos ištraukimui nereikia to paties modelio, kaip lyginant atsakomybės režimus dviejose sutartyse.
Klausimų grandinės
Nereikia užduoti visko vienu metu. Dokumentą siunti pirmoje žinutėje, pridedi modelio atsakymą į istoriją, o tada savo papildomą klausimą siunti kaip gryną tekstą: dokumento kontekstas lieka pokalbyje. Tai natūralus būdas naršyti ataskaitą – pradėk nuo santraukos, tada gilinkis į tau rūpimą punktą.
history = [
{
"role": "user",
"content": [
{"type": "text", "text": "Summarize this document in 3 points."},
{
"type": "document_url",
"document_url": "https://example.com/report.pdf"
}
]
}
]
# Pirmasis iškvietimas
response = client.chat.complete(
model="mistral-small-latest",
messages=history
)
# Pridėti atsakymą į istoriją
history.append({
"role": "assistant",
"content": response.choices[0].message.content
})
# Papildomas klausimas
history.append({
"role": "user",
"content": "Detail the second point."
})
response = client.chat.complete(
model="mistral-small-latest",
messages=history
)
print(response.choices[0].message.content)
Ko QnA tau neatliks
Prieš kuriant paslaugą šiuo pagrindu, verta žinoti keturis apribojimus. Pirma, dydis: 50 MB vienam failui ir daugiausia 1 000 puslapių, todėl dideli archyvai be išankstinio skaidymo netinka. Antra, kaina, nes ilgi dokumentai suvartoja daug įvesties tokenų su kiekvienu užduotu klausimu. Trečia, nuolatinės atminties nebuvimas reiškia, kad istoriją turi atkurti pats; kiekvienas iškvietimas yra nepriklausomas, nebent vyksta daugiažingsnis pokalbis. Sunkiausias punktas yra paskutinis: LLM ne tik ištraukia, bet ir interpretuoja informaciją, todėl tiksliuose skaičiuose gali atsirasti klaidų. Apskaitai skirtoms sumoms rinkis struktūrinę anotaciją; QnA palik supratimui ir sintezei.
Svarbiausi punktai
- Document QnA naudoja pokalbių galinį punktą su
document_urlturiniu: tai gali būti viešas URL arba kaip duomenų URL užkoduotas „base64“ PDF - Vidinis darbo eigos procesas yra OCR, tada LLM, tačiau reikia tik vieno iškvietimo
- Trys siuntimo būdai: URL, „base64“, įkeltas failas
- Daugiažingsniai pokalbiai leidžia atlikti išsamią analizę
- Pokalbių modelį rinkis pagal savo klausimų sudėtingumą