Pereiti prie pagrindinio turinio
Lietuvių— Pasirinkite kalbą
Meniu

Document QnA API

Paskaita 13 iš 16 Atnaujinta 2026 m. lapkričio 3 d. Kūrėjas
Šiame puslapyje
  1. Užduok klausimus savo dokumentams natūralia kalba
  2. Kitoks galinis punktas nei OCR
  3. Trys būdai siųsti dokumentą
  4. Kurį pokalbių modelį rinktis kokiam klausimui
  5. Klausimų grandinės
  6. Ko QnA tau neatliks
  7. Svarbiausi punktai

Pamoka atnaujinta 2026 m. lapkričio 3 d. Priedas, 2026 m. lapkričio 3 d.: Norėdami siųsti vietinį PDF failą, perduokite jį kaip „base64“ formatu {"type": "document_url", "document_url": "data:application/pdf;base64,…"}. Senesniuose pavyzdžiuose naudotas tipas document_base64 dokumentacijoje arba mistralai SDK neegzistuoja, todėl tokie pavyzdžiai būtų nepavykę. Šaltiniai: OCR Processor · Document QnA.

Užduok klausimus savo dokumentams natūralia kalba

„Document QnA“ sujungia OCR technologiją su „Mistral“ didžiuoju kalbos modeliu (LLM), leisdamas tau tiesiogiai klausti apie dokumento turinį. Užuot skenavęs penkiasdešimt puslapių ieškodamas konkretaus punkto ar skaičiaus, tiesiog užduok klausimą ir perskaityk atsakymą. Viduje ši paslauga atlieka du veiksmus: OCR ištraukia tekstą, struktūrą ir formatavimą, tada „Mistral“ pokalbių modelis analizuoja gautą turinį ir sugeneruoja atsakymą. Tau šis derinys yra nematomas – viską atlieka vienas API iškvietimas.

Kitoks galinis punktas nei OCR

Būtent čia dažniausiai suklystama pirmąjį kartą. Grynas OCR naudoja client.ocr.process, o QnA naudoja standartinį pokalbių galinį punktą client.chat.complete, su žinute, kurioje yra ir teksto blokas, ir document_url blokas. Kitaip tariant, dokumentas tampa tavo klausimo priedu, lygiai kaip vaizdas daugiamodžiame pokalbyje.

import os
from mistralai.client import Mistral

client = Mistral(api_key=os.environ["MISTRAL_API_KEY"])

# Klausimas apie viešą dokumentą
response = client.chat.complete(
    model="mistral-small-latest",
    messages=[
        {
            "role": "user",
            "content": [
                {
                    "type": "text",
                    "text": "What is the total revenue mentioned?"
                },
                {
                    "type": "document_url",
                    "document_url": "https://example.com/annual-report.pdf"
                }
            ]
        }
    ]
)

print(response.choices[0].message.content)

Trys būdai siųsti dokumentą

Viešas URL yra tiesiausias kelias, idealus dokumentams, kurie jau pasiekiami internete – pavyzdžiui, moksliniam straipsniui, institucijos ataskaitai ar PDF failui, talpinamam tavo svetainėje.

messages = [
    {
        "role": "user",
        "content": [
            {"type": "text", "text": "Summarize the main points."},
            {
                "type": "document_url",
                "document_url": "https://arxiv.org/pdf/1805.04770"
            }
        ]
    }
]

response = client.chat.complete(
    model="mistral-small-latest",
    messages=messages
)

Vietiniai failai, priešingai, siunčiami kaip „base64“. Tai yra numatytasis režimas, kai dokumentas yra konfidencialus arba saugomas už tavo užkardos; nieko nereikia skelbti internete, kad būtų galima užduoti klausimus.

import base64

with open("contract.pdf", "rb") as f:
    doc_base64 = base64.b64encode(f.read()).decode("utf-8")

messages = [
    {
        "role": "user",
        "content": [
            {
                "type": "text",
                "text": "What are the termination clauses?"
            },
            {
                "type": "document_url",
                "document_url": f"data:application/pdf;base64,{doc_base64}"
            }
        ]
    }
]

response = client.chat.complete(
    model="mistral-small-latest",
    messages=messages
)

Galiausiai yra trečiasis būdas failams, kurie jau buvo įkelti naudojant „Files API“: vieną kartą įkeli failą su parametru purpose="ocr", o tada tiek kartų, kiek reikia, nurodai gautą ID. Jei planuoji tam pačiam dokumentui užduoti daug klausimų, tai leidžia išvengti kelių megabaitų pakartotinio įkėlimo prie kiekvieno klausimo.

uploaded = client.files.upload(
    file=open("report.pdf", "rb"),
    purpose="ocr"
)

messages = [
    {
        "role": "user",
        "content": [
            {"type": "text", "text": "What is the planned budget?"},
            {"type": "file_id", "file_id": uploaded.id}
        ]
    }
]

response = client.chat.complete(
    model="mistral-small-latest",
    messages=messages
)

Kurį pokalbių modelį rinktis kokiam klausimui

Parametras model priklauso nuo tavęs ir daro įtaką tiek atsakymų kokybei, tiek kainai.

ModelisProfilisKada jį rinktis
mistral-small-latestGreitas ir ekonomiškasPakanka daugumai klausimų
mistral-medium-latestGeras kompromisasSubalansuotas greitis ir tikslumas
mistral-large-latestTikslesnisSudėtingai analizei ir samprotavimams

Tavo pasirinkimas priklauso nuo klausimų sudėtingumo ir biudžeto: sąskaitos sumos ištraukimui nereikia to paties modelio, kaip lyginant atsakomybės režimus dviejose sutartyse.

Klausimų grandinės

Nereikia užduoti visko vienu metu. Dokumentą siunti pirmoje žinutėje, pridedi modelio atsakymą į istoriją, o tada savo papildomą klausimą siunti kaip gryną tekstą: dokumento kontekstas lieka pokalbyje. Tai natūralus būdas naršyti ataskaitą – pradėk nuo santraukos, tada gilinkis į tau rūpimą punktą.

history = [
    {
        "role": "user",
        "content": [
            {"type": "text", "text": "Summarize this document in 3 points."},
            {
                "type": "document_url",
                "document_url": "https://example.com/report.pdf"
            }
        ]
    }
]

# Pirmasis iškvietimas
response = client.chat.complete(
    model="mistral-small-latest",
    messages=history
)

# Pridėti atsakymą į istoriją
history.append({
    "role": "assistant",
    "content": response.choices[0].message.content
})

# Papildomas klausimas
history.append({
    "role": "user",
    "content": "Detail the second point."
})

response = client.chat.complete(
    model="mistral-small-latest",
    messages=history
)

print(response.choices[0].message.content)

Ko QnA tau neatliks

Prieš kuriant paslaugą šiuo pagrindu, verta žinoti keturis apribojimus. Pirma, dydis: 50 MB vienam failui ir daugiausia 1 000 puslapių, todėl dideli archyvai be išankstinio skaidymo netinka. Antra, kaina, nes ilgi dokumentai suvartoja daug įvesties tokenų su kiekvienu užduotu klausimu. Trečia, nuolatinės atminties nebuvimas reiškia, kad istoriją turi atkurti pats; kiekvienas iškvietimas yra nepriklausomas, nebent vyksta daugiažingsnis pokalbis. Sunkiausias punktas yra paskutinis: LLM ne tik ištraukia, bet ir interpretuoja informaciją, todėl tiksliuose skaičiuose gali atsirasti klaidų. Apskaitai skirtoms sumoms rinkis struktūrinę anotaciją; QnA palik supratimui ir sintezei.

Svarbiausi punktai

  • Document QnA naudoja pokalbių galinį punktą su document_url turiniu: tai gali būti viešas URL arba kaip duomenų URL užkoduotas „base64“ PDF
  • Vidinis darbo eigos procesas yra OCR, tada LLM, tačiau reikia tik vieno iškvietimo
  • Trys siuntimo būdai: URL, „base64“, įkeltas failas
  • Daugiažingsniai pokalbiai leidžia atlikti išsamią analizę
  • Pokalbių modelį rinkis pagal savo klausimų sudėtingumą