Preskok na glavno vsebino
Slovenščina— Izberite jezik
Meni

API za vprašanja in odgovore o dokumentih (Document QnA)

Lekcija 13 od 16 Posodobljeno 3. november 2026 Razvijalec
Na tej strani
  1. Povpraševanje po vaših dokumentih v naravnem jeziku
  2. Drugačna končna točka kot pri OCR-ju
  3. Trije načini pošiljanja dokumenta
  4. Kateri klepetalni model za katero vprašanje
  5. Povezovanje vprašanj
  6. Česa QnA ne bo naredil za vas
  7. Ključne ugotovitve

Posodobitev lekcije: 3. november 2026. Dodatek z dne 3. novembra 2026: Za pošiljanje lokalnega PDF-ja ga prenesite kot base64 v formatu {"type": "document_url", "document_url": "data:application/pdf;base64,…"}. Tip document_base64, ki ga najdemo v starejših primerih, ne obstaja niti v dokumentaciji niti v SDK-ju mistralai, zato bi ti primeri spodleteli. Viri: OCR Processor · Document QnA.

Povpraševanje po vaših dokumentih v naravnem jeziku

Document QnA združuje OCR z jezikovnim modelom Mistral LLM, kar vam omogoča, da postavljate vprašanja neposredno o vsebini vaših dokumentov. Namesto da bi prebrali petdeset strani, da bi našli specifično klavzulo ali številko, preprosto postavite vprašanje in preberete odgovor. Interno storitev izvede dva koraka: OCR izvleče besedilo, strukturo in oblikovanje, nato pa klepetalni model Mistral analizira izvlečeno vsebino in ustvari odgovor. Ta kombinacija je za vas prozorna – vse opravi en sam klic API-ja.

Drugačna končna točka kot pri OCR-ju

To je del, ki ljudi pri prvem poskusu pogosto zmede. Čisti OCR uporablja client.ocr.process, medtem ko QnA uporablja standardno končno točko za klepet client.chat.complete, s sporočilom, ki vsebuje tako besedilni blok kot blok document_url. Z drugimi besedami, dokument postane priloga vašemu vprašanju, prav tako kot slika v večmodalni izmenjavi.

import os
from mistralai.client import Mistral

client = Mistral(api_key=os.environ["MISTRAL_API_KEY"])

# Vprašanje o javnem dokumentu
response = client.chat.complete(
    model="mistral-small-latest",
    messages=[
        {
            "role": "user",
            "content": [
                {
                    "type": "text",
                    "text": "What is the total revenue mentioned?"
                },
                {
                    "type": "document_url",
                    "document_url": "https://example.com/annual-report.pdf"
                }
            ]
        }
    ]
)

print(response.choices[0].message.content)

Trije načini pošiljanja dokumenta

Javni URL je najbolj neposredna pot, idealna za dokumente, ki so že dostopni na spletu – kot so znanstvene publikacije, institucionalna poročila ali PDF-ji, gostovani na vašem spletnem mestu.

messages = [
    {
        "role": "user",
        "content": [
            {"type": "text", "text": "Summarize the main points."},
            {
                "type": "document_url",
                "document_url": "https://arxiv.org/pdf/1805.04770"
            }
        ]
    }
]

response = client.chat.complete(
    model="mistral-small-latest",
    messages=messages
)

Lokalne datoteke pa se pošljejo kot base64. To je privzeti način, kadar je dokument zaupen ali shranjen za vašim požarnim zidom; ničesar ni treba objaviti na spletu, da bi ga lahko povprašali.

import base64

with open("contract.pdf", "rb") as f:
    doc_base64 = base64.b64encode(f.read()).decode("utf-8")

messages = [
    {
        "role": "user",
        "content": [
            {
                "type": "text",
                "text": "What are the termination clauses?"
            },
            {
                "type": "document_url",
                "document_url": f"data:application/pdf;base64,{doc_base64}"
            }
        ]
    }
]

response = client.chat.complete(
    model="mistral-small-latest",
    messages=messages
)

Nazadnje, obstaja tretja možnost za datoteke, ki so bile že naložene prek API-ja Files: naložite jih enkrat z purpose="ocr", nato pa nastali ID uporabite tolikokrat, kot je potrebno. Za dokument, ki ga nameravate večkrat povprašati, se s tem izognete ponovnemu nalaganju več megabajtov ob vsakem vprašanju.

uploaded = client.files.upload(
    file=open("report.pdf", "rb"),
    purpose="ocr"
)

messages = [
    {
        "role": "user",
        "content": [
            {"type": "text", "text": "What is the planned budget?"},
            {"type": "file_id", "file_id": uploaded.id}
        ]
    }
]

response = client.chat.complete(
    model="mistral-small-latest",
    messages=messages
)

Kateri klepetalni model za katero vprašanje

Parameter model je vaša izbira in vpliva tako na kakovost odgovora kot na stroške.

ModelProfilKdaj ga izbrati
mistral-small-latestHiter in ekonomičenZadosten za večino vprašanj
mistral-medium-latestDober kompromisUravnotežena hitrost in natančnost
mistral-large-latestBolj natančenZa kompleksno analizo in sklepanje

Vaša izbira je odvisna od zahtevnosti vaših vprašanj in vašega proračuna: izvleček zneska iz računa ne zahteva istega modela kot primerjava režimov odgovornosti med dvema pogodbama.

Povezovanje vprašanj

Vsega vam ni treba vprašati naenkrat. Dokument pošljete v prvem sporočilu, odgovor modela dodate v zgodovino, nato pa svoje nadaljnje vprašanje postavite samo kot besedilo: kontekst dokumenta ostane v pogovoru. To je naraven način raziskovanja poročila – začnete s povzetkom, nato pa se poglobite v točko, ki vas zanima.

history = [
    {
        "role": "user",
        "content": [
            {"type": "text", "text": "Summarize this document in 3 points."},
            {
                "type": "document_url",
                "document_url": "https://example.com/report.pdf"
            }
        ]
    }
]

# Prvi klic
response = client.chat.complete(
    model="mistral-small-latest",
    messages=history
)

# Dodaj odgovor v zgodovino
history.append({
    "role": "assistant",
    "content": response.choices[0].message.content
})

# Nadaljnje vprašanje
history.append({
    "role": "user",
    "content": "Detail the second point."
})

response = client.chat.complete(
    model="mistral-small-latest",
    messages=history
)

print(response.choices[0].message.content)

Česa QnA ne bo naredil za vas

Preden na tem gradite storitev, je vredno poznati štiri omejitve. Prvič, velikost: 50 MB na datoteko in največ 1.000 strani, kar izključuje velike arhive brez predhodne razdelitve. Drugič, stroški, saj dolgi dokumenti porabijo veliko vhodnih žetonov ob vsakem zastavljenem vprašanju. Tretjič, pomanjkanje trajnega pomnilnika pomeni, da morate zgodovino rekonstruirati sami; vsak klic je neodvisen zunaj večkratnega pogovora. Najzahtevnejša točka je zadnja: LLM enako veliko interpretira, kot izvleče, kar lahko vnese napake v natančne številke. Za zneske, ki gredo v računovodstvo, raje uporabite strukturirano anotacijo; QnA pa rezervirajte za razumevanje in sintezo.

Ključne ugotovitve

  • Document QnA uporablja končno točko Chat z vsebino document_url: bodisi javni URL bodisi PDF, kodiran v base64, kot podatkovni URL
  • Notranji delovni tok je najprej OCR, nato LLM, vendar je potreben le en klic
  • Trije načini pošiljanja: URL, base64, naložena datoteka
  • Večkratni pogovori omogočajo poglobljeno analizo
  • Klepetalni model izberite glede na zahtevnost vaših vprašanj