API за въпроси и отговори относно документи (Document QnA)
На тази страница
Урокът е актуализиран на 3 ноември 2026 г. Допълнение от 3 ноември 2026 г.: За изпращане на локален PDF файл, предайте го като base64 във формата
{"type": "document_url", "document_url": "data:application/pdf;base64,…"}. Типътdocument_base64, срещан в по-стари примери, не съществува в документацията или в SDK наmistralaiи тези примери биха се провалили. Източници: OCR Processor · Document QnA.
Задавайте въпроси към документите си на естествен език
Document QnA комбинира OCR с езиков модел на Mistral (LLM), което Ви позволява да задавате въпроси директно относно съдържанието на Вашия документ. Вместо да преглеждате петдесет страници, за да откриете конкретна клауза или цифра, просто задавате въпроса и прочитате отговора. Вътрешно услугата изпълнява две стъпки: OCR извлича текста, структурата и форматирането, след което чат модел на Mistral анализира извлеченото съдържание, за да генерира отговор. Тази комбинация е прозрачна за Вас – едно единствено API обаждане се грижи за всичко.
Различен крайна точка (endpoint) в сравнение с OCR
Това е частта, която често обърква хората при първия опит. Чистият OCR използва client.ocr.process, докато QnA използва стандартния крайна точка за чат client.chat.complete, със съобщение, съдържащо както текстов блок, така и блок document_url. С други думи, документът се превръща в прикачен файл към Вашия въпрос, точно както изображението в мултимодален обмен.
import os
from mistralai.client import Mistral
client = Mistral(api_key=os.environ["MISTRAL_API_KEY"])
# Въпрос относно публичен документ
response = client.chat.complete(
model="mistral-small-latest",
messages=[
{
"role": "user",
"content": [
{
"type": "text",
"text": "What is the total revenue mentioned?"
},
{
"type": "document_url",
"document_url": "https://example.com/annual-report.pdf"
}
]
}
]
)
print(response.choices[0].message.content)
Три начина за изпращане на документ
Публичният URL адрес е най-прекият път, идеален за документи, които вече са достъпни онлайн – като научна публикация, институционален доклад или PDF файл, хостван на Вашия уебсайт.
messages = [
{
"role": "user",
"content": [
{"type": "text", "text": "Summarize the main points."},
{
"type": "document_url",
"document_url": "https://arxiv.org/pdf/1805.04770"
}
]
}
]
response = client.chat.complete(
model="mistral-small-latest",
messages=messages
)
Локалните файлове, от друга страна, се изпращат като base64. Това е режимът по подразбиране, когато документът е поверителен или се съхранява зад Вашата защитна стена; нищо не трябва да се публикува в мрежата, за да бъде разпитвано.
import base64
with open("contract.pdf", "rb") as f:
doc_base64 = base64.b64encode(f.read()).decode("utf-8")
messages = [
{
"role": "user",
"content": [
{
"type": "text",
"text": "What are the termination clauses?"
},
{
"type": "document_url",
"document_url": f"data:application/pdf;base64,{doc_base64}"
}
]
}
]
response = client.chat.complete(
model="mistral-small-latest",
messages=messages
)
Накрая, има и трета опция за файлове, които вече са качени чрез Files API: качвате веднъж с purpose="ocr", след което препращате към получения ID толкова пъти, колкото е необходимо. За документ, който планирате да разпитвате многократно, това избягва повторното качване на няколко мегабайта при всеки въпрос.
uploaded = client.files.upload(
file=open("report.pdf", "rb"),
purpose="ocr"
)
messages = [
{
"role": "user",
"content": [
{"type": "text", "text": "What is the planned budget?"},
{"type": "file_id", "file_id": uploaded.id}
]
}
]
response = client.chat.complete(
model="mistral-small-latest",
messages=messages
)
Кой чат модел за кой въпрос
Параметърът model зависи от Вас и влияе както върху качеството на отговора, така и върху разходите.
| Модел | Профил | Кога да го изберете |
|---|---|---|
mistral-small-latest | Бърз и икономичен | Достатъчен за повечето въпроси |
mistral-medium-latest | Добър компромис | Баланс между скорост и точност |
mistral-large-latest | По-прецизен | Сложен анализ и разсъждения |
Вашият избор зависи от сложността на Вашите въпроси и от Вашия бюджет: извличането на сума от фактура не изисква същия модел като сравняването на режимите на отговорност между два договора.
Верижно задаване на въпроси
Не е необходимо да задавате всичко наведнъж. Изпращате документа в първото съобщение, добавяте отговора на модела към историята и след това задавате последващия си въпрос само като текст: контекстът на документа остава в разговора. Това е естественият начин за проучване на доклад – започнете с обобщение, след което навлезте по-дълбоко в точката, която Ви интересува.
history = [
{
"role": "user",
"content": [
{"type": "text", "text": "Summarize this document in 3 points."},
{
"type": "document_url",
"document_url": "https://example.com/report.pdf"
}
]
}
]
# Първо обаждане
response = client.chat.complete(
model="mistral-small-latest",
messages=history
)
# Добавяне на отговора към историята
history.append({
"role": "assistant",
"content": response.choices[0].message.content
})
# Последващ въпрос
history.append({
"role": "user",
"content": "Detail the second point."
})
response = client.chat.complete(
model="mistral-small-latest",
messages=history
)
print(response.choices[0].message.content)
Какво QnA няма да направи за Вас
Четири ограничения си струва да знаете, преди да изградите услуга върху това. Първо, размерът: 50 MB на файл и максимум 1000 страници, което изключва големи архиви без предварително разделяне. Второ, разходите, тъй като дългите документи консумират много входни токени при всеки зададен въпрос. Трето, липсата на постоянна памет означава, че трябва сами да реконструирате историята; всяко обаждане е независимо извън рамките на разговор с много обрати. Най-коварният момент е последният: LLM тълкува толкова, колкото и извлича, което може да доведе до грешки в точните цифри. За сума, която ще влезе в счетоводството, предпочитайте структурирана анотация; запазете QnA за разбиране и синтез.
Ключови изводи
- Document QnA използва крайната точка за чат със съдържание
document_url: или публичен URL адрес, или PDF файл, кодиран в base64, като data URL - Вътрешният работен процес е OCR, последван от LLM, но се изисква само едно обаждане
- Три метода за изпращане: URL, base64, качен файл
- Разговорите с много обрати позволяват задълбочен анализ
- Изберете своя чат модел въз основа на сложността на Вашите въпроси