L-API Document QnA
F'din il-paġna
Lezzjoni aġġornata fit-3 ta’ Novembru, 2026. Addendum fit-3 ta’ Novembru, 2026: Biex tibgħat PDF lokali, ittrasmettih bħala base64 fil-format
{"type": "document_url", "document_url": "data:application/pdf;base64,…"}. It-tipdocument_base64li jinstab f’eżempji aktar antiki ma jeżistix fid-dokumentazzjoni jew fl-SDKmistralai, u dawk l-eżempji kienu se jfallu. Sorsi: OCR Processor · Document QnA.
Ikkonsulta d-dokumenti tiegħek bil-lingwa naturali
Document QnA tgħaqqad l-OCR ma’ LLM ta’ Mistral, u tippermettilek tagħmel mistoqsijiet direttament dwar il-kontenut tad-dokument tiegħek. Minflok ma tiskennja ħamsin paġna biex issib klawsola jew figura speċifika, sempliċiment tagħmel il-mistoqsija u taqra t-tweġiba. Internament, is-serviw jwettaq żewġ passi: l-OCR jipproċessa t-test, l-istruttura u l-iffurmar, imbagħad mudell ta’ chat ta’ Mistral janalizza l-kontenut estratt biex jiġġenera tweġiba. Din il-kombinazzjoni hija trasparenti għalik—sejħa waħda tal-API timmaniġġja kollox.
Endpoint differenti mill-OCR
Dan huwa l-parti li spiss tiġbed lin-nies fl-ewwel tentattiv. L-OCR pur juża client.ocr.process, filwaqt li l-QnA juża l-endpoint standard tal-Chat client.chat.complete, b’messaġġ li fih kemm blokk ta’ test kif ukoll blokk document_url. Fi kliem ieħor, id-dokument isir mehmuż mal-mistoqsija tiegħek, eżattament bħal stampa f’skambju multimodali.
import os
from mistralai.client import Mistral
client = Mistral(api_key=os.environ["MISTRAL_API_KEY"])
# Mistoqsija dwar dokument pubbliku
response = client.chat.complete(
model="mistral-small-latest",
messages=[
{
"role": "user",
"content": [
{
"type": "text",
"text": "What is the total revenue mentioned?"
},
{
"type": "document_url",
"document_url": "https://example.com/annual-report.pdf"
}
]
}
]
)
print(response.choices[0].message.content)
Tliet modi kif tibgħat id-dokument
URL pubblika hija l-aktar rotta diretta, ideali għal dokumenti diġà aċċessibbli online—bħal pubblikazzjoni xjentifika, rapport istituzzjonali, jew PDF ospitat fuq is-sit web tiegħek.
messages = [
{
"role": "user",
"content": [
{"type": "text", "text": "Summarize the main points."},
{
"type": "document_url",
"document_url": "https://arxiv.org/pdf/1805.04770"
}
]
}
]
response = client.chat.complete(
model="mistral-small-latest",
messages=messages
)
Fajls lokali, min-naħa l-oħra, jintbagħtu bħala base64. Dan huwa l-modalità default kull meta dokument ikun kunfidenzjali jew maħżun wara l-firewall tiegħek; xejn m’għandu jiġi ppubblikat fuq il-web biex jiġi kkonsultat.
import base64
with open("contract.pdf", "rb") as f:
doc_base64 = base64.b64encode(f.read()).decode("utf-8")
messages = [
{
"role": "user",
"content": [
{
"type": "text",
"text": "What are the termination clauses?"
},
{
"type": "document_url",
"document_url": f"data:application/pdf;base64,{doc_base64}"
}
]
}
]
response = client.chat.complete(
model="mistral-small-latest",
messages=messages
)
Fl-aħħar nett, hemm it-tielet għażla għal fajls diġà mibgħuta permezz tal-API tal-Fajls: inti ttella’ darba biss b’purpose="ocr", imbagħad tirreferenza l-ID li tirriżulta kemm-il darba tkun meħtieġa. Għal dokument li ppjanajt li tikkonsulta diversi drabi, dan jevita li terġa’ ttella’ diversi megabytes ma’ kull mistoqsija.
uploaded = client.files.upload(
file=open("report.pdf", "rb"),
purpose="ocr"
)
messages = [
{
"role": "user",
"content": [
{"type": "text", "text": "What is the planned budget?"},
{"type": "file_id", "file_id": uploaded.id}
]
}
]
response = client.chat.complete(
model="mistral-small-latest",
messages=messages
)
Liema mudell ta’ chat għal liema mistoqsija
Il-parametru model huwa f’idejk, u jaffettwa kemm il-kwalità tat-tweġiba kif ukoll l-ispiża.
| Mudell | Profil | Meta tagħżlu |
|---|---|---|
mistral-small-latest | Mgħaġġel u ekonomiku | Biżżejjed għall-biċċa l-kbira tal-mistoqsijiet |
mistral-medium-latest | Kompromess tajjeb | Bilanċ bejn il-veloċità u l-preċiżjoni |
mistral-large-latest | Aktar preċiż | Analiżi u raġunar kumplessi |
L-għażla tiegħek tiddependi fuq il-kumplessità tal-mistoqsijiet tiegħek u l-baġit tiegħek: l-estrazzjoni ta’ ammont minn fattura ma teħtieġx l-istess mudell bħall-kumparazzjoni ta’ reġimi ta’ responsabbiltà bejn żewġ kuntratti.
Katina ta’ mistoqsijiet
M’għandekx għalfejn tistaqsi kollox f’daqqa. Tibgħat id-dokument fl-ewwel messaġġ, iżżid it-tweġiba tal-mudell mal-istorja, imbagħad tagħmel il-mistoqsija ta’ segwitu bħala test biss: il-kuntest tad-dokument jibqa’ fil-konversazzjoni. Din hija l-manjiera naturali biex tesplora rapport—ibda b’sommarju, imbagħad approfondixxi l-punt li jinteressa lilek.
history = [
{
"role": "user",
"content": [
{"type": "text", "text": "Summarize this document in 3 points."},
{
"type": "document_url",
"document_url": "https://example.com/report.pdf"
}
]
}
]
# L-ewwel sejħa
response = client.chat.complete(
model="mistral-small-latest",
messages=history
)
# Żid it-tweġiba mal-istorja
history.append({
"role": "assistant",
"content": response.choices[0].message.content
})
# Mistoqsija ta' segwitu
history.append({
"role": "user",
"content": "Detail the second point."
})
response = client.chat.complete(
model="mistral-small-latest",
messages=history
)
print(response.choices[0].message.content)
X’ma jagħmilx il-QnA għalik
Erba’ limitazzjonijiet huma importanti li tkun taf qabel ma tibni servizz fuq dan. L-ewwel, id-daqs: 50 MB kull fajl u massimu ta’ 1,000 paġna, li jeskludi arkivji kbar mingħajr qsim minn qabel. It-tieni, l-ispiża, peress li dokumenti twal jikkunsmaw ħafna tokens ta’ input ma’ kull mistoqsija magħmula. It-tielet, in-nuqqas ta’ memorja persistenti jfisser li trid tirrikostruwixxi l-istorja int stess; kull sejħa hija indipendenti barra minn konversazzjoni b’diversi dawriet. L-aktar punt delikat huwa l-aħħar wieħed: l-LLM jinterpreta daqs kemm jipproċessa, li jista’ jintroduċi żbalji fi figuri preċiżi. Għal ammont li jidħol fil-kontabbiltà, ippreferi annotazzjoni strutturata; irriżerva l-QnA għall-fehim u s-sinteżi.
Punti Ewlenin
- Document QnA juża l-endpoint tal-Chat b’kontenut
document_url: jew URL pubblika jew PDF kodifikat bħala base64 bħala data URL - Il-fluss tax-xogħol intern huwa OCR imbagħad LLM, iżda hija meħtieġa sejħa waħda biss
- Tliet metodi ta’ bagħut: URL, base64, fajl imtella’
- Konversazzjonijiet b’diversi dawriet jippermettu analiżi fil-fond
- Agħżel il-mudell tal-chat tiegħek abbażi tal-kumplessità tal-mistoqsijiet tiegħek