Die Dokument-QnA-API
Auf dieser Seite
Lektion aktualisiert am 3. November 2026. Ergänzung am 3. November 2026: Um ein lokales PDF zu senden, übermitteln Sie es im Format
{"type": "document_url", "document_url": "data:application/pdf;base64,…"}als base64-Kodierung. Der Typdocument_base64, der in älteren Beispielen vorkommt, existiert weder in der Dokumentation noch immistralaiSDK; diese Beispiele wären fehlerhaft gewesen. Quellen: OCR-Verarbeiter · Dokument-QnA.
Dokumentinhalte in natürlicher Sprache abfragen
Die Dokument-QnA-Funktion kombiniert OCR mit einem Mistral-LLM, sodass Sie direkt Fragen zum Inhalt Ihrer Dokumente stellen können. Anstatt fünfzig Seiten durchzusehen, um eine bestimmte Klausel oder eine Abbildung zu finden, stellen Sie einfach die Frage und lesen die Antwort. Im Hintergrund läuft der Dienst in zwei Schritten: Zuerst extrahiert die OCR Text, Struktur und Formatierung, anschließend analysiert ein Mistral-Chat-Modell den extrahierten Inhalt, um eine Antwort zu generieren. Diese Kombination ist für Sie transparent: Eine einzige API-Aufruf erledigt alles.
Ein anderer Endpunkt als bei OCR
Dies ist der Punkt, an dem Anfänger beim ersten Versuch oft scheitern. Reine OCR verwendet client.ocr.process, wohingegen QnA den Standard-Chat-Endpunkt client.chat.complete nutzt, mit einer Nachricht, die sowohl einen Textblock als auch einen document_url-Block enthält. Mit anderen Worten: Das Dokument wird wie ein Bild in einem multimodalen Austausch als Anhang zu Ihrer Frage hinzugefügt.
import os
from mistralai.client import Mistral
client = Mistral(api_key=os.environ["MISTRAL_API_KEY"])
# Frage zu einem öffentlichen Dokument
response = client.chat.complete(
model="mistral-small-latest",
messages=[
{
"role": "user",
"content": [
{
"type": "text",
"text": "Was ist das insgesamt erwähnte Umsatz?"
},
{
"type": "document_url",
"document_url": "https://example.com/annual-report.pdf"
}
]
}
]
)
print(response.choices[0].message.content)
Drei Möglichkeiten, das Dokument zu senden
Ein öffentlicher URL ist der direkteste Weg und ideal für Dokumente, die bereits online zugänglich sind – wie eine wissenschaftliche Publikation, ein institutioneller Bericht oder ein PDF, das auf Ihrer Website gehostet wird.
messages = [
{
"role": "user",
"content": [
{"type": "text", "text": "Fassen Sie die Hauptpunkte zusammen."},
{
"type": "document_url",
"document_url": "https://arxiv.org/pdf/1805.04770"
}
]
}
]
response = client.chat.complete(
model="mistral-small-latest",
messages=messages
)
Lokale Dateien hingegen werden als base64-Kodierung gesendet. Dies ist der Standardmodus, sobald ein Dokument vertraulich ist oder hinter Ihrem Firewall-Gitter gespeichert wird; nichts muss im Web veröffentlicht werden, um abgefragt zu werden.
import base64
with open("contract.pdf", "rb") as f:
doc_base64 = base64.b64encode(f.read()).decode("utf-8")
messages = [
{
"role": "user",
"content": [
{
"type": "text",
"text": "Welche Kündigungsklauseln gibt es?"
},
{
"type": "document_url",
"document_url": f"data:application/pdf;base64,{doc_base64}"
}
]
}
]
response = client.chat.complete(
model="mistral-small-latest",
messages=messages
)
Schließlich gibt es die dritte Option für Dateien, die bereits über die Files-API hochgeladen wurden: Sie laden das Dokument einmal mit purpose="ocr" hoch und verweisen dann so oft wie nötig auf die resultierende ID. Bei einem Dokument, das Sie mehrmals abfragen möchten, vermeidet dies das erneute Hochladen von mehreren Megabyte bei jeder Frage.
uploaded = client.files.upload(
file=open("report.pdf", "rb"),
purpose="ocr"
)
messages = [
{
"role": "user",
"content": [
{"type": "text", "text": "Was ist der geplante Budget?"},
{"type": "file_id", "file_id": uploaded.id}
]
}
]
response = client.chat.complete(
model="mistral-small-latest",
messages=messages
)
Welches Chat-Modell für welche Frage
Der Parameter model liegt in Ihrer Hand und beeinflusst sowohl die Antwortqualität als auch die Kosten.
| Modell | Profil | Wann wählen |
|---|---|---|
mistral-small-latest | Schnell und wirtschaftlich | Ausreichend für die meisten Fragen |
mistral-medium-latest | Guter Kompromiss | Ausgewogenes Verhältnis von Geschwindigkeit und Genauigkeit |
mistral-large-latest | Präziser | Komplexe Analysen und Schlussfolgerungen |
Ihre Wahl hängt von der Komplexität Ihrer Fragen und Ihrem Budget ab: Die Extraktion eines Betrags aus einer Rechnung erfordert nicht dasselbe Modell wie der Vergleich von Haftungsregimen zwischen zwei Verträgen.
Fragenketten
Sie müssen nicht alles auf einmal fragen. Sie senden das Dokument in der ersten Nachricht, fügen die Antwort des Modells zur Historie hinzu und stellen Ihre Nachfolgefrage dann ausschließlich als Text: Der Dokument-Kontext bleibt im Gespräch erhalten. Dies ist der natürliche Weg, einen Bericht zu erkunden: Beginnen Sie mit einer Zusammenfassung, tauchen Sie dann tiefer in den Punkt ein, der Sie interessiert.
history = [
{
"role": "user",
"content": [
{"type": "text", "text": "Fassen Sie dieses Dokument in 3 Punkten zusammen."},
{
"type": "document_url",
"document_url": "https://example.com/report.pdf"
}
]
}
]
# Erster Aufruf
response = client.chat.complete(
model="mistral-small-latest",
messages=history
)
# Antwort zur Historie hinzufügen
history.append({
"role": "assistant",
"content": response.choices[0].message.content
})
# Nachfolgefrage
history.append({
"role": "user",
"content": "Erläutern Sie den zweiten Punkt."
})
response = client.chat.complete(
model="mistral-small-latest",
messages=history
)
print(response.choices[0].message.content)
Was QnA für Sie nicht tut
Vier Einschränkungen sind zu kennen, bevor Sie einen Dienst auf dieser Basis erstellen. Erstens die Größe: 50 MB pro Datei und maximal 1.000 Seiten, was große Archive ohne vorheriges Aufteilen ausschließt. Zweitens die Kosten, da lange Dokumente bei jeder gestellten Frage viele Eingabetokens verbrauchen. Drittens das Fehlen von persistentem Speicher: Sie müssen die Historie selbst rekonstruieren; jeder Aufruf ist außerhalb eines mehrstufigen Gesprächs unabhängig. Der schwierigste Punkt ist der letzte: Das LLM interpretiert genauso sehr wie es extrahiert, was zu Fehlern bei genauen Zahlen führen kann. Für einen Betrag, der in die Buchhaltung fließt, bevorzugen Sie strukturierte Annotation; reservieren Sie QnA für Verständnis und Synthese.
Kernaussagen
- Dokument-QnA nutzt den Chat-Endpunkt mit
document_url-Inhalt: entweder ein öffentlicher URL oder ein als data-URL base64-kodiertes PDF - Der interne Arbeitsablauf ist OCR gefolgt von LLM, aber nur ein Aufruf ist erforderlich
- Drei Sendemethoden: URL, base64, hochgeladene Datei
- Mehrstufige Gespräche ermöglichen vertiefte Analysen
- Wählen Sie Ihr Chat-Modell basierend auf der Komplexität Ihrer Fragen