Implementera citat i Python
På denna sida
Uppdaterat den 3 november 2026 baserat på Mistral-guiden Citations & References: verktygsresultatet följer det dokumenterade formatet – ett objekt indexerat efter källnummer, utan fälten
typeellerreference_id– ochreference_idsi svaret löses viastr(ref_id)inom detta objekt. Källa: Citations & References.
Den kompletta citeringspipelinen
Nu ska du montera ihop en RAG-pipeline som citerar sina källor, från det första API-anropet till den datastruktur ditt gränssnitt konsumerar. Ha denna princip i åtanke: modellen hämtar aldrig dokument själv. Den signalerar att den behöver en sökning, du utför sökningen i din egen databas, och sedan returnerar du utdragen tillsammans med deras identifierare. Detta tur-och-retur-flöde ger ett svar där varje påstående förblir kopplat till ett verkligt dokument.
Specifikt kräver en fullständig cykel två anrop till chat.complete. Det första utlöser verktygsanropet; det andra genererar det citerade svaret när källorna har injicerats i historiken. Vi går igenom denna cykel med ett enkelt fall: en intern dokumentationsassistent som får frågor om bästa praxis för att distribuera en LLM.
Definiera modellkontraktet i systemmeddelandet
Systemmeddelandet sätter kontraktet: svara baserat på de tillhandahållna källorna, citera systematiskt och framför allt, medge när information saknas istället för att fylla gapet. Denna sista instruktion gör skillnaden i produktion, eftersom svar tenderar att driva iväg vid frågor som är dåligt täckta av dokumentationsbasen.
from mistralai.client import Mistral
import json
client = Mistral(api_key="your-api-key")
# Systemmeddelande som uppmuntrar till citering
system_message = {
"role": "system",
"content": (
"You are a documentation assistant. "
"Answer questions using the provided sources. "
"Cite your sources systematically. "
"If the information is not in any source, state this explicitly."
)
}
user_message = {
"role": "user",
"content": "What are the best practices for deploying an LLM in production?"
}
messages = [system_message, user_message]
Deklarera sökningsverktyget
Verktyget beskriver hur en dokumentsökning ser ut i ditt system: här en enkel funktion search_documentation som tar en textfråga. Det första anropet förväntar sig inget skrivet svar; det förväntar sig att modellen formulerar den fråga den anser relevant, vilket sparar dig från att skriva ett omskrivningslager.
reference_tool = {
"type": "function",
"function": {
"name": "search_documentation",
"description": "Searches the documentation database",
"parameters": {
"type": "object",
"properties": {
"query": {
"type": "string",
"description": "Search query"
}
},
"required": ["query"]
}
}
}
# Första anropet: modellen begär att få använda verktyget
response = client.chat.complete(
model="mistral-large-latest",
messages=messages,
tools=[reference_tool]
)
Returnera resultat i referensformat
Detta är det strukturella steget. Dina sökmotorresultat kommer tillbaka i ett ToolMessage vars innehåll är referensobjektet från föregående lektion: varje källa har ett nummer ("0", "1"…), en URL, en titel och de valda utdragen. Det är dessa nummer modellen återanvänder för att markera sina citat, och som ditt frontend senare löser upp till länkar.
from mistralai.client.models import ToolMessage
# Resultat från dokumentsökning, i Mistral-referensformat
references = {
"0": {
"url": "https://docs.example.com/deployment-guide",
"title": "LLM Deployment Guide",
"snippets": [[
"Always configure rate limits to protect the service.",
"Monitor P99 latency and error rates continuously."
]],
"description": None,
"date": "2026-09-01",
"source": "docs"
},
"1": {
"url": "https://docs.example.com/security",
"title": "AI Application Security",
"snippets": [[
"Filter user inputs to prevent injections.",
"Never expose API keys on the client side."
]],
"description": None,
"date": "2026-08-15",
"source": "docs"
},
"2": {
"url": "https://docs.example.com/scaling",
"title": "Scalability and Performance",
"snippets": [[
"Use semantic caching to reduce API calls.",
"Size instances based on peak traffic."
]],
"description": None,
"date": "2026-07-20",
"source": "docs"
}
}
# Lägg till verktygsanropet och svaret i historiken
tool_call = response.choices[0].message.tool_calls[0]
messages.append(response.choices[0].message)
messages.append(
ToolMessage(
tool_call_id=tool_call.id,
name="search_documentation",
content=json.dumps(references, ensure_ascii=False)
)
)
Observera att modellens ursprungliga meddelande injiceras på nytt i historiken före ToolMessage: utan detta par av verktygsanrop/verktygsresultat nekar API:t fortsättningen. Det andra anropet behöver inte längre verktygsdefinitionerna, eftersom sökningen redan har ägt rum.
# Andra anropet: modellen genererar ett svar med citat
final_response = client.chat.complete(
model="mistral-large-latest",
messages=messages
)
Separera text från referenser
Det citerade svaret är inte längre en enkel sträng utan en sekvens av chunkar som varvar prosa och citationsmarkeringar. Parsning innebär att traversera denna sekvens och sortera: TextChunk-objekt rekonstruerar den läsbara texten, medan ReferenceChunk-objekt levererar de reference_ids som faktiskt användes. Denna distinktion ger dig värdefull information: exakt vilka källor modellen använde bland de du tillhandahöll.
from mistralai.client.models import TextChunk, ReferenceChunk
def parse_cited_response(response):
"""Extraherar text och referenser från ett citerat svar."""
content_parts = response.choices[0].message.content
text_parts = []
cited_refs = set()
for chunk in content_parts:
if isinstance(chunk, TextChunk):
text_parts.append(chunk.text)
elif isinstance(chunk, ReferenceChunk):
for ref_id in chunk.reference_ids:
cited_refs.add(ref_id)
return {
"text": "".join(text_parts),
"references_used": list(cited_refs)
}
result = parse_cited_response(final_response)
print("=== Svar ===")
print(result["text"])
print("\n=== Citerade källor ===")
for ref_id in result["references_used"]:
source = references[str(ref_id)]
print(f" - {source['title']} : {source['url']}")
Förbered visning i frontend
Att platta ut svaret till vanlig text skulle förlora placeringen av citaten, och därmed deras värde. Det är bättre att behålla sekvensen och berika den: lös upp varje ReferenceChunk mot en referenstabell för att bära med titel och URL för varje källa. Ditt gränssnitt får därmed en ordnad lista över block som det kan rendera som klickbara länkar, tooltips eller interaktiva citationsnummer, utan att någonsin behöva tolka texten på nytt.
def format_for_frontend(response, reference_map):
"""Formaterar svaret med citat för frontend."""
content_parts = response.choices[0].message.content
formatted = []
for chunk in content_parts:
if isinstance(chunk, TextChunk):
formatted.append({
"type": "text",
"content": chunk.text
})
elif isinstance(chunk, ReferenceChunk):
refs = []
for ref_id in chunk.reference_ids:
source = reference_map.get(str(ref_id))
if source:
refs.append({
"id": ref_id,
"title": source["title"],
"url": source["url"]
})
formatted.append({
"type": "citation",
"references": refs
})
return formatted
Innan du öppnar denna pipeline för din fullständiga dokumentationsbas, kör den med bara tre till fem källor, som i exemplet ovan. Du kommer omedelbart att se om modellen citerar på rätt ställe, om den utnyttjar flera dokument, eller om den systematiskt klamrar sig fast vid den första, vilket låter dig korrigera systemmeddelandet innan beteendet går förlorat i volymen.
Viktiga punkter
- Pipelinen följer ett flöde med två anrop: verktygsanrop följt av citerat svar
- Referenser skickas via
ToolMessage, i ett objekt indexerat efter källnummer ("0","1"…) - Svaret innehåller en blandning av
TextChunkochReferenceChunkatt parsas - Strukturera utdata så att ditt frontend kan visa interaktiva citat
- Testa med 3–5 källor för att validera beteendet innan du går till produktion