Citāti ar avotiem: atsauces objekts un RAG
Šajā lapā
Atjaunināts 2026. gada 3. novembrī, pamatojoties uz Mistral Citations & References rokasgrāmatu: avoti tiek nodoti kā rīka rezultāts objektā, kur atslēgas ir skaitļi (
"0","1"…), bet vērtības satururl,title,snippets(sarakstu saraksts),description,dateunsource. Iepriekšējās versijas “atsauces objekts” ar laukiemtype,reference_idunsource_iddokumentācijā neparādās, tāpat kā nav norādīti konkrēti sliekšņi avotu skaitam. Avots: Citations & References.
Kāpēc citāti ir būtiski ražošanas vidē
Izvēršot ar izgūšanu papildinātu ģenerēšanu (RAG) ražošanas vidē, taviem lietotājiem ir jāspēj pārbaudīt modeļa atbildes. Atbilde bez avota ir nepārbaudāms apgalvojums. Citāti pārvērš AI atbildi dokumentētā, izsekojamā un uzticamā informācijā.
Mistral AI dabiski integrē citātu mehānismu, kas ļauj modelim balstīt savas atbildes uz avota dokumentiem un sniegt precīzas atsauces. Modelis ir dziļi apmācīts, lai balstītos uz dokumentiem un izgūtu no tiem atbilstošus fragmentus.
Atsauces formāts
Pie Mistral avoti netiek nodoti caur īpašu parametru: tie nonāk modelī kā rīka izsaukuma rezultāts. Tavs rīks atgriež JSON objektu, kur katra atslēga ir avota numurs ("0", "1", "2"…), un katra vērtība apraksta avotu:
references = {
"0": {
"url": "https://docs.example.com/guide",
"title": "Deployment Guide v3.2",
"snippets": [
[
"Production deployment requires verification...",
"Load tests must validate at least 1000 req/s..."
]
],
"description": None,
"date": "2026-03-15",
"source": "docs-deployment"
}
}
Atsauces lauki
- Atslēga (
"0","1"…) — avota identifikators, ko modelis izmanto savos citātos url— oriģinālā avota adresetitle— avota nosaukums, paredzēts attēlošanaisnippets— atbilstošie izrakumi kā teikumu sarakstu saraksts: tas ir saturs, ko modelis izmanto, lai balstītu savu atbildidescription— īss apraksts vaiNonedate— publicēšanas vai atjaunināšanas datumssource— avota izcelsme (dokumentu datubāze, tīmekļa vietne)
RAG cauruļvada arhitektūra ar citātiem
Pilns darba process sadalās četros posmos.
1. Dokumentu meklēšana
Tava izgūšanas sistēma (Elasticsearch, Pinecone, pgvector u.c.) atgriež dokumentus, kas ir atbilstoši lietotāja vaicājumam.
2. Atsauču veidošana
Tu strukturē izgūtos dokumentus šādā formātā:
def build_references(search_results):
"""Pārvērš meklēšanas rezultātus Mistral atsauces formātā."""
return {
str(i): {
"url": result.get("url", ""),
"title": result["title"],
"snippets": [result["relevant_passages"]],
"description": None,
"date": result.get("date"),
"source": result.get("collection", "default"),
}
for i, result in enumerate(search_results)
}
3. Modeļa izsaukums ar rīku
Tu deklarē rīku, ko modelis izsauc, lai iegūtu avotus. Kad tas tiek izsaukts, tavs kods atgriež json.dumps(references) kā ToolMessage, pēc tam tu turpini sarunu (nākamajā nodarbībā).
from mistralai.client import Mistral
client = Mistral(api_key="your-api-key")
get_information_tool = {
"type": "function",
"function": {
"name": "get_information",
"description": "Retrieves relevant document sources",
"parameters": {
"type": "object",
"properties": {"query": {"type": "string"}},
"required": ["query"]
}
}
}
4. Modelis citē savus avotus
Galīgā atbilde nav vienkārša virkne: tās saturs mainās starp TextChunk un ReferenceChunk objektiem, kur lauks reference_ids satur citēto avotu numurus — 0 atslēgai "0". Tu meklē šos numurus savā atsauču tabulā, lai attēlotu nosaukumus un saites.
Labākā prakse fragmentiem
Citātu kvalitāte ir tieši atkarīga no fragmentu kvalitātes, un pirmais parametrs, kam jāpievērš uzmanība, ir to garums. Divu līdz piecu teikumu fragments nodrošina modelim blīvu un izmantojamu teksta daļu; izrakums, kas aizņem veselu lapu, atšķaida būtisko informāciju tik ļoti, ka modelis var citēt avotu, patiesībā uz to nebalstoties. Tomēr uzmanies, lai nesagrieztu pārāk īsi: fragments, izrauts no konteksta, var tikt pārprasts — „likme pieaug līdz 20%” nozīmē neko, ja iepriekšējais teikums, kas precizēja, par kuru likmi ir runa, ir nogriezts.
Avotu skaitam ir tāda pati loma kā garumam vaicājuma mērogā: katrs papildu avots izmaksā konteksta tokenus, neatkarīgi no tā, vai tas tiek citēts, vai nē. Sāc ar nelielu avotu skaitu un pārbaudi laukā reference_ids, kurus no tiem modelis faktiski izmanto, pirms pievieno vēl. Visbeidzot, ja laiks ir svarīgs (versiju dokumentācija, cenas, regulējumi), aizpildi lauku date katram avotam: tā ir informācija, ko modelis var izmantot un ko tu vari attēlot.
Galvenās atziņas
- Avoti tiek nodoti caur rīka rezultātu, indeksēti pēc numura (
"0","1"…), saturot URL, nosaukumu, fragmentus un metadatus - Mistral modelis ir dabiski apmācīts balstīt savas atbildes uz nodrošinātajiem avotiem
- Fragmentiem jābūt kodolīgiem un kontekstuāliem, lai nodrošinātu augstas kvalitātes citātus
- Ierobežo sevi ar 3–7 atsaucēm uz vienu vaicājumu optimālai izmantošanai
- Citāti pārvērš AI atbildes pārbaudāmā un izsekojamā informācijā