Citatos su šaltiniais: nuorodų objektas ir RAG
Šiame puslapyje
Atnaujinta 2026 m. lapkričio 3 d. remiantis Mistral „Citatos ir nuorodos“ vadovu: šaltiniai perduodami kaip įrankio atsakymas objekte, kurio raktai yra skaičiai (
"0","1"…), o reikšmėse yraurl,title,snippets(sąrašų sąrašas),description,dateirsource. Ankstesnėje versijoje buvęs „Nuorodų objektas“ su laukaistype,reference_idirsource_iddokumentacijoje nebeatsiranda, taip pat nėra nurodytų konkrečių slenksčių šaltinių skaičiui. Šaltinis: Citatos ir nuorodos.
Kodėl citatos yra būtinos gamybinėje aplinkoje
Diegdami papildytos generavimo paieška (RAG) sistemą gamybinėje aplinkoje, jūsų naudotojai turi galėti patikrinti modelio atsakymus. Atsakymas be šaltinio yra nepatikrinamas teiginys. Citatos paverčia DI atsakymą dokumentuotu, atsekamu ir patikimu.
„Mistral AI“ natūraliai integruoja citavimo mechanizmą, leidžiantį modeliui grindti savo atsakymus šaltinio dokumentais ir pateikti tikslias nuorodas. Modelis buvo giliai mokytas remtis dokumentais ir išgauti iš jų svarbias ištraukas.
Nuorodų formatas
„Mistral“ sistemoje šaltiniai neperduodami per atskirą parametrą: jie pasiekia modelį kaip įrankio iškvietimo rezultatas. Jūsų įrankis grąžina JSON objektą, kuriame kiekvienas raktas yra šaltinio numeris ("0", "1", "2"…), o kiekviena reikšmė apibūdina šaltinį:
references = {
"0": {
"url": "https://docs.example.com/guide",
"title": "Deployment Guide v3.2",
"snippets": [
[
"Production deployment requires verification...",
"Load tests must validate at least 1000 req/s..."
]
],
"description": None,
"date": "2026-03-15",
"source": "docs-deployment"
}
}
Nuorodų laukai
- Raktas (
"0","1"…) – šaltinio identifikatorius, kurį modelis naudoja savo citatose url– originalaus šaltinio adresastitle– šaltinio pavadinimas, skirtas rodymuisnippets– svarbios ištraukos kaip sakinių sąrašų sąrašas: tai turinys, kuriuo modelis remiasi formuodamas atsakymądescription– trumpas aprašymas arbaNonedate– publikavimo arba atnaujinimo datasource– šaltinio kilmė (dokumentų duomenų bazė, svetainė)
RAG vamzdyno architektūra su citatomis
Visas darbo eigą galima suskirstyti į keturis žingsnius.
1. Dokumentų paieška
Jūsų paieškos sistema („Elasticsearch“, „Pinecone“, „pgvector“ ir kt.) grąžina dokumentus, aktualius naudotojo užklausai.
2. Nuorodų kūrimas
Susisteminate gautus dokumentus į šį formatą:
def build_references(search_results):
"""Converts search results to Mistral's reference format."""
return {
str(i): {
"url": result.get("url", ""),
"title": result["title"],
"snippets": [result["relevant_passages"]],
"description": None,
"date": result.get("date"),
"source": result.get("collection", "default"),
}
for i, result in enumerate(search_results)
}
3. Modelio kvietimas naudojant įrankį
Deklaruojate įrankį, kurį modelis iškviečia norėdamas gauti šaltinius. Kai jis iškviečiamas, jūsų kodas grąžina json.dumps(references) žinutėje ToolMessage, o tada tęsiate pokalbį (kitame pamokoje).
from mistralai.client import Mistral
client = Mistral(api_key="your-api-key")
get_information_tool = {
"type": "function",
"function": {
"name": "get_information",
"description": "Retrieves relevant document sources",
"parameters": {
"type": "object",
"properties": {"query": {"type": "string"}},
"required": ["query"]
}
}
}
4. Modelis cituoja savo šaltinius
Galutinis atsakymas nėra paprasta eilutė: jo turinys kaitalioja objektus TextChunk ir ReferenceChunk, kuriuose laukas reference_ids turi cituojamų šaltinių numerius – 0 atitinka raktą "0". Šiuos numerius ieškote savo nuorodų lentelėje, kad parodytumėte pavadinimus ir nuorodas.
Geriausios ištraukų (snippets) praktikos
Citatų kokybė tiesiogiai priklauso nuo ištraukų kokybės, o pirmasis parametras, į kurį reikia atkreipti dėmesį, yra jų ilgis. Dviejų–penkių sakinių ištrauka modeliui suteikia tankų ir naudotiną tekstą; viso puslapio dydžio ištrauka taip praskiedžia svarbią informaciją, kad modelis gali cituoti šaltinį, tačiau realiai juo nesiremti. Tačiau saugokitės per trumpų ištraukų: iš konteksto išplėštas fragmentas gali būti neteisingai interpretuotas – frazė „kainos pakyla iki 20 %“ nieko nereiškia, jei ankstesnis sakinys, nurodęs, kokios kainos turimos omenyje, buvo nukirptas.
Šaltinių skaičius atlieka tą patį vaidmenį kaip ir ilgis, tik užklausos mastu: kiekvienas papildomas šaltinis eikvoja konteksto tokenus, nesvarbu, ar jis cituojamas, ar ne. Pradėkite nuo kelių šaltinių ir patikrinkite lauke reference_ids, kuriuos iš jų modelis iš tikrųjų naudoja, prieš pridėdami daugiau. Galiausiai, kai laikas yra svarbus (versijuojama dokumentacija, kainodara, reglamentai), užpildykite lauką date kiekvienam šaltiniui: tai informacija, kurią modelis gali panaudoti ir kurią galite rodyti.
Svarbiausi punktai
- Šaltiniai perduodami kaip įrankio atsakymas, numeruojami (
"0","1"…), ir turi URL, pavadinimą, ištraukas bei metaduomenis - „Mistral“ modelis yra natūraliai mokytas grindti savo atsakymus pateiktais šaltiniais
- Ištraukos turi būti glaustos ir kontekstualizuotos, kad citatos būtų kokybiškos
- Optimaliam naudojimui apsiribokite 3–7 nuorodomis vienai užklausai
- Citatos paverčia DI atsakymus patikrinama ir atsekama informacija