Pereiti prie pagrindinio turinio
Lietuvių— Pasirinkite kalbą
Meniu

Citatos su šaltiniais: nuorodų objektas ir RAG

Paskaita 8 iš 16 Atnaujinta 2026 m. lapkričio 3 d. Pažengusiems
Šiame puslapyje
  1. Kodėl citatos yra būtinos gamybinėje aplinkoje
  2. Nuorodų formatas
  3. RAG vamzdyno architektūra su citatomis
  4. Geriausios ištraukų (snippets) praktikos
  5. Svarbiausi punktai

Atnaujinta 2026 m. lapkričio 3 d. remiantis Mistral „Citatos ir nuorodos“ vadovu: šaltiniai perduodami kaip įrankio atsakymas objekte, kurio raktai yra skaičiai ("0", "1"…), o reikšmėse yra url, title, snippets (sąrašų sąrašas), description, date ir source. Ankstesnėje versijoje buvęs „Nuorodų objektas“ su laukais type, reference_id ir source_id dokumentacijoje nebeatsiranda, taip pat nėra nurodytų konkrečių slenksčių šaltinių skaičiui. Šaltinis: Citatos ir nuorodos.

Kodėl citatos yra būtinos gamybinėje aplinkoje

Diegdami papildytos generavimo paieška (RAG) sistemą gamybinėje aplinkoje, jūsų naudotojai turi galėti patikrinti modelio atsakymus. Atsakymas be šaltinio yra nepatikrinamas teiginys. Citatos paverčia DI atsakymą dokumentuotu, atsekamu ir patikimu.

„Mistral AI“ natūraliai integruoja citavimo mechanizmą, leidžiantį modeliui grindti savo atsakymus šaltinio dokumentais ir pateikti tikslias nuorodas. Modelis buvo giliai mokytas remtis dokumentais ir išgauti iš jų svarbias ištraukas.

Nuorodų formatas

„Mistral“ sistemoje šaltiniai neperduodami per atskirą parametrą: jie pasiekia modelį kaip įrankio iškvietimo rezultatas. Jūsų įrankis grąžina JSON objektą, kuriame kiekvienas raktas yra šaltinio numeris ("0", "1", "2"…), o kiekviena reikšmė apibūdina šaltinį:

references = {
    "0": {
        "url": "https://docs.example.com/guide",
        "title": "Deployment Guide v3.2",
        "snippets": [
            [
                "Production deployment requires verification...",
                "Load tests must validate at least 1000 req/s..."
            ]
        ],
        "description": None,
        "date": "2026-03-15",
        "source": "docs-deployment"
    }
}

Nuorodų laukai

  • Raktas ("0", "1"…) – šaltinio identifikatorius, kurį modelis naudoja savo citatose
  • url – originalaus šaltinio adresas
  • title – šaltinio pavadinimas, skirtas rodymui
  • snippets – svarbios ištraukos kaip sakinių sąrašų sąrašas: tai turinys, kuriuo modelis remiasi formuodamas atsakymą
  • description – trumpas aprašymas arba None
  • date – publikavimo arba atnaujinimo data
  • source – šaltinio kilmė (dokumentų duomenų bazė, svetainė)

RAG vamzdyno architektūra su citatomis

Visas darbo eigą galima suskirstyti į keturis žingsnius.

1. Dokumentų paieška

Jūsų paieškos sistema („Elasticsearch“, „Pinecone“, „pgvector“ ir kt.) grąžina dokumentus, aktualius naudotojo užklausai.

2. Nuorodų kūrimas

Susisteminate gautus dokumentus į šį formatą:

def build_references(search_results):
    """Converts search results to Mistral's reference format."""
    return {
        str(i): {
            "url": result.get("url", ""),
            "title": result["title"],
            "snippets": [result["relevant_passages"]],
            "description": None,
            "date": result.get("date"),
            "source": result.get("collection", "default"),
        }
        for i, result in enumerate(search_results)
    }

3. Modelio kvietimas naudojant įrankį

Deklaruojate įrankį, kurį modelis iškviečia norėdamas gauti šaltinius. Kai jis iškviečiamas, jūsų kodas grąžina json.dumps(references) žinutėje ToolMessage, o tada tęsiate pokalbį (kitame pamokoje).

from mistralai.client import Mistral

client = Mistral(api_key="your-api-key")

get_information_tool = {
    "type": "function",
    "function": {
        "name": "get_information",
        "description": "Retrieves relevant document sources",
        "parameters": {
            "type": "object",
            "properties": {"query": {"type": "string"}},
            "required": ["query"]
        }
    }
}

4. Modelis cituoja savo šaltinius

Galutinis atsakymas nėra paprasta eilutė: jo turinys kaitalioja objektus TextChunk ir ReferenceChunk, kuriuose laukas reference_ids turi cituojamų šaltinių numerius – 0 atitinka raktą "0". Šiuos numerius ieškote savo nuorodų lentelėje, kad parodytumėte pavadinimus ir nuorodas.

Geriausios ištraukų (snippets) praktikos

Citatų kokybė tiesiogiai priklauso nuo ištraukų kokybės, o pirmasis parametras, į kurį reikia atkreipti dėmesį, yra jų ilgis. Dviejų–penkių sakinių ištrauka modeliui suteikia tankų ir naudotiną tekstą; viso puslapio dydžio ištrauka taip praskiedžia svarbią informaciją, kad modelis gali cituoti šaltinį, tačiau realiai juo nesiremti. Tačiau saugokitės per trumpų ištraukų: iš konteksto išplėštas fragmentas gali būti neteisingai interpretuotas – frazė „kainos pakyla iki 20 %“ nieko nereiškia, jei ankstesnis sakinys, nurodęs, kokios kainos turimos omenyje, buvo nukirptas.

Šaltinių skaičius atlieka tą patį vaidmenį kaip ir ilgis, tik užklausos mastu: kiekvienas papildomas šaltinis eikvoja konteksto tokenus, nesvarbu, ar jis cituojamas, ar ne. Pradėkite nuo kelių šaltinių ir patikrinkite lauke reference_ids, kuriuos iš jų modelis iš tikrųjų naudoja, prieš pridėdami daugiau. Galiausiai, kai laikas yra svarbus (versijuojama dokumentacija, kainodara, reglamentai), užpildykite lauką date kiekvienam šaltiniui: tai informacija, kurią modelis gali panaudoti ir kurią galite rodyti.

Svarbiausi punktai

  • Šaltiniai perduodami kaip įrankio atsakymas, numeruojami ("0", "1"…), ir turi URL, pavadinimą, ištraukas bei metaduomenis
  • „Mistral“ modelis yra natūraliai mokytas grindti savo atsakymus pateiktais šaltiniais
  • Ištraukos turi būti glaustos ir kontekstualizuotos, kad citatos būtų kokybiškos
  • Optimaliam naudojimui apsiribokite 3–7 nuorodomis vienai užklausai
  • Citatos paverčia DI atsakymus patikrinama ir atsekama informacija