Pāriet uz galveno saturu
Latviešu— Izvēlēties valodu
Izvēlne

Citāti ar avotiem: atsauces objekts un RAG

Nodarbība 8 no 16 Atjaunota 2026. gada 3. novembris Augstākais
Šajā lapā
  1. Kāpēc citāti ir būtiski ražošanas vidē
  2. Atsauces formāts
  3. RAG cauruļvada arhitektūra ar citātiem
  4. Labākā prakse fragmentiem
  5. Galvenās atziņas

Atjaunināts 2026. gada 3. novembrī, pamatojoties uz Mistral Citations & References rokasgrāmatu: avoti tiek nodoti kā rīka rezultāts objektā, kur atslēgas ir skaitļi ("0", "1"…), bet vērtības satur url, title, snippets (sarakstu saraksts), description, date un source. Iepriekšējās versijas “atsauces objekts” ar laukiem type, reference_id un source_id dokumentācijā neparādās, tāpat kā nav norādīti konkrēti sliekšņi avotu skaitam. Avots: Citations & References.

Kāpēc citāti ir būtiski ražošanas vidē

Izvēršot ar izgūšanu papildinātu ģenerēšanu (RAG) ražošanas vidē, taviem lietotājiem ir jāspēj pārbaudīt modeļa atbildes. Atbilde bez avota ir nepārbaudāms apgalvojums. Citāti pārvērš AI atbildi dokumentētā, izsekojamā un uzticamā informācijā.

Mistral AI dabiski integrē citātu mehānismu, kas ļauj modelim balstīt savas atbildes uz avota dokumentiem un sniegt precīzas atsauces. Modelis ir dziļi apmācīts, lai balstītos uz dokumentiem un izgūtu no tiem atbilstošus fragmentus.

Atsauces formāts

Pie Mistral avoti netiek nodoti caur īpašu parametru: tie nonāk modelī kā rīka izsaukuma rezultāts. Tavs rīks atgriež JSON objektu, kur katra atslēga ir avota numurs ("0", "1", "2"…), un katra vērtība apraksta avotu:

references = {
    "0": {
        "url": "https://docs.example.com/guide",
        "title": "Deployment Guide v3.2",
        "snippets": [
            [
                "Production deployment requires verification...",
                "Load tests must validate at least 1000 req/s..."
            ]
        ],
        "description": None,
        "date": "2026-03-15",
        "source": "docs-deployment"
    }
}

Atsauces lauki

  • Atslēga ("0", "1"…) — avota identifikators, ko modelis izmanto savos citātos
  • url — oriģinālā avota adrese
  • title — avota nosaukums, paredzēts attēlošanai
  • snippets — atbilstošie izrakumi kā teikumu sarakstu saraksts: tas ir saturs, ko modelis izmanto, lai balstītu savu atbildi
  • description — īss apraksts vai None
  • date — publicēšanas vai atjaunināšanas datums
  • source — avota izcelsme (dokumentu datubāze, tīmekļa vietne)

RAG cauruļvada arhitektūra ar citātiem

Pilns darba process sadalās četros posmos.

1. Dokumentu meklēšana

Tava izgūšanas sistēma (Elasticsearch, Pinecone, pgvector u.c.) atgriež dokumentus, kas ir atbilstoši lietotāja vaicājumam.

2. Atsauču veidošana

Tu strukturē izgūtos dokumentus šādā formātā:

def build_references(search_results):
    """Pārvērš meklēšanas rezultātus Mistral atsauces formātā."""
    return {
        str(i): {
            "url": result.get("url", ""),
            "title": result["title"],
            "snippets": [result["relevant_passages"]],
            "description": None,
            "date": result.get("date"),
            "source": result.get("collection", "default"),
        }
        for i, result in enumerate(search_results)
    }

3. Modeļa izsaukums ar rīku

Tu deklarē rīku, ko modelis izsauc, lai iegūtu avotus. Kad tas tiek izsaukts, tavs kods atgriež json.dumps(references) kā ToolMessage, pēc tam tu turpini sarunu (nākamajā nodarbībā).

from mistralai.client import Mistral

client = Mistral(api_key="your-api-key")

get_information_tool = {
    "type": "function",
    "function": {
        "name": "get_information",
        "description": "Retrieves relevant document sources",
        "parameters": {
            "type": "object",
            "properties": {"query": {"type": "string"}},
            "required": ["query"]
        }
    }
}

4. Modelis citē savus avotus

Galīgā atbilde nav vienkārša virkne: tās saturs mainās starp TextChunk un ReferenceChunk objektiem, kur lauks reference_ids satur citēto avotu numurus — 0 atslēgai "0". Tu meklē šos numurus savā atsauču tabulā, lai attēlotu nosaukumus un saites.

Labākā prakse fragmentiem

Citātu kvalitāte ir tieši atkarīga no fragmentu kvalitātes, un pirmais parametrs, kam jāpievērš uzmanība, ir to garums. Divu līdz piecu teikumu fragments nodrošina modelim blīvu un izmantojamu teksta daļu; izrakums, kas aizņem veselu lapu, atšķaida būtisko informāciju tik ļoti, ka modelis var citēt avotu, patiesībā uz to nebalstoties. Tomēr uzmanies, lai nesagrieztu pārāk īsi: fragments, izrauts no konteksta, var tikt pārprasts — „likme pieaug līdz 20%” nozīmē neko, ja iepriekšējais teikums, kas precizēja, par kuru likmi ir runa, ir nogriezts.

Avotu skaitam ir tāda pati loma kā garumam vaicājuma mērogā: katrs papildu avots izmaksā konteksta tokenus, neatkarīgi no tā, vai tas tiek citēts, vai nē. Sāc ar nelielu avotu skaitu un pārbaudi laukā reference_ids, kurus no tiem modelis faktiski izmanto, pirms pievieno vēl. Visbeidzot, ja laiks ir svarīgs (versiju dokumentācija, cenas, regulējumi), aizpildi lauku date katram avotam: tā ir informācija, ko modelis var izmantot un ko tu vari attēlot.

Galvenās atziņas

  • Avoti tiek nodoti caur rīka rezultātu, indeksēti pēc numura ("0", "1"…), saturot URL, nosaukumu, fragmentus un metadatus
  • Mistral modelis ir dabiski apmācīts balstīt savas atbildes uz nodrošinātajiem avotiem
  • Fragmentiem jābūt kodolīgiem un kontekstuāliem, lai nodrošinātu augstas kvalitātes citātus
  • Ierobežo sevi ar 3–7 atsaucēm uz vienu vaicājumu optimālai izmantošanai
  • Citāti pārvērš AI atbildes pārbaudāmā un izsekojamā informācijā