Pereiti prie pagrindinio turinio
Lietuvių— Pasirinkite kalbą
Meniu

Pagrindinės generatyviojo DI sąvokos

Paskaita 12 iš 16 Atnaujinta 2026 m. lapkričio 2 d. Pradedantisiems
Šiame puslapyje
  1. Esminio žodyno įvaldymas
  2. RAG – paieška pagrįstas generavimas
  3. Įterpiniai – vektoriniai vaizdiniai
  4. Derinimas – pritaikymas pagal poreikį
  5. Temperatūra – kūrybiškumo slankiklis
  6. Haliucinacijos – kai modelis išgalvoja
  7. Pagrindimas – įsitvirtinimas realybėje
  8. Užklausa – instrukcija modeliui
  9. Svarbiausi punktai

Atnaujinta 2026 m. lapkričio 2 d. — „Le Chat“ tampa „Vibe“. Nuo 2026 m. gegužės 28 d. „Le Chat“ dabar yra Vibe (vis tiek adresu chat.mistral.ai): vienas agentas darbui ir kodui, perkeliantis jūsų pokalbius, nustatymus ir prenumeratas. Senoji „Le Chat“ patirtis vis dar pasiekiama režimu Chat; režimu Work agentai dabar yra įgūdžiai (kviečiami naudojant @), atmintys tapo žinių baze, o išsami paieška – įgūdžiu „Deep Research“. Planai dabar vadinami „Mistral Free“, „Pro“, „Team“ ir „Enterprise“. Šioje pamokoje naudojamas pavadinimas „Vibe“; kai kurie čia aprašyti meniu pavadinimai arba vieta gali būti pasikeitę.

Esminio žodyno įvaldymas

Yra keletas terminų, su kuriais susidursite kiekviename susitikime, kiekvienoje dokumentacijoje ir kiekvienoje diskusijoje su technine komanda apie generatyvųjį DI: RAG, įterpiniai (embeddings), derinimas (fine-tuning), temperatūra, haliucinacijos, pagrindimas (grounding). Šioje pamokoje juos paaiškinsime vieną po kito ne kaip žodyno apibrėžtis, o kaip įrankius, kuriuos mokėsite panaudoti realiame pokalbyje. Kai tiekėjas pasiūlys „RAG pokalbių robotą su „Mistral“ įterpiniais”, tiksliai žinosite, ką jis jums parduoda – ir kokius klausimus užduoti.

RAG – paieška pagrįstas generavimas

RAG (angl. retrieval-augmented generation) yra vienas iš plačiausiai naudojamų būdų pagerinti didžiųjų kalbos modelių (LLM) atsakymų kokybę. Principas remiasi paprastu stebėjimu: vietoj to, kad pasikliautumėte tik vidine modelio žinia, klausimo metu pateikiate jam aktualią informaciją, išgautą iš išorinės duomenų bazės.

Mechanizmas vyksta keturiais etapais:

  1. Vartotojas užduoda klausimą
  2. Paieškos sistema nustato aktualius dokumentus žinių bazėje
  3. Šie dokumentai įterpiami į modelio kontekstą
  4. Modelis sugeneruoja atsakymą remdamasis šia naujausia informacija

Kodėl tai taip svarbu? Nes RAG išsprendžia pagrindinę LLM problemą: jų žinios yra „užšaldytos“ jų mokymo datos momentu. Modelis, apmokytas praėjusiais metais, nieko nežino apie jūsų naują produktų katalogą, jūsų departamento reorganizaciją ar praėjusį mėnesį paskelbtus reglamentus. Taikydamas RAG, jis gali atsakyti į klausimus apie naujausius įvykius, apie jūsų įmonės vidinius duomenis arba apie jūsų pateiktus dokumentus. Įsivaizduokite HR skyrių, kuris kiekvieną savaitę gauna tuos pačius klausimus apie kolektyvinę sutartį: RAG asistentas, sujungtas su įmonės susitarimais, atsako cituodamas tinkamą straipsnį, o ne improvizuodamas iš atminties. Būtent ši technologija varo „Vibe“ interneto paiešką ir daugumą įmonių pokalbių robotų.

Įterpiniai – vektoriniai vaizdiniai

Įterpiniai (angl. embeddings) yra skaitmeniniai teksto vaizdiniai vektorių pavidalu, tai yra, skaičių sąrašai. Kiekvienas žodis, sakinys ar dokumentas paverčiamas tašku aukštadimensėje matematinėje erdvėje. Pagrindinė mintis telpa į vieną sakinį: du semantiškai artimi tekstai turės erdvėje artimus įterpinius. „Šuo“ ir „kaninas“ bus kaimynai; „šuo“ ir „skaičiuoklė“ bus labai toli vienas nuo kito, nors nė viena iš šių porų neturi reikšmingų bendrų raidžių.

Ši savybė viską keičia informacijos paieškoje. Tradicinė raktinių žodžių paieška nerastų dokumento apie „tarpusavio nutraukimą“, jei ieškotumėte „draugiško sutarties nutraukimo“; semantinė paieška naudojant įterpinius tai padarytų, nes abi formuluočios nukreipia į tą pačią vektorinės erdvės sritį. Be paieškos, įterpiniai naudojami automatiškai klasifikuoti tekstus pagal temą, aptikti dublikatus ar panašų turinį ir – kaip matėme ankstesnėje šio skyriaus pamokoje – atrinkti aktualius dokumentus RAG sistemoje. „Mistral“ siūlo specializuotus įterpinių modelius „Mistral Embed“ ir „Codestral Embed“, kurie jūsų tekstą paverčia naudojamais vektoriais.

Derinimas – pritaikymas pagal poreikį

Derinimas (angl. fine-tuning) – tai iš anksto apmokyto modelio mokymo tęsimas naudojant jūsų pačių duomenis, siekiant jį pritaikyti konkrečiam poreikiui. Tiksliausias vaizdinys – tai bendrosios praktikos gydytojas, tapęs specialistu: bendrosios žinios jau yra, jūs pridėjate specifinę ekspertizę.

Jo prireikia keliose situacijose. Prekės ženklas, norintis, kad visi jo atsakymai klientams atitiktų specifinį toną ir stilių, gali derinti modelį naudodamas savo geriausius ankstesnius susirašinėjimus. Advokatų kontora ar medicinos skyrius gali įdiegti pramonei būdingą žodyną, kurį bendrojo profilio modelis tvarko apytiksliai. Komanda, apdorojanti tūkstančius el. laiškų per dieną, gali specializuoti modelį konkrečiai užduočiai, pavyzdžiui, klasifikavimui ar entitetų išgavimui, gaudama geresnių rezultatų nei naudojant bendrąją užklausą. Galiausiai, distiliavimas – tai žinių perkėlimas iš didelio modelio į mažą, siekiant panašaus našumo gerokai mažesnėmis sąnaudomis. „Mistral“ ekosistemoje būtent platforma Forge leidžia derinti atvirus modelius: paruošiate klausimų ir atsakymų porų duomenų rinkinį, paleidžiate mokymą ir gaunate pritaikytą modelį, kurį galima diegti per API.

Temperatūra – kūrybiškumo slankiklis

Temperatūra yra parametras, valdantis modelio atsakymų „kūrybiškumo“ laipsnį – techniškai, atsitiktinumą. Esant žemai temperatūrai (nuo 0 iki 0,3), modelis sistemingai pasirenka tikimiausius atsakymus: rezultatas yra nuspėjamas, tikslus ir atkuriamas, kas tinka faktinėms užduotims, duomenų išgavimui ir kodui. Esant vidutinei temperatūrai (nuo 0,4 iki 0,7), gaunamas balansas tarp nuoseklumo ir įvairovės, tinkantis daugumai pokalbių scenarijų. Esant aukštai temperatūrai (nuo 0,8 iki 1,0), modelis tyrinėja mažiau akivaizdžias formuluotes: daugiau kūrybiškumo, bet ir daugiau klaidų rizikos – šį nustatymą verta palikti idėjų generavimui ir kūrybiniam rašymui.

„Vibe“ sistemoje temperatūra valdoma automatiškai; jums nereikia apie ją galvoti. Tačiau naudodami API galite ją tiksliai apibrėžti kiekvienam prašymui, ir tai yra galingas svertas: tas pats klausimas, užduotas esant 0,1 ir 0,9 temperatūrai, vienu atveju sukurs buhalterio atsakymą, kitu – reklamos tekstų autoriaus atsakymą.

Haliucinacijos – kai modelis išgalvoja

Haliucinacijos – tai atsakymai, kurie atrodo tikėtini, bet yra faktiškai neteisingi. Modelis „išgalvoja“ informaciją ir – štai kur pavojus – daro tai tokiu pat pasitikinčiu tonu, kaip ir sakydamas tiesą. Priežastis yra struktūrinė: LLM numato tikėtinus tokenus, o ne patikrintus faktus. Todėl jis gali sukurti tekstą, kuris yra lingvistiškai nepriekaištingas, bet faktiškai klaidingas. Rizikos sritys yra gerai žinomos: tikslios datos, skaičiai ir statistika, citatos, priskiriamos realiems žmonėms, nuorodos į tyrimus ar straipsnius bei specifinės techninės detalės. Paprašykite modelio mažai žinomo autoriaus bibliografijos: jis mielai pateiks jums visiškai įtikinamų knygų pavadinimų… kurių nėra.

Haliucinacijų nepanaikinsite, jas galima tik apriboti. RAG įtvirtina atsakymus patikrintuose šaltiniuose; žema temperatūra palanki tikimiausiems atsakymams; prašymas modelio pateikti šaltinius – ir jų patikrinimas patiems – atskleidžia išgalvojimus; pagrindimas (grounding), kurį netrukus aptarsime, sujungia modelį su realiais duomenimis. O bet kuria kritine tema taisyklė lieka absoliuti: niekada aklai nepasitikėkite atsakymu.

Pagrindimas – įsitvirtinimas realybėje

Pagrindimas (angl. grounding) apima visus metodus, kurie sujungia modelį su patikimais ir naujausiais informacijos šaltiniais. RAG yra viena iš formų, tačiau pati sąvoka yra platesnė. Interneto paieška leidžia modeliui patikrinti faktus internete, o ne remtis savo „užšaldyta“ atmintimi. Prisijungimas prie duomenų bazių suteikia jam prieigą prie jūsų vidinių duomenų – jūsų faktinių atsargų, jūsų faktinių klientų. Galiausiai, funkcijų kvietimas (angl. function calling) leidžia jam kviesti išorines API, kad gautų realiuoju laiku atnaujinamus duomenis: orus, akcijų kainas, sistemos būseną. Skirtumas yra lemiamas: pagrindimas perkelia asistentą iš kategorijos „žino dalykus“ į kategoriją „gali patikrinti dalykus“.

Užklausa – instrukcija modeliui

Užklausa (angl. prompt) – tai tekstas, kurį siunčiate modeliui: jūsų instrukcija, klausimas ar prašymas. Jos kokybė didžiąja dalimi lemia atsakymo kokybę – tai visa atskira vėlesnė šio kurso pamoka. Dabar įsiminkite tris sąvokas. Sistemos užklausa apibendrina bendrąsias modelio iš anksto gaunamas instrukcijas (tonas, vaidmuo, apribojimai), konfigūruojamas per API. Vartotojo užklausa yra jūsų tikroji žinutė, konkretus klausimas ar užduotis. O kelių pavyzdžių užklausos (angl. few-shot prompting) principas – tai laukiamų atsakymų pavyzdžių pateikimas modeliui nukreipti: parodyti dažnai yra geriau nei paaiškinti.

Svarbiausi punktai

  • RAG praturtina modelio atsakymus naujais išoriniais duomenimis
  • Įterpiniai paverčia tekstą vektoriais semantinei paieškai
  • Derinimas pritaiko modelį jūsų specifiniams poreikiams naudojant „Forge“
  • Temperatūra valdo balansą tarp tikslumo ir kūrybiškumo
  • Haliucinacijos yra tikėtini, bet klaidingi atsakymai; pagrindimas įtvirtina modelį patikrinamuose duomenyse, kad jų būtų mažiau