5 žingsnių vykdymo eiga
Šiame puslapyje
Kaip „Grok“ nusprendžia naudoti įrankį
Kai API užklausoje įjungiate vieną ar daugiau įrankių, modelis jų nebūtinai panaudoja. Jis laikosi struktūruoto penkių žingsnių sprendimų priėmimo proceso, kad nustatytų, ar įrankis reikalingas, kurį pasirinkti ir kaip integruoti rezultatus į savo atsakymą.
Suprasdamas šią eigą, gali numatyti modelio elgseną ir optimizuoti savo užklausas, kad gautum tiksliausius rezultatus.
5 žingsnių eiga
1 žingsnis: Užklausos analizė
Modelis pradeda analizuodamas naudotojo žinutę, kad nustatytų, ko prašoma. Jis įvertina klausimo pobūdį: ar tai faktinis prašymas, reikalaujantis naujausių duomenų? Ar sudėtingas skaičiavimas? O gal nuomonės klausimas, kuriam įrankių nereikia?
Ši analizė yra kritiškai svarbi. Jei modelis jau turi informaciją savo mokymo duomenyse ir realių laiko duomenų nereikia, jis gali nuspręsti atsakyti tiesiogiai, neaktyvindamas jokio įrankio.
2 žingsnis: Kvietimo sprendimas
Remdamasis analize, modelis nusprendžia, ar kviesti įrankį, ar atsakyti tiesiogiai. Šis sprendimas priklauso nuo trijų veiksnių. Pirma, klausimo pobūdis: užklausa apie dabartinius įvykius natūraliai nukreipia į „Web Search“, o klausimas apie tai, ką žmonės šiuo metu kalba tam tikra tema, – į „X Search“. Antra, jūsų apibrėžta apimtis: modelis renkasi tik iš jūsų tools masyve įjungtų įrankių – jo nėra ten, kur įrankio nėra. Galiausiai, jo paties pasitikėjimas: jei jis mano galintis teisingai atsakyti iš atminties, jis sutaupo kvietimą, o tai daugeliu atvejų yra pageidaujama elgsena.
Šį sprendimą galite valdyti per užklausą: frazė „Ieškokite naujausios informacijos apie…“ aiškiai nukreipia į „Web Search“, tuo tarpu neutrali formuluotė palieka modeliui pačiam nuspręsti.
3 žingsnis: Vykdymas
Apdorojimas skiriasi priklausomai nuo įrankio kategorijos:
- Integruotas įrankis: Vykdymas yra automatinis ir skaidrus. xAI serveris atlieka paiešką arba kodo vykdymą, o rezultatas tiesiogiai perduodamas modeliui. Šio žingsnio nematote API atsakyme.
- Funkcijų kvietimas (Function Calling): Modelis grąžina objektą, aprašantį kviečiamą funkciją ir jos argumentus. Jūsų kodas turi įvykdyti šią funkciją ir grąžinti rezultatą per naują užklausą.
4 žingsnis: Rezultatų apdorojimas
Gavus rezultatus, modelis juos įvertina prieš atsakydamas – būtent čia eiga tampa tikrai agentine. Jei rezultatų pakanka, jis pereina tiesiai prie galutinio atsakymo formulavimo. Jei jų nepakanka – paieška per siaura, rezultatai ne tema – jis gali atlikti dar vieną kvietimą su pakoreguotais parametrais, išplėsdamas arba patikslindamas savo užklausą, be jūsų įsikišimo. O truly sudėtingam klausimui jis gali sujungti kelis įrankius: pavyzdžiui, atlikti žiniatinklio paiešką duomenims surinkti, o tada naudoti kodo vykdymą jiems analizuoti.
Ši iteracinė elgsena yra vertinga atsakymo kokybei, tačiau ji turi tiesioginę įtaką sąskaitai: kiekvienas įrankio kvietimas apmokestinamas atskirai, todėl klausimas, sukeliantis tris paieškas, kainuoja tris iškvietimus. Turėkite omenyje šį mechanizmą vertindami savo išlaidas.
5 žingsnis: Galutinis atsakymas
Modelis suformuluoja savo atsakymą integruodamas surinktą informaciją. Jei buvo konsultuoti šaltiniai iš žiniatinklio ar „X“, atsakyme automatiškai pateikiamos citatos su originaliais URL. Šios citatos yra pasiekiamos atsakymo objekto lauke citations.
Praktinės išvados
Kaupiamosios išlaidos
Modelis vienam naudotojo prašymui gali atlikti kelis įrankio kvietimus. Kiekvienas kvietimas apmokestinamas atskirai, be tokenų sunaudojimo. Dviprasmiška užklausa gali sugeneruoti nereikalingus kvietimus ir padidinti jūsų išlaidas.
Valdymas per užklausą
Negalite priversti modelio naudoti konkretaus įrankio, tačiau galite jį stipriai nukreipti naudodami sistemos užklausą arba naudotojo žinutę. Aiškios instrukcijos sumažina nereikalingus kvietimus.
Nedeterministinė elgsena
Sprendimas naudoti įrankį ar ne gali skirtis dviejų identiškų kvietimų metu, ypač esant aukštiems temperatūros nustatymams. Norint gauti atkuriamus rezultatus, naudokite žemą temperatūrą (nuo 0,0 iki 0,3).
Svarbiausi punktai
- Modelis laikosi 5 žingsnių eigos: analizė, sprendimas, vykdymas, apdorojimas, atsakymas
- Jis prašo įrankio tik tada, kai mano tai būtina – tai nėra automatinis procesas
- Galimi keli kvietimai, kurie didina išlaidas
- Tiksliai suformuluota užklausa sumažina nereikalingus kvietimus ir pagerina aktualumą
- Citatos automatiškai įtraukiamos, kai buvo konsultuoti šaltiniai