Grok'i 5-astmeline täitmise voog
Sellel lehel
Kuidas Grok otsustab tööriista kasutada
Kui lubad oma API päringus ühe või mitu tööriista, ei pruugi mudel neid tingimata kasutada. See järgib struktureeritud viieastmelist otsustusprotsessi, et teha kindlaks, kas tööriista on vaja, millist neist kasutada ja kuidas tulemusi oma vastusesse integreerida.
Selle voo mõistmine aitab sul ennustada mudeli käitumist ja optimeerida oma vihjeid täpsete tulemuste saamiseks.
Voo 5 sammu
1. samm: Päringu analüüs
Mudel alustab kasutaja sõnumi analüüsimisega, et tuvastada, mida täpselt küsitakse. See hindab küsimuse olemust: kas tegemist on faktilise päringuga, mis nõuab värskeid andmeid? Kas on tegemist keerulise arvutusega? Või on see arvamusküsimus, mis ei vaja mingeid tööriistu?
See analüüs on kriitilise tähtsusega. Kui mudelil on vajalik teave juba olemas oma treeningandmetes ja reaalajas andmeid ei ole vaja, võib ta otsustada vastata otse, ilma tööriista aktiveerimata.
2. samm: Kutse otsus
Oma analüüsi põhjal otsustab mudel, kas kutsuda tööriist või vastata otse. See otsus sõltub kolmest tegurist. Esiteks küsimuse olemus: päring jooksvate sündmuste kohta viitab loomulikult veebiotsingule (Web Search), samas kui küsimus selle kohta, mida inimesed praegu teemal räägivad, suunab X-i otsingu (X Search) poole. Teiseks sinu määratletud ulatus: mudel valib ainult need tööriistad, mis on lubatud sinu tools massiivis – puuduv tööriist lihtsalt ei eksisteeri tema jaoks. Kolmandaks tema enda kindlustunne: kui ta usub, et suudab mälust õigesti vastata, jätab ta kutse vahele, mis on enamasti soovitav käitumine.
Sa säilitad kontrolli selle otsuse üle vihje (prompt) kaudu: „Otsi uusimat teavet…“ suunab selgelt veebiotsingu poole, samas kui neutraalne sõnastus jätab otsuse mudeli enda teha.
3. samm: Täitmine
Töötlemine erineb sõltuvalt tööriista kategooriast:
- Sisseehitatud tööriist: Täitmine on automaatne ja läbipaistev. xAI server teostab otsingu või koodi käivitamise ja tulemus edastatakse otse mudelile. Sa ei näe seda sammu API vastuses.
- Funktsiooni kutsumine (Function Calling): Mudel tagastab objekti, mis kirjeldab väljakutsutavat funktsiooni ja selle argumente. Sinu kood peab funktsiooni käivitama ja tulemuse tagastama uue päringu kaudu.
4. samm: Tulemuste töötlemine
Kui tulemused on saadud, hindab mudel neid enne vastamist – ja just siin muutub voog tõeliselt agentseks. Kui tulemused on piisavad, liigub ta otse lõpliku vastuse formuleerimisele. Kui need on ebapiisavad – otsing liiga kitsas, tulemused teemavälised –, võib ta esitada uue kutse kohandatud parameetritega, laiendades või täpsustades oma päringut, ilma et sina peaksid sekkuma. Tõeliselt keerulise küsimuse puhul aheldab ta mitu tööriista: näiteks veebiotsing arvude kogumiseks ja seejärel koodi käivitamine nende analüüsimiseks.
See iteratiivne käitumine on vastuse kvaliteedi seisukohalt väärtuslik, kuid sellel on otsene mõju arvele: iga tööriista kutse arveldatakse eraldi ja küsimus, mis käivitab kolm otsingut, maksab kolme kutse jagu. Pea seda mehhanismi meeles oma kulude hindamisel.
5. samm: Lõplik vastus
Mudel formuleerib oma vastuse, integreerides kogutud teabe. Kui on konsulteeritud veebi- või X-allikaid, sisaldab vastus automaatselt viiteid algsetele URL-idele. Need viited on kättesaadavad vastuse objekti väljal citations.
Praktilised järeldused
Kumuleeruvad kulud
Mudel võib teha ühe kasutaja päringu jaoks mitu tööriista kutset. Iga kutset arveldatakse sõltumatult lisaks tokenite tarbimisele. Ebaselge vihje võib genereerida tarbetuid kutseid ja suurendada sinu kulusid.
Kontroll vihje kaudu
Sa ei saa sundida mudelit kasutama konkreetset tööriista, kuid saad teda oma süsteemivihje või kasutaja sõnumi kaudu tugevalt suunata. Selged juhised vähendavad tarbetuid kutseid.
Mittedeterministlik käitumine
Otsus kasutada tööriista või mitte võib kahe identse kutse puhul erineda, eriti kõrge temperatuuri seadistuste korral. Korratavate tulemuste saamiseks kasuta madalat temperatuuri (0,0 kuni 0,3).
Peamised punktid
- Mudel järgib 5-astmelist voogu: analüüs, otsus, täitmine, töötlemine, vastus
- See küsib tööriista ainult siis, kui peab seda vajalikuks – see ei ole automaatne
- Mitu kutset on võimalikud ja need suurendavad kulusid
- Täpne vihje vähendab tarbetuid kutseid ja parandab asjakohasust
- Viited lisatakse automaatselt, kui allikaid on konsulteeritud