Viisivaiheinen suoritusprosessi
Tällä sivulla
Miten Grok päättää käyttää työkalua
Kun otat yhden tai useamman työkalun käyttöön API-pyynnössäsi, malli ei välttämättä käytä niitä. Se noudattaa jäsenneltyä viisivaiheista päätösprosessia määrittääkseen, tarvitaanko työkalua, kumpaa niistä käytetään ja miten tulokset integroidaan vastaukseen.
Tämän prosessin ymmärtäminen auttaa sinua ennakoimaan mallin käyttäytymistä ja optimoimaan kehotteitasi tarkkojen tulosten saamiseksi.
Prosessin viisi vaihetta
Vaihe 1: Pyynnön analyysi
Malli aloittaa analysoimalla käyttäjän viestiä tunnistaakseen, mitä pyydetään. Se arvioi kysymyksen luonteen: onko kyseessä faktuaalinen pyyntö, joka vaatii tuoreita tietoja? Monimutkainen laskutoimitus? Mielipidekysymys, joka ei vaadi työkaluja?
Tämä analyysi on kriittinen. Jos mallilla on tieto jo koulutusaineistossaan eikä reaaliaikaista dataa tarvita, se voi päättää vastata suoraan aktivoimatta työkalua.
Vaihe 2: Kutsupäätös
Analyysinsä perusteella malli päättää, kutsuuko se työkalua vai vastaaako se suoraan. Päätös riippuu kolmesta tekijästä. Ensinnäkin kysymyksen luonteesta: kysymys ajankohtaisista tapahtumista viittaa luontevasti verkkohakuun (Web Search), kun taas kysymys siitä, mitä ihmiset sanovat juuri nyt tietystä aiheesta, viittaa X-hakuun (X Search). Toiseksi määrittelemäsi laajuudesta: malli valitsee vain tools-taulukossa käyttöönotetuista työkaluista – puuttuva työkalu ei yksinkertaisesti ole olemassa sille. Kolmanneksi sen omasta luottamuksesta: jos se uskoo pystyvänsä vastaamaan oikein muistinsa perusteella, se jättää kutsun väliin, mikä on useimmiten toivottu käyttäytyminen.
Säilytät kontrollin tähän päätökseen kehotteen avulla: ”Etsi uusimmat tiedot…” viittaa selkeästi verkkohakuun, kun taas neutraali muotoilu jättää päätöksen mallille itselleen.
Vaihe 3: Suoritus
Käsittely eroaa työkaluluokittain:
- Sisäänrakennettu työkalu: Suoritus on automaattista ja läpinäkyvää. xAI-palvelin suorittaa haun tai koodin ajon, ja tulos välitetään suoraan mallille. Et näe tätä vaihetta API-vastauksessa.
- Funktiokutsu (Function Calling): Malli palauttaa objektin, joka kuvaa kutsuttavan funktion ja sen argumentit. Koodisi on suoritettava funktio ja palautettava tulos uuden pyynnön kautta.
Vaihe 4: Tulosten käsittely
Kun tulokset on saatu, malli arvioi niitä ennen vastaamista – ja tässä vaiheessa prosessista tulee todella agenttimainen. Jos tulokset riittävät, se siirtyy suoraan muotoilemaan lopullista vastausta. Jos ne ovat riittämättömiä – haku liian kapea, tulokset epäoleellisia – se voi tehdä uuden kutsun säädetyillä parametreilla laajentaen tai tarkentaen kyselyään ilman, että sinun tarvitsee puuttua asiaan. Todella monimutkaisessa kysymyksessä se voi ketjuttaa useita työkaluja: esimerkiksi verkkohaun lukujen keräämiseksi ja sen jälkeen koodin suorituksen niiden analysoimiseksi.
Tämä iteratiivinen käyttäytyminen on arvokasta vastauksen laadun kannalta, mutta sillä on suora vaikutus laskutukseen: jokainen työkalukutsu laskutetaan erikseen, ja kysymys, joka laukaisee kolme hakua, maksaa kolme käyttökertaa. Pidä tämä mekanismi mielessäsi arvioidessasi kustannuksia.
Vaihe 5: Lopullinen vastaus
Malli muotoilee vastauksensa integroimalla kerätyt tiedot. Jos web- tai X-lähteitä on kuultu, vastaus sisältää automaattisesti viitteet alkuperäisiin URL-osoitteisiin. Nämä viitteet ovat saatavilla vastausobjektin citations-kentässä.
Käytännön vaikutukset
Kertyvät kustannukset
Malli voi tehdä useita työkalukutsuja yhden käyttäjäpyynnön yhteydessä. Jokainen kutsu laskutetaan itsenäisesti token-kulutuksen lisäksi. Epäselvä kehoite voi synnyttää tarpeettomia kutsuja ja kasvattaa kustannuksiasi.
Kontrolli kehotteen avulla
Et voi pakottaa mallia käyttämään tiettyä työkalua, mutta voit ohjata sitä voimakkaasti järjestelmäkehotteesi tai käyttäjäviestisi kautta. Selkeät ohjeet vähentävät tarpeettomia kutsuja.
Ei-deterministinen käyttäytyminen
Päätös käyttää työkalua tai ei voi vaihdella kahden identtisen kutsun välillä, erityisesti korkeilla lämpötila-asetuksilla. Toistettavien tulosten saamiseksi käytä matalaa lämpötilaa (0.0–0.3).
Keskeiset asiat
- Malli noudattaa viisivaiheista prosessia: analyysi, päätös, suoritus, käsittely, vastaus
- Se pyytää työkalua vain, jos se katsoo sen tarpeelliseksi – se ei ole automaattista
- Useat kutsut ovat mahdollisia ja ne kasvattavat kustannuksia
- Tarkka kehoite vähentää tarpeettomia kutsuja ja parantaa osuvuutta
- Viitteet sisällytetään automaattisesti, kun lähteitä on kuultu