Az 5 lépéses végrehajtási folyamat
Ezen az oldalon
Hogyan dönt a Grok az eszközhasználatról
Amikor engedélyezel egy vagy több eszközt az API-kérésedben, a modell nem feltétlenül használja is azokat. Egy strukturált, öt lépésből álló döntési folyamatot követ annak meghatározására, hogy szükség van-e eszközre, melyiket válassza, és hogyan integrálja az eredményeket a válaszába.
Ennek a folyamatnak a megértése segít előre jelezni a modell viselkedését, és optimalizálni a promptjaidat a pontos eredmények érdekében.
A folyamat 5 lépése
1. lépés: Kéréselemzés
A modell a felhasználói üzenet elemzésével kezdi, hogy azonosítsa, mit is kérdeztek tőle. Felméri a kérdés jellegét: Tényekre irányuló kérésről van szó, amely friss adatokat igényel? Összetett számításról? Vagy véleményről szóló kérdésről, amelyhez nincs szükség eszközökre?
Ez az elemzés kritikus fontosságú. Ha a modell már rendelkezik a szükséges információkkal a tanítási adataiban, és nincs szükség valós idejű adatra, dönthet úgy, hogy eszköz aktiválása nélkül válaszol közvetlenül.
2. lépés: Hívási döntés
Az elemzés alapján a modell eldönti, hogy hívjon-e egy eszközt, vagy közvetlenül válaszoljon. Ez a döntés három tényezőtől függ. Először is a kérdés jellegétől: a текуző eseményekre vonatkozó lekérdezés természeténél fogva a Webes keresés felé tereli a modellt, míg az arról szóló kérdés, hogy mit mondanak az emberek éppen most egy témában, az X keresés felé. Másodszor a általad meghatározott hatókörtől: a modell csak a tools tömbödben engedélyezett eszközök közül választ – egy hiányzó eszköz számára egyszerűen nem létezik. Végül a saját magabiztosságától: ha úgy véli, hogy az emlékezetéből helyesen meg tud válaszolni egy kérdést, megspórolja a hívást, ami a legtöbb esetben a kívánatos viselkedés.
Neked is van beleszólásod ebbe a döntésbe a prompton keresztül: a „Keress rá a legfrissebb információkra…“ kifejezés egyértelműen a Webes keresés felé tereli a modellt, míg egy semleges megfogalmazás esetén a modellre bízza a döntést.
3. lépés: Végrehajtás
A feldolgozás az eszközkategóriától függően eltérő:
- Beépített eszköz: A végrehajtás automatikus és átlátható. Az xAI szerver végrehajtja a keresést vagy a kód futtatását, és az eredményt közvetlenül továbbítja a modellnek. Ezt a lépést nem látod az API-válaszban.
- Függvényhívás (Function Calling): A modell egy objektumot ad vissza, amely leírja a meghívandó függvényt és annak argumentumait. A kódodnak kell végrehajtania a függvényt, és az eredményt egy új kérésen keresztül visszaadnia.
4. lépés: Eredményfeldolgozás
Miután az eredmények rendelkezésre állnak, a modell kiértékeli azokat, mielőtt válaszolna – és itt válik a folyamat igazán ágensszerűvé. Ha az eredmények elegendőek, közvetlenül a végső válasz megfogalmazására tér át. Ha nem elegendőek – túl szűk a keresés, az eredmények nem relevánsak –, kiadhat egy újabb hívást módosított paraméterekkel, szélesítve vagy finomítva a lekérdezését, anélkül, hogy neked be kellene avatkoznod. Egy igazán összetett kérdés esetén pedig több eszközt is láncolhat: például egy webes keresést az adatok gyűjtésére, majd Kódfuttatást azok elemzésére.
Ez az iteratív viselkedés értékes a válaszok minősége szempontjából, de közvetlen következménnyel jár a számlázásra nézve: minden egyes eszközhívás külön kerül felszámolásra, és egy olyan kérdés, amely három keresést indít el, három hívásnak számít. Tartsd szem előtt ezt a mechanizmust, amikor becslést készítesz a költségeidről.
5. lépés: Végső válasz
A modell a gyűjtött információk integrálásával fogalmazza meg a válaszát. Ha webes vagy X forrásokat consulted, a válasz automatikusan tartalmazza az eredeti URL-ekre mutató hivatkozásokat. Ezek a hivatkozások a válaszobjektum citations mezőjében érhetők el.
Gyakorlati következmények
Halmozódó költségek
A modell egyetlen felhasználói kéréshez több eszközhívást is intézhet. Minden hívás külön kerül felszámolásra a tokenfogyasztáson felül. Egy félreérthető prompt felesleges hívásokat generálhat, és növelheti a költségeidet.
Irányítás prompton keresztül
Nem kényszerítheted a modellt egy adott eszköz használatára, de erősen irányíthatod azt a rendszerpromptod vagy a felhasználói üzeneted segítségével. A világos utasítások csökkentik a felesleges hívások számát.
Nem determinisztikus viselkedés
Annak döntése, hogy használ-e eszközt vagy sem, két azonos hívás között is változhat, különösen magas hőmérséklet (temperature) beállítások esetén. A reprodukálható eredmények érdekében használj alacsony hőmérsékletet (0,0 és 0,3 között).
Főbb megállapítások
- A modell egy 5 lépéses folyamatot követ: elemzés, döntés, végrehajtás, feldolgozás, válaszadás
- Csak akkor kér le egy eszközt, ha szükségesnek ítéli – ez nem automatikus
- Több hívás is lehetséges, ami növeli a költségeket
- Egy pontos prompt csökkenti a felesleges hívásokat és javítja a relevanciát
- A hivatkozások automatikusan bekerülnek, ha forrásokat consulted