Päťkrokový vykonávací tok
Na tejto strane
Ako sa Grok rozhoduje používať nástroje
Keď v žiadosti API povolíš jeden alebo viacero nástrojov, model ich nemusí nevyhnutne použiť. Nasleduje štruktúrovaný päťkrokový rozhodovací proces, ktorým zisťuje, či je nástroj potrebný, ktorý z nich použiť a ako integrovať výsledky do svojej odpovede.
Pochopenie tohto toku ti pomôže predvídať správanie modelu a optimalizovať tvoje prompty pre presné výsledky.
Päť krokov toku
Krok 1: Analýza požiadavky
Model začne analýzou správy používateľa, aby identifikoval, o čo sa žiada. Posudzuje povahu otázky: Ide o faktickú požiadavku vyžadujúcu najnovšie údaje? O zložitý výpočet? O otázku na názor, ktorá si nevyžaduje žiadne nástroje?
Táto analýza je kľúčová. Ak model už má informácie vo svojich trénovacích dátach a nie sú potrebné údaje v reálnom čase, môže sa rozhodnúť odpovedať priamo bez aktivácie nástroja.
Krok 2: Rozhodnutie o volaní
Na základe svojej analýzy sa model rozhodne, či zavolá nástroj, alebo odpovie priamo. Toto rozhodnutie závisí od troch faktorov. Po prvé, povaha otázky: dopyt na aktuálne udalosti prirodzene smeruje k Web Search, zatiaľ čo otázka na to, čo ľudia práve teraz hovoria na danú tému, smeruje k X Search. Po druhé, rozsah, ktorý si definoval: model si vyberá iba z nástrojov povolených v tvojom poli tools – chýbajúci nástroj preň jednoducho neexistuje. Nakoniec, jeho vlastná istota: ak verí, že dokáže správne odpovedať z pamäte, ušetrí volanie, čo je vo väčšine prípadov žiaduce správanie.
Rozhodovanie si môžeš kontrolovať prostredníctvom promptu: „Vyhľadaj najnovšie informácie o…“ jasne smeruje k Web Search, zatiaľ čo neutrálna formulácia necháva rozhodnutie na modeli.
Krok 3: Vykonanie
Spracovanie sa líši podľa kategórie nástroja:
- Vstavaný nástroj: Vykonanie je automatické a transparentné. Server xAI vykoná vyhľadávanie alebo spustenie kódu a výsledok sa priamo odovzdá modelu. Tento krok v odpovedi API nevidíš.
- Volanie funkcií (Function Calling): Model vráti objekt opisujúci funkciu na zavolanie a jej argumenty. Tvoj kód musí túto funkciu vykonať a vrátiť výsledok prostredníctvom novej požiadavky.
Krok 4: Spracovanie výsledkov
Akonáhle sú výsledky získané, model ich pred odpoveďou vyhodnotí – a práve tu sa tok stáva skutočne agentným. Ak výsledky stačia, prejde priamo k formulácii konečnej odpovede. Ak sú nedostatočné – vyhľadávanie príliš úzke, výsledky mimo témy – môže vykonať ďalšie volanie s upravenými parametrami, rozšíriť alebo spresniť svoj dopyt bez toho, aby musel zasahovať ty. A pri skutočne zložitej otázke zreťazí niekoľko nástrojov: napríklad webové vyhľadávanie na zozbieranie údajov a následne Code Execution na ich analýzu.
Toto iteratívne správanie je cenné pre kvalitu odpovede, ale má priamy dopad na fakturáciu: každé volanie nástroja sa fakturuje samostatne a otázka, ktorá spustí tri vyhľadávania, stojí tri invokácie. Maj tento mechanizmus na pamäti pri odhadovaní svojich nákladov.
Krok 5: Konečná odpoveď
Model formuluje svoju odpoveď integrovaním získaných informácií. Ak boli konzultované zdroje z webu alebo X, odpoveď automaticky obsahuje citácie s pôvodnými URL adresami. Tieto citácie sú prístupné v poli citations objektu odpovede.
Praktické dôsledky
Kumulatívne náklady
Model môže pre jednu používateľskú požiadavku vykonať viacero volaní nástrojov. Každé volanie sa fakturuje nezávisle navyše k spotrebe tokenov. Nejasný prompt môže generovať zbytočné volania a zvyšovať tvoje náklady.
Kontrola prostredníctvom promptu
Nemôžeš prinútiť model použiť konkrétny nástroj, ale môžeš ho silno usmerniť prostredníctvom systémového promptu alebo správy používateľa. Jasné inštrukcie znižujú počet zbytočných volaní.
Nedeterministické správanie
Rozhodnutie použiť alebo nepoužiť nástroj sa môže líšiť medzi dvoma identickými volaniami, najmä pri vysokých nastaveniach teploty. Pre reprodukovateľné výsledky používaj nízku teplotu (0,0 až 0,3).
Kľúčové poznatky
- Model nasleduje 5-krokový tok: analýza, rozhodnutie, vykonanie, spracovanie, odpoveď
- Nástroj si vyžiada iba vtedy, ak to považuje za potrebné – nie je to automatické
- Viacnásobné volania sú možné a zvyšujú náklady
- Presný prompt znižuje počet zbytočných volaní a zlepšuje relevantnosť
- Citácie sa automaticky zahrnú, keď boli konzultované zdroje