5-etapowy proces wykonania
Na tej stronie
Jak Grok decyduje o użyciu narzędzia
Gdy włączysz jedno lub więcej narzędzi w żądaniu API, model niekoniecznie z nich skorzysta. Przestrzega strukturalnego, pięcioetapowego procesu decyzyjnego, aby ustalić, czy narzędzie jest potrzebne, które z nich wybrać i jak zintegrować wyniki ze swoją odpowiedzią.
Zrozumienie tego przepływu pomaga przewidzieć zachowanie modelu i zoptymalizować prompty, aby uzyskać dokładne rezultaty.
5 etapów przepływu
Etap 1: Analiza żądania
Model rozpoczyna od analizy wiadomości użytkownika, aby zidentyfikować, o co pytano. Ocenia charakter pytania: czy jest to zapytanie faktograficzne wymagające najnowszych danych? Skomplikowane obliczenie? Pytanie o opinię, które nie wymaga żadnych narzędzi?
Ta analiza ma kluczowe znaczenie. Jeśli model posiada już potrzebne informacje w swoich danych treningowych i nie są wymagane dane w czasie rzeczywistym, może zdecydować się na odpowiedź bezpośrednią bez aktywowania narzędzia.
Etap 2: Decyzja o wywołaniu
Na podstawie swojej analizy model decyduje, czy wywołać narzędzie, czy odpowiedzieć bezpośrednio. Decyzja ta zależy od trzech czynników. Po pierwsze, charakter pytania: zapytanie o bieżące wydarzenia naturalnie kieruje ku Wyszukiwaniu w sieci (Web Search), podczas gdy pytanie o to, co ludzie mówią obecnie na dany temat, wskazuje na Wyszukiwanie w X (X Search). Po drugie, zdefiniowany przez Ciebie zakres: model wybiera wyłącznie spośród narzędzi włączonych w Twojej tablicy tools – nieistniejące narzędzie po prostu dla niego nie istnieje. Wreszcie, jego własne poczucie pewności: jeśli wierzy, że potrafi poprawnie odpowiedzieć z pamięci, oszczędza wywołanie, co jest pożądanym zachowaniem przez większość czasu.
Zachowujesz kontrolę nad tą decyzją poprzez prompt: fraza „Wyszukaj najnowsze informacje na temat…“ wyraźnie wskazuje na Wyszukiwanie w sieci, podczas gdy neutralne sformułowanie pozostawia modelowi swobodę decyzji.
Etap 3: Wykonanie
Przetwarzanie różni się w zależności od kategorii narzędzia:
- Narzędzie wbudowane: Wykonanie jest automatyczne i przezroczyste. Serwer xAI przeprowadza wyszukiwanie lub wykonanie kodu, a wynik jest przesyłany bezpośrednio do modelu. Nie widzisz tego kroku w odpowiedzi API.
- Wywoływanie funkcji (Function Calling): Model zwraca obiekt opisujący funkcję do wywołania oraz jej argumenty. Twój kod musi wykonać tę funkcję i zwrócić wynik poprzez nowe żądanie.
Etap 4: Przetwarzanie wyników
Gdy wyniki zostaną uzyskane, model ocenia je przed udzieleniem odpowiedzi – i to tutaj przepływ staje się prawdziwie agentowy. Jeśli wyniki są wystarczające, model przechodzi bezpośrednio do formułowania końcowej odpowiedzi. Jeśli są niewystarczające – wyszukiwanie zbyt wąskie, wyniki niezgodne z tematem – może wydać kolejne wywołanie ze skorygowanymi parametrami, rozszerzając lub doprecyzowując swoje zapytanie, bez Twojej interwencji. W przypadku naprawdę złożonych pytań model łączy kilka narzędzi w łańcuch: np. wyszukiwanie w sieci w celu zebrania danych, a następnie wykonanie kodu (Code Execution) do ich analizy.
To iteracyjne zachowanie jest cenne dla jakości odpowiedzi, ale ma bezpośredni wpływ na rachunek: każde wywołanie narzędzia jest rozliczane osobno, a pytanie uruchamiające trzy wyszukiwania kosztuje trzy wywołania. Miej ten mechanizm na uwadze podczas szacowania kosztów.
Etap 5: Odpowiedź końcowa
Model formułuje swoją odpowiedź, integrując zebrane informacje. Jeśli consulted zostały źródła z sieci lub z X, odpowiedź automatycznie zawiera cytowania z oryginalnymi adresami URL. Cytowania te są dostępne w polu citations obiektu odpowiedzi.
Praktyczne konsekwencje
Skumulowane koszty
Model może wykonać wiele wywołań narzędzi dla pojedynczego żądania użytkownika. Każde wywołanie jest rozliczane niezależnie, dodatkowo do konsumpcji tokenów. Niejednoznaczny prompt może generować niepotrzebne wywołania i zwiększać Twoje koszty.
Kontrola poprzez prompt
Nie możesz zmusić modelu do użycia konkretnego narzędzia, ale możesz nim mocno kierować za pomocą promptu systemowego lub wiadomości użytkownika. Jasne instrukcje redukują liczbę niepotrzebnych wywołań.
Niedeterministyczne zachowanie
Wybór użycia narzędzia (lub nie) może się różnić między dwoma identycznymi wywołaniami, szczególnie przy wysokich ustawieniach temperatury. Aby uzyskać powtarzalne wyniki, używaj niskiej temperatury (od 0.0 do 0.3).
Kluczowe wnioski
- Model przestrzega 5-etapowego przepływu: analiza, decyzja, wykonanie, przetwarzanie, odpowiedź
- Żąda narzędzia tylko wtedy, gdy uzna to za konieczne – nie dzieje się to automatycznie
- Możliwe są wielokrotne wywołania, które zwiększają koszty
- Precyzyjny prompt redukuje niepotrzebne wywołania i poprawia trafność
- Cytowania są automatycznie dołączane, gdy consulted zostały źródła