Reasoning vs Non-reasoning
Na tej stronie
Zaktualizowano 3 listopada 2026 r. na podstawie dokumentacji API xAI oraz przewodnika Reasoning: parametr
max_completion_tokensogranicza jedynie widoczną odpowiedź, a nie proces rozumowania;logprobsjest ignorowany od wersji Grok 4.20 wzwyż; regulowane rozumowanie dotyczy modeli grok-4.5, 4.6 i 4.7. Źródła: Chat Completions · Reasoning.
Dwa fundamentalnie różne podejścia
Rodzina modeli Grok oferuje dwa podejścia do rozumowania: generacja grok-4.20 występuje w dwóch odrębnych wariantach – reasoning i non-reasoning – podczas gdy grok-4.5, grok-4.6 i grok-4.7 łączą je w jedno regulowane rozumowanie poprzez parametr wysiłku (effort), którego nie można wyłączyć. Ten wybór nie jest kosmetyczny – fundamentalnie zmienia zachowanie modelu, jego możliwości, koszt oraz ograniczenia API. Dobranie właściwego wariantu do każdego zadania to kluczowa umiejętność.
Jak działa rozumowanie (Reasoning)
Gdy używasz wariantu reasoning, model angażuje się w wewnętrzny proces myślowy przed wygenerowaniem odpowiedzi. Rozkłada problem na czynniki pierwsze, eksploruje różne podejścia, weryfikuje swoją logikę i buduje odpowiedź krok po kroku.
W xAI proces ten jest dla modeli Grok 4 i nowszych „zaszyfrowany“: nie możesz odczytać pośrednich kroków w postaci zwykłego tekstu. Możesz jednak:
- Pobrać zaszyfrowaną zawartość poprzez
include=["reasoning.encrypted_content"], aby ponownie wstrzyknąć ją do kolejnych żądań - Sprawdzić liczbę tokenów rozumowania w polu
usage.completion_tokens_details.reasoning_tokens
Reasoning zużywa dodatkowe tokeny, rozliczane według stawki za dane wyjściowe. Żądanie z rozumowaniem kosztuje więc więcej niż identyczne żądanie bez niego; różnica zależy od zadania i poziomu wysiłku, dlatego warto zmierzyć ją na własnych danych.
Parametry zabronione w trybie Reasoning
To częsta pułapka podczas migracji. Warianty reasoning nie obsługują niektórych parametrów powszechnych w trybie non-reasoning:
| Parameter | Non-Reasoning | Reasoning |
|---|---|---|
| presencePenalty | Supported | Forbidden (error) |
| frequencyPenalty | Supported | Forbidden (error) |
| stop | Supported | Forbidden (error) |
| logprobs | Ignored from Grok 4.20 onward | Ignored |
| max_completion_tokens | Supported | Supported (visible response only) |
Jeśli przekażesz presencePenalty, frequencyPenalty lub stop do wariantu reasoning, API zwróci błąd. Upewnij się, że usunąłeś te parametry ze swoich żądań podczas przełączania się na tryb reasoning.
Kiedy używać Reasoning
Reasoning wnosi wyraźną wartość w określonych kategoriach zadań:
- Matematyka i logika formalna – rozwiązywanie równań, dowodzenie, optymalizacja
- Złożona analiza kodu – debugowanie z współzależnościami, audyty bezpieczeństwa
- Pytania wieloetapowe – problemy wymagające budowania rozumowania w kilku fazach
- Decyzje wymagające niuansów – ocena za i przeciw, dogłębna analiza porównawcza
- Ekspertyza ilościowa – statystyka, modelowanie finansowe, analiza danych
Kiedy używać Non-reasoning
Tryb non-reasoning jest preferowany, gdy zadanie nie wymaga głębokiej refleksji:
- Pisanie i podsumowywanie – model nie musi „myśleć“, aby pisać
- Klasyfikacja i tagowanie – szybka kategoryzacja treści
- Ekstrakcja informacji – strukturyzowanie danych z surowego tekstu
- Tłumaczenie – model potrafi tłumaczyć bez wyraźnego procesu rozumowania
- Prosta konwersacja – chatboty, FAQ, wsparcie pierwszego poziomu
- Generowanie treści – e-maile, opisy, teksty marketingowe
Strategia routingu
W środowisku produkcyjnym optymalną strategią jest dynamiczne kierowanie żądań do odpowiedniego wariantu:
- Analiza żądania – czy obejmuje ono obliczenia, analizę, czy tylko proste przetwarzanie?
- Domyślne kierowanie do non-reasoning – jest szybsze i tańsze
- Przełączenie na reasoning, gdy żądanie wymaga rozumowania wieloetapowego
- Monitorowanie wyników – dostosuj kryteria routingu w oparciu o obserwowaną jakość
Podejście to pozwala czerpać korzyści z mocy rozumowania, gdy jest ono potrzebne, bez ponoszenia dodatkowych kosztów, gdy jest zbędne.
Szczególny przypadek max_completion_tokens
Zgodnie z dokumentacją API xAI, max_completion_tokens dotyczy wyłącznie widocznej odpowiedzi: tokeny rozumowania i wywołania funkcji nie są do niego wliczane, a wartość domyślna wynosi 128 000 tokenów. Ustaw ten limit w oparciu o oczekiwaną długość odpowiedzi, a poziom rozumowania reguluj poprzez wysiłek (reasoning_effort) w modelach grok-4.5, 4.6 i 4.7.
Kluczowe wnioski
- Warianty reasoning dodają wewnętrzną fazę myślową przed udzieleniem odpowiedzi
- Proces rozumowania jest zaszyfrowany (niewidoczny jako zwykły tekst); jednak grok-4.7 udostępnia podsumowanie, które można zobaczyć poprzez strumieniowanie
presencePenalty,frequencyPenaltyistopsą zabronione w trybie reasoning- Reasoning kosztuje od 2 do 5 razy więcej niż non-reasoning
- Używaj reasoning do matematyki, logiki i problemów wieloetapowych
- Używaj non-reasoning do pisania, klasyfikacji i ekstrakcji