Przejdź do głównej treści
Polski— Wybierz język
Menu

Temperatura, top_p i parametry generowania

Lekcja 2 z 16 Zaktualizowano 3 listopada 2026 Programista
Na tej stronie
  1. Temperatura, top_p i parametry generowania
  2. Jak model wybiera kolejny token
  3. Temperatura
  4. Top_p (próbkowanie jądra)
  5. Inne istotne parametry
  6. Sprawdź zmienność na własne oczy
  7. Kluczowe wnioski

Zaktualizowano 3 listopada 2026 r. na podstawie dokumentacji OpenAI: parametry temperature i top_p są akceptowane wyłącznie przy wysiłku rozumowania (reasoning effort) ustawionym na none, podczas gdy modele GPT-5.6 domyślnie przeprowadzają rozumowanie (medium). Wywołania ustawiające te parametry muszą zatem określać reasoning={"effort": "none"} (Responses API) lub reasoning_effort="none" (Chat Completions). Źródła: Using GPT-6 · GPT-5.6 Terra.

Temperatura, top_p i parametry generowania

Gdy wysyłasz prompt do modelu językowego, wygenerowany tekst nie jest domyślnie deterministyczny: dwa ściśle identyczne wywołania mogą zwrócić dwie różne odpowiedzi. Parametry generowania pozwalają kontrolować stopień kreatywności lub rygoru tych odpowiedzi. Opanowanie ich służy dwóm konkretnym celom: uzyskiwaniu wyników dostosowanych do każdego przypadku użycia oraz wiedzeniu, gdzie szukać przyczyny, gdy zestaw testów integracyjnych zaczyna zawodzić raz na trzy razy bez widocznej przyczyny.

Jak model wybiera kolejny token

Na każdym etapie generowania model oblicza rozkład prawdopodobieństwa dla całego swojego słownika, a następnie losuje kolejny token z tego rozkładu. „Najlepsze“ słowo nie pojawia się mechanicznie; jest wynikiem losowania. Parametry generowania ingerują przed etapem losowania, albo zawężając rozkład wokół najbardziej prawdopodobnych kandydatów, albo spłaszczając go, aby dać szansę opcjom mniej typowym. Poniższe dwa wywołania ilustrują skrajne potrzeby tego mechanizmu: hasło reklamowe dla piekarni ma wartość tylko wtedy, gdy zaskakuje, natomiast składnia listy składanej (list comprehension) nigdy nie powinna zaskakiwać.

from openai import OpenAI

client = OpenAI()

# Odpowiedź kreatywna (wysoka temperatura)
response_creative = client.responses.create(
    model="gpt-5.6-terra",
    reasoning={"effort": "none"},  # temperatura wymaga effort none
    instructions="You are a creative writer.",
    input="Propose a slogan for an artisanal bakery.",
    temperature=1.2
)

# Odpowiedź faktograficzna (niska temperatura)
response_factual = client.responses.create(
    model="gpt-5.6-terra",
    reasoning={"effort": "none"},  # temperatura wymaga effort none
    instructions="You are a precise technical assistant.",
    input="What is the syntax of a list comprehension in Python?",
    temperature=0.1
)

Temperatura

Temperatura to mnożnik stosowany do logitów przed funkcją softmax. Przy wartości 0 rozkład zawęża się do tego stopnia, że model zawsze wybiera token o najwyższym prawdopodobieństwie: zachowanie staje się quasi-deterministyczne, co jest dokładnie tym, czego oczekujesz od ekstraktora danych uruchamianego w teście jednostkowym. W zakresie od 0,1 do 0,3 odpowiedzi pozostają bardzo spójne przy kolejnych wywołaniach: to terytorium kodu i odpowiedzi faktograficznych. Zakres od 0,7 do 0,9 równoważy kreatywność i spójność, co sprawdza się w ogólnym pisaniu. Powyżej tej wartości, między 1,0 a 1,5, wyniki stają się zróżnicowane, a czasem dezorientujące – jest to pożądany efekt podczas burzy mózgów, ale fatalna wada we wszystkich innych kontekstach.

Poniższa tabela zbiera ustawienia, które dobrze sprawdzają się w najczęstszych przypadkach użycia. Traktuj ją jako punkt wyjścia do walidacji na własnych promptach: mocno ograniczony prompt toleruje wyższą temperaturę, niż mogłoby się wydawać, podczas gdy luźny prompt szybciej wymyka się spod kontroli.

Przypadek użycia Temperatura top_p
Generowanie kodu 0,0 – 0,2 1,0
Ekstrakcja danych 0,0 1,0
Pisanie profesjonalne 0,5 – 0,7 0,9
Burza mózgów 1,0 – 1,3 0,95
Pisanie kreatywne 1,0 – 1,5 0,9

Top_p (próbkowanie jądra)

Parametr top_p działa na ten sam rozkład, ale za pomocą zupełnie innego mechanizmu: filtruje tokeny na podstawie ich skumulowanego prawdopodobieństwa. Przy top_p=0.9 model bierze pod uwagę wyłącznie tokeny, których skumulowane prawdopodobieństwo osiąga 90%, po prostu usuwając długi ogon mało prawdopodobnych wyborów. Podczas gdy temperatura zniekształca prawdopodobieństwa wszystkich kandydatów, top_p obcina listę dopuszczalnych kandydatów.

response = client.responses.create(
    model="gpt-5.6-terra",
    reasoning={"effort": "none"},  # temperatura wymaga effort none
    instructions="Generate a technical summary.",
    input="Summarize how TLS 1.3 works.",
    temperature=0.3,
    top_p=0.95
)

Prowadzi to do praktycznej zasady, której stosowanie nie przyniesie Ci żalu: nie modyfikuj jednocześnie temperatury i top_p. Ponieważ oba parametry wpływają na ten sam mechanizm, nie będziesz w stanie przypisać obserwowanego efektu jednemu lub drugiemu, a Twoje ustawienia staną się kwestią zabobonu. Dostosuj jeden parametr, pozostawiając drugi na wartości domyślnej; OpenAI zaleca rozpoczęcie od temperatury.

Inne istotne parametry

max_output_tokens ogranicza długość odpowiedzi wyrażoną w tokenach. Jest to Twoje zabezpieczenie zarówno przed kosztami, jak i nieskończonymi odpowiedziami, szczególnie przydatne, gdy wynik musi zmieścić się w ograniczonym polu interfejsu: odpowiedź sformatowana podczas generowania jest lepsza niż ucięcie jej po stronie wyświetlania.

response = client.responses.create(
    model="gpt-5.6-terra",
    instructions="Answer in one sentence.",
    input="What is DNS?",
    max_output_tokens=100
)

Od wersji GPT-5.6 rozumowanie nie jest już oddzielnym modelem: jest to ustawienie kontrolujące czas refleksji w obrębie całej rodziny modeli.

response = client.responses.create(
    model="gpt-5.6-terra",
    input="Solve this differential equation: y' + 2y = e^(-x)",
    reasoning={
        "effort": "high"  # "none", "low", "medium", "high", "xhigh", "max"
    }
)

Poziom low odpowiada szybko na proste pytania, medium stanowi uczciwy kompromis dla większości zadań, a high angażuje dogłębne rozumowanie, które powinno być zarezerwowane dla genuinely trudnych problemów. Powyższe równanie różniczkowe na to zasługuje; przeredagowanie zdania powitalnego – nie. Płaciłbyś wtedy za czas refleksji w zadaniu, które jej nie wymaga.

Sprawdź zmienność na własne oczy

Nic nie zastąpi zobaczenia tych ustawień w działaniu. Napisz skrypt w Pythonie, który wyśle ten sam prompt do modelu GPT-5.6 Terra z pięcioma wartościami temperatury (0, 0,3, 0,7, 1,0 i 1,3) i wyświetli pięć wyników obok siebie. Wybierz szczerze kreatywną instrukcję, na przykład: „Wymyśl nazwę dla startupu AI“: niemal słowo w słowo powtarzające się wyniki przy 0 i rozbieżność przy 1,3 staną się niemożliwe do przeoczenia, a ta wizualna pamięć posłuży Ci jako punkt odniesienia znacznie dłużej niż tabela wartości.

Kluczowe wnioski

  • Temperatura kontroluje rozproszenie rozkładu prawdopodobieństwa
  • top_p filtruje tokeny według prawdopodobieństwa skumulowanego
  • Nigdy nie modyfikuj obu parametrów jednocześnie
  • Niska temperatura dla zadań faktograficznych, wysoka dla kreatywnych
  • Ustawienie rozumowania (od none do max) dotyczy całej rodziny modeli GPT-5.6