Zum Hauptinhalt springen
Deutsch— Sprache auswählen
Menü

Temperatur, top_p und Generierungsparameter

Lektion 2 von 16 Aktualisiert am 3. November 2026 Entwickler
Auf dieser Seite
  1. Temperatur, top_p und Generierungsparameter
  2. Wie das Modell das nächste Token auswählt
  3. Temperatur
  4. Top_p (Nucleus Sampling)
  5. Andere Parameter, die wichtig sind
  6. Beobachten Sie die Variation selbst
  7. Kernaussagen

Aktualisiert am 3. November 2026 basierend auf der OpenAI-Dokumentation: temperature und top_p werden nur mit einem Reasoning-Effort von none akzeptiert, während GPT-5.6-Modelle standardmäßig mit medium rechnerisch arbeiten. Aufrufe, die diese Parameter setzen, müssen daher reasoning={"effort": "none"} (Responses API) oder reasoning_effort="none" (Chat Completions) angeben. Quellen: Using GPT-6 · GPT-5.6 Terra.

Temperatur, top_p und Generierungsparameter

Wenn Sie einen Prompt an ein Sprachmodell senden, ist der generierte Text standardmäßig nicht deterministisch: zwei streng identische Aufrufe können zwei unterschiedliche Antworten zurückgeben. Generierungsparameter ermöglichen es Ihnen, den Grad an Kreativität oder Strenge in diesen Antworten zu steuern. Das Beherrschen dieser Parameter dient zwei konkreten Zielen: die Gewinnung von Ergebnissen, die auf jeden Verwendungsfall zugeschnitten sind, und das Wissen, wo man nachschauen muss, wenn eine Integrationstestsuite plötzlich in einem von drei Fällen fehlschlägt, ohne dass eine offensichtliche Erklärung dafür zu finden ist.

Wie das Modell das nächste Token auswählt

In jedem Schritt der Generierung berechnet das Modell eine Wahrscheinlichkeitsverteilung über sein gesamtes Vokabular und sampelt dann das nächste Token aus dieser Verteilung. Das „beste” Wort taucht nicht mechanisch auf; es ist ein Zufallsexperiment. Generierungsparameter greifen vor dem Sampling ein, entweder indem sie die Verteilung um die wahrscheinlichsten Kandidaten herum enger ziehen oder indem sie sie abflachen, um Außenseitern eine Chance zu geben. Die beiden Aufrufe unten illustrieren die Extreme dieses Bedarfs: ein Bäckerslogan ist nur dann wertvoll, wenn er überrascht, während die Syntax einer List Comprehension niemals überraschen darf.

from openai import OpenAI

client = OpenAI()

# Kreative Antwort (hohe Temperatur)
response_creative = client.responses.create(
    model="gpt-5.6-terra",
    reasoning={"effort": "none"},  # temperature erfordert effort none
    instructions="Sie sind ein kreativer Schriftsteller.",
    input="Erstellen Sie einen Slogan für eine handwerkliche Bäckerei.",
    temperature=1.2
)

# Faktische Antwort (niedrige Temperatur)
response_factual = client.responses.create(
    model="gpt-5.6-terra",
    reasoning={"effort": "none"},  # temperature erfordert effort none
    instructions="Sie sind ein präziser technischer Assistent.",
    input="Was ist die Syntax einer List Comprehension in Python?",
    temperature=0.1
)

Temperatur

Temperatur ist ein multiplikativer Faktor, der auf Logits angewendet wird, bevor die Softmax-Funktion berechnet wird. Bei 0 zieht sich die Verteilung so sehr zusammen, dass das Modell immer das wahrscheinlichste Token auswählt: das Verhalten wird quasi-deterministisch, genau das, was Sie von einem Datenextraktor erwarten, der in einer Unit-Test-Suite wiederholt wird. Zwischen 0,1 und 0,3 bleiben die Antworten von Aufruf zu Aufruf sehr konsistent: dies ist das Terrain für Code und faktische Antworten. Der Bereich von 0,7 bis 0,9 balanciert Kreativität und Konsistenz und eignet sich für allgemeines Schreiben. Darüber hinaus, zwischen 1,0 und 1,5, werden die Ausgaben variiert und manchmal verwirrend – der gewünschte Effekt für Brainstorming, aber ein tödlicher Fehler überall sonst.

Die folgende Tabelle fasst Einstellungen zusammen, die für die häufigsten Verwendungsfälle gut funktionieren. Betrachten Sie sie als Ausgangspunkt, um sie an Ihren eigenen Prompts zu validieren: ein stark eingeschränkter Prompt toleriert eine höhere Temperatur, als man vielleicht denkt, während ein loser Prompt früher aus dem Takt gerät.

Verwendungsfall Temperatur top_p
Code-Generierung 0,0 – 0,2 1,0
Datenauswertung 0,0 1,0
Professionelles Schreiben 0,5 – 0,7 0,9
Brainstorming 1,0 – 1,3 0,95
Kreatives Schreiben 1,0 – 1,5 0,9

Top_p (Nucleus Sampling)

Der top_p-Parameter wirkt auf dieselbe Verteilung, jedoch durch einen völlig anderen Mechanismus: er filtert Tokens basierend auf ihrer kumulativen Wahrscheinlichkeit. Bei top_p=0,9 berücksichtigt das Modell nur die Tokens, deren kumulative Wahrscheinlichkeit 90 % erreicht, rein und einfach die lange Schwanzverteilung unwahrscheinlicher Optionen ausschließend. Während Temperatur die Wahrscheinlichkeiten aller Kandidaten verzerrt, schneidet top_p die Liste zulässiger Kandidaten ab.

response = client.responses.create(
    model="gpt-5.6-terra",
    reasoning={"effort": "none"},  # temperature erfordert effort none
    instructions="Erstellen Sie eine technische Zusammenfassung.",
    input="Fassen Sie dar, wie TLS 1.3 funktioniert.",
    temperature=0.3,
    top_p=0.95
)

Dies führt zu einer praktischen Regel, die Sie nicht bereuen werden, anzuwenden: Berühren Sie Temperatur und top_p nicht gleichzeitig. Da beide auf denselben Mechanismus wirken, könnten Sie nicht feststellen, ob der beobachtete Effekt auf den einen oder den anderen zurückzuführen ist, und Ihre Einstellungen würden zur Angelegenheit des Aberglaubens. Passen Sie einen Parameter an und lassen Sie den anderen auf seinem Standardwert; OpenAI empfiehlt, mit der Temperatur zu beginnen.

Andere Parameter, die wichtig sind

max_output_tokens begrenzt die Antwortlänge in Tokens. Dies ist Ihr Schutzmechanismus für Kosten und endlose Antworten, insbesondere nützlich, wenn die Ausgabe innerhalb eines eingeschränkten Interface-Felds passen muss: eine während der Generierung gerahmte Antwort ist besser als ein Abbruch auf der Anzeigeseite.

response = client.responses.create(
    model="gpt-5.6-terra",
    instructions="Beantworten Sie in einem Satz.",
    input="Was ist DNS?",
    max_output_tokens=100
)

Seit GPT-5.6 ist Reasoning kein separates Modell mehr: es ist eine Einstellung, die die Reflexionszeit über die gesamte Familie steuert.

response = client.responses.create(
    model="gpt-5.6-terra",
    input="Lösen Sie diese Differentialgleichung: y' + 2y = e^(-x)",
    reasoning={
        "effort": "high"  # "none", "low", "medium", "high", "xhigh", "max"
    }
)

Das low-Level reagiert schnell auf einfache Fragen, medium stellt einen ehrlichen Kompromiss für die Mehrheit der Aufgaben dar, und high setzt sich mit vertieftem Reasoning auseinander, das für wirklich schwierige Probleme reserviert sein sollte. Die obige Differentialgleichung verdient es; die Umformulierung einer Begrüßungssatz nicht – Sie würden für Reflexionszeit bezahlen, die für eine Aufgabe nicht erforderlich ist.

Beobachten Sie die Variation selbst

Nichts ersetzt es, diese Einstellungen in Aktion zu sehen. Schreiben Sie ein Python-Skript, das denselben Prompt an GPT-5.6 Terra mit fünf Temperaturwerten (0, 0,3, 0,7, 1,0 und 1,3) sendet und die fünf Ausgaben nebeneinander anzeigt. Wählen Sie eine wirklich kreative Anweisung, zum Beispiel „Erfinden Sie einen Namen für eine KI-Startup”: die fast wortwörtliche Wiederholung bei 0 und die Dispersion bei 1,3 werden nicht zu übersehen sein, und diese visuelle Erinnerung wird als Referenzpunkt viel länger dienen als eine Tabelle von Werten.

Kernaussagen

  • Temperatur steuert die Ausbreitung der Wahrscheinlichkeitsverteilung
  • top_p filtert Tokens nach kumulativer Wahrscheinlichkeit
  • Modifizieren Sie niemals beide gleichzeitig
  • Niedrige Temperatur für faktische Aufgaben, hohe für kreative
  • Die Reasoning-Einstellung (von none bis max) gilt für die gesamte GPT-5.6-Familie