Wie Funktionsweise von Denkmodellen
Auf dieser Seite
Was hinter den Kulissen von Modellen passiert, die „denken”
Wenn Sie das Denklevel erhöhen, generiert das Modell die Antwort nicht sofort. Zuerst erzeugt es Denktokens, mit denen es die Anfrage zerlegt und mehrere Antwortmöglichkeiten erkundet. Das Verständnis dieses Mechanismus ist nicht nur theoretisch relevant: Es ermöglicht Ihnen, das Level angemessen einzustellen, Kosten vorherzusehen und die Ausgabe des Modells korrekt zu interpretieren.
Denken Sie, bevor Sie antworten
Bei einem schnellen Level (Instant im Chat, none oder low in der API) antwortet das Modell fast direkt. Je höher Sie das Level einstellen, desto mehr Tokens verbringt das Modell mit dem Nachdenken, bevor es die sichtbare Antwort liefert. Sie können diese Phase als Entwurf betrachten: Zerlegung des Problems, Erkundung von Wegen, Ausschluss von Sackgassen, Überprüfung und schließlich Synthese. Dies ist ein hilfreiches mentales Modell, keine offizielle Beschreibung der internen Abläufe; OpenAI beschreibt ein Modell, das die Anfrage zerlegt und mehrere Ansätze in Betracht zieht, bevor es antwortet.
Nehmen Sie den Ausdruck „17 × 23 + 45 ÷ 9 − 12”. Ohne Denkprozess besteht ein echtes Risiko von Fehlern bezüglich der Operatorpriorität. Bei einem höheren Level nimmt das Modell Zeit, um zuerst die Multiplikation und Division zu verarbeiten (391 und 5), dann die Addition und Subtraktion (391 + 5 − 12 = 384) und überprüft sein Ergebnis, bevor es es ausspricht.
Denktokens: Unsichtbar, aber abgerechnet
Denktokens erscheinen nicht in der Antwort, werden aber gezählt. In der API belegen sie Platz im Kontextfenster und werden als Ausgabetokens abgerechnet. Je nach Schwierigkeit kann ein Modell zwischen einigen hundert und mehreren zehntausend davon generieren. Wenn während des Denkprozesses das Ausgabe-Limit (max_output_tokens) erreicht wird, gibt die Antwort mit dem Status incomplete zurück, manchmal noch bevor überhaupt sichtbarer Text produziert wurde. OpenAI empfiehlt, beim Experimentieren mindestens 25.000 Tokens für den Denkprozess und die Antwort vorzubehalten.
Rohdaten des Denkprozesses werden nicht offengelegt. In der API können Sie mit dem Parameter reasoning.summary eine Zusammenfassung des Denkprozesses anfordern. In ChatGPT kann eine Antwort mit GPT-6 beginnen, während das Modell noch nachdenkt, und sich später mit Details anreichern.
Pro, Max und Ultra: Drei Wege, mehr zu leisten
Neben den Anstrengungsstufen gibt es drei Mechanismen, die das Denken weiter vorantreiben, und es ist nützlich, diese nicht zu verwechseln.
- Pro-Modus (
reasoning.mode: "pro"in der API, Pro-Level im Chat) lässt das Modell bei schwierigen Aufgaben, die eine höhere Latenz tolerieren, härter arbeiten. In der API wird diese zusätzliche Arbeit zum Standardtarif des gewählten Modells abgerechnet, verbraucht aber mehr Tokens. - Max, sowohl in Work und Codex als auch in der API (
max), gibt dem Modell mehr Zeit, um bei einer einzelnen Aufgabe zu denken. - Ultra, nur in Work und Codex verfügbar, geht über einen einzelnen Agenten hinaus: Es weist Teile einer komplexen Aufgabe an Unteragenten zu, die parallel arbeiten. Dies ist nur sinnvoll, wenn die Arbeit in unabhängige Blöcke zerlegt werden kann. GPT-6 Luna geht bis Max, aber nicht bis Ultra.
Was das Denken ändert und was nicht
Ein hohes Denklevel macht einen Unterschied bei bestimmten Problemfamilien: Mathematik und Statistik, Logik und Deduktion, komplexer Code und Debugging, strategische Analysen mit gewichteten Kriterien und allgemein bei jeder mehrstufigen Aufgabe. OpenAI empfiehlt daher high für schwieriges Denken, komplexes Debugging und tiefgehende Planung.
Dennoch ist es kein Allheilmittel. Das Modell kann auch nach dem Denken Fehler machen: Eine falsche Prämisse führt zu einem falschen Schluss, egal wie sorgfältig der Denkprozess ist. Denken erhöht die Antwortzeit und die Kosten. Und bei einer einfachen Aufgabe fügt es nichts hinzu, was ein schnelles Level nicht bereits bewältigen könnte.
Probieren Sie es selbst aus
Sehen Sie den Mechanismus in Aktion. Stellen Sie diese Frage zunächst auf schnellem Level, dann auf hohem Level (Instant dann High im Chat, oder low dann high in der API): „Ein Zug verlässt Paris um 8:00 Uhr mit 120 km/h. Ein anderer verlässt Lyon, 465 km entfernt, um 8:30 Uhr mit 150 km/h Richtung Paris. Um welche Uhrzeit und in welcher Entfernung von Paris treffen sie sich?” Überprüfen Sie die erwartete Antwort selbst: 10:00 Uhr, 240 km von Paris entfernt. Wenn Sie die API verwenden, vergleichen Sie die Anzahl der berichteten Denktokens in der Nutzungsstatistik für beide Levels.
Offizielle Quellen: Denkmodelle (OpenAI API: Denktokens, Abrechnung, Kontext, Zusammenfassungen, Pro-Modus, Anstrengungsstufen) · Modelle (ChatGPT-Dokumentation: Max und Ultra) · GPT-6 und andere Modelle in ChatGPT (Antworten, die während des Denkprozesses beginnen)
Wichtige Erkenntnisse
- Denken fügt Denktokens vor der Antwort hinzu; ihre Anzahl wächst mit dem gewählten Level
- Unsichtbar belegen diese Tokens den Kontext und werden in der API als Ausgabetokens abgerechnet
- Stellen Sie ausreichend Ausgabe-Marge zur Verfügung, sonst gibt die Antwort unvollständig zurück
- Pro lässt das Modell härter arbeiten, Max gibt ihm mehr Zeit, Ultra verteilt die Arbeit auf Unteragenten (Work und Codex)
- Denken immunisiert nicht gegen Fehler: Eine falsche Prämisse führt zu einem falschen Schluss