Tree-of-Thought: Strukturierte Exploration
Auf dieser Seite
Lektion aktualisiert am 3. November 2026 basierend auf der OpenAI-Dokumentation:
temperatureundtop_pwerden nur mit einem Reasoning-Effort vonnoneakzeptiert, während GPT-5.6-Modelle standardmäßig nachdenken (medium). Aufrufe, die diese Parameter setzen, müssen daherreasoning={"effort": "none"}(Responses API) oderreasoning_effort="none"(Chat Completions) angeben. Quellen: Using GPT-6 · GPT-5.6 Terra.
Tree-of-Thought: Strukturierte Exploration
Tree-of-Thought (ToT) ist eine Prompting-Technik, die das Nachdenken des Modells als Entscheidungsbaum strukturiert. Anstatt einen einzigen, linearen Denkpfad zu verfolgen, erkundet das Modell mehrere Äste, bewertet jeden von ihnen und behält nur die vielversprechendsten bei. Die Ähnlichkeit zu einem Suchalgorithmus ist direkt: Sie generieren Kandidaten, bewerten diese und kürzen den Rest. Dies macht die Technik für Probleme, die Planung oder Rückverfolgung erfordern, hochwirksam.
Unterschied zu Chain-of-Thought
Chain-of-Thought (CoT) folgt linearem Nachdenken: Schritt 1, Schritt 2, Schritt 3. Ihre Schwäche ist strukturell. Wenn das Modell auf Schritt 2 den falschen Weg einschlägt, erbt alles, was folgt, diesen Fehler, und es gibt keinen Mechanismus, um zurückzugehen. Das Nachdenken kann perfekt formuliert sein, beginnt aber von einer falschen Prämisse. Tree-of-Thought erkundet an jedem Schritt mehrere Richtungen und verwirft tote Enden, bevor weitere Entwicklung in sie investiert wird.
# Chain-of-Thought (linear)
# Schritt 1 → Schritt 2 → Schritt 3 → Antwort
# Tree-of-Thought (baum-basiert)
# Schritt 1
# / | \
# Opt A Opt B Opt C ← Bewertung
# | | ✗ ← Kürzung
# Opt A1 Opt B1
# | |
# Antwort Antwort ← finale Auswahl
Implementierung in einem einzigen Prompt
Die einfachste Version passt in einen einzigen Aufruf: Der Prompt zwingt das Modell, eine Explorationsstruktur zu befolgen – generieren Sie drei Ansätze, bewerten Sie diese, wählen Sie einen aus und entwickeln Sie diesen weiter. Dies ist kostengünstig und oft ausreichend, um eine offene Frage zu bearbeiten. Seien Sie sich einer Einschränkung bewusst, bevor Sie sich darauf verlassen: Das Modell schlägt vor und bewertet in einem Zug, wodurch es gegenüber seinen eigenen Ideen nachsichtig ist und zu einer weniger strengen Kürzung als notwendig führt.
from openai import OpenAI
client = OpenAI()
def tree_of_thought_simple(problem: str) -> str:
"""ToT in einem einzigen Prompt."""
prompt = f"""Lösen Sie dieses Problem mit dem Tree-of-Thought-Ansatz.
Problem: {problem}
Schritt 1 - Generieren Sie 3 verschiedene Ansätze:
- Ansatz A: ...
- Ansatz B: ...
- Ansatz C: ...
Schritt 2 - Bewerten Sie jeden Ansatz (Stärken und Schwächen):
- Ansatz A: ...
- Ansatz B: ...
- Ansatz C: ...
Schritt 3 - Wählen Sie den besten Ansatz und entwickeln Sie diesen:
Ausgewählter Ansatz: ...
Ausführliche Entwicklung: ...
Schritt 4 - Finale Antwort:
..."""
response = client.responses.create(
model="gpt-5.6-sol",
reasoning={"effort": "none"}, # temperature erfordert effort none
input=prompt,
temperature=0.7
)
return response.output_text
Implementierung mit mehreren Aufrufen
Bei komplexen Problemen trennen Sie jeden Schritt in separate Aufrufe. Diese Aufteilung bietet Ihnen zwei Dinge, die ein einzelner Prompt nicht leisten kann. Erstens, schrittweise Temperaturkontrolle: 0,8 für die Generierung, wo die Vielfalt der Vorschläge der Kernpunkt der Methode ist, und 0,3 für die Bewertung und Entwicklung, wo Sie Strenge und Reproduzierbarkeit wünschen. Zweitens, Zwischenergebnisse, die Sie überprüfen, protokollieren oder sogar zur menschlichen Validierung einreichen können, bevor die Kette weiterläuft.
def tree_of_thought(problem: str, breadth: int = 3,
depth: int = 3) -> dict:
"""ToT mit mehrstufiger Exploration."""
system = "Sie sind ein Experte für strukturierte Problemlösung."
# Schritt 1: Generieren Sie initiale Äste
gen_prompt = (f"Problem: {problem}\n\n"
f"Erstellen Sie {breadth} verschiedene Ansätze, um dieses Problem zu lösen. "
f"Für jeden Ansatz geben Sie einen Titel und eine Beschreibung von 2-3 Sätzen an. "
f"Nummern Sie sie von 1 bis {breadth}.")
branches_response = client.responses.create(
model="gpt-5.6-terra",
reasoning={"effort": "none"}, # temperature erfordert effort none
instructions=system,
input=gen_prompt,
temperature=0.8
)
branches = branches_response.output_text
# Schritt 2: Bewerten Sie jeden Ast
eval_prompt = (f"Problem: {problem}\n\n"
f"Hier sind {breadth} vorgeschlagene Ansätze:\n{branches}\n\n"
f"Bewerten Sie jeden Ansatz nach 3 Kriterien (Punktzahl /10):\n"
f"- Durchführbarkeit\n- Effizienz\n- Einfachheit\n\n"
f"Rangieren Sie sie von bester bis schlechtester mit Begründung.")
eval_response = client.responses.create(
model="gpt-5.6-terra",
reasoning={"effort": "none"}, # temperature erfordert effort none
instructions=system,
input=eval_prompt,
temperature=0.3
)
evaluation = eval_response.output_text
# Schritt 3: Entwickeln Sie den besten Ast
dev_prompt = (f"Problem: {problem}\n\n"
f"Bewertung der Ansätze:\n{evaluation}\n\n"
f"Entwickeln Sie den am besten bewerteten Ansatz im Detail. "
f"Stellen Sie eine vollständige, umsetzbare Lösung bereit.")
solution = client.responses.create(
model="gpt-5.6-terra",
reasoning={"effort": "none"}, # temperature erfordert effort none
instructions=system,
input=dev_prompt,
temperature=0.3
)
return {
"branches": branches,
"evaluation": evaluation,
"solution": solution.output_text
}
Durchgerechnetes Beispiel: Softwarearchitektur
Das nachfolgende Problem ist genau die Art, bei der ToT Mehrwert bietet. Mehrere Strategien sind vertretbar – Caching, Read-Replikas, Extrahieren des Suchservices, Blue-Green-Deployment – und die Wahl hängt von den im Prompt explizit genannten Einschränkungen ab, insbesondere der Teamgröße. Ein direkter Prompt würde Ihnen die Lösung liefern, die in der technischen Literatur am häufigsten zitiert wird, unabhängig von diesen Einschränkungen; ToT stellt sie den anderen gegenüber und muss ihre Rangfolge basierend auf Durchführbarkeitskriterien verteidigen.
problem = """
Unsere monolithische REST-API (Django, PostgreSQL) erreicht ihre Grenzen:
- Maximal 500 Anfragen pro Sekunde
- Antwortzeit > 2s bei Suchendpunkten
- Bereitstellung = 30 Minuten Ausfallzeit
- 3 Entwickler im Team
Wie können wir Leistung und Verfügbarkeit verbessern,
ohne die gesamte Anwendung umzuschreiben?
"""
result = tree_of_thought(problem, breadth=4)
print(result["solution"])
Wo ToT gewinnt, wo es Ihre Zeit verschwendet
Die Technik glänzt bei Planungsproblemen – Architektur, Roadmaps, Strategie –, bei eingeschränkten Problemen wie Optimierung oder Ressourcenallokation, bei komplexem Debugging, bei dem mehrere Ursachen gleichzeitig plausibel bleiben, und bei technischen Entscheidungen wie der Wahl eines Frameworks oder einer Datenbank. Diese Situationen teilen zwei Merkmale: Es existieren mehrere gültige Lösungen, und es gibt ein explizites Kriterium, um zwischen ihnen zu unterscheiden.
Umgekehrt, überspringen Sie es bei einfachen faktischen Fragen, bei denen es nichts zu erkunden gibt, und Sie würden für drei Aufrufe bezahlen, um eine offensichtliche Antwort zu erhalten. Es scheitert auch bei offenen kreativen Aufgaben aufgrund des Mangels an einem verteidigbaren Bewertungskriterium: Die Rangfolge von drei Werbeslogans auf einer Durchführbarkeitsskala ergibt keinen Sinn. Vermeiden Sie es schließlich, wenn Latenz kritisch ist, da die Version mit mehreren Aufrufen mechanisch mehrere API-Anfragen vor der Rückgabe einer Antwort verketten muss.
Kombination mit Reasoning-Einstellungen
Bei hohen Reasoning-Einstellungen führen GPT-5.6-Modelle bereits eine strukturierte interne Exploration durch. Explizites ToT wird dann weitgehend überflüssig und kostet Sie doppelt für die gleiche Arbeit. Reservieren Sie es für Situationen, in denen das Reasoning deaktiviert oder niedrig ist, wie im folgenden Vergleich.
# Bei niedrigem Reasoning: explizites ToT ist nützlich
result = tree_of_thought(problem, breadth=3)
# Bei hohem Reasoning: das Modell denkt bereits tief nach
response = client.responses.create(
model="gpt-5.6-sol",
input=problem,
reasoning={"effort": "high"}
)
Um in Ihrem eigenen Kontext zu entscheiden, nehmen Sie ein Architektur- oder Designproblem, das Sie diese Woche tatsächlich haben, führen Sie es durch ToT mit mehreren Aufrufen mit breadth=3 durch, und reichen Sie es dann unverändert in einem direkten Prompt ein. Vergleichen Sie die beiden Lösungen und vor allem den Token-Aufwand jeder. Für eine hochriskante Entscheidung zahlt sich die Qualitätslücke mehr als die zusätzlichen Kosten aus; für eine sekundäre Frage tut sie es nicht, und dieses Wissen wird Sie daran hindern, die Technik überall aus Gewohnheit anzuwenden.
Kernaussagen
- ToT erkundet mehrere Denkpfade und wählt den besten aus
- Einfache Version in einem Prompt oder fortgeschrittene Version mit mehreren Aufrufen
- Ideal für Planung, Architektur und komplexes Debugging
- Bei hohen Reasoning-Einstellungen haben GPT-5.6-Modelle bereits implizites ToT
- Der zusätzliche Token-Aufwand ist für Entscheidungen mit hohem Impact gerechtfertigt