Bemühung für das Nachdenken: Niedrig, Mittel und Hoch

Aktualisiert am 3. November 2026 basierend auf der xAI-API-Referenz: max_completion_tokens begrenzt nur die sichtbare Antwort; Nachdenk-Token zählen nicht zu dieser Grenze, und die Bemühung steuert deren Menge. Quelle: Chat Completions. Ergänzung vom 3. November: Die Lektion verknüpfte die Bemühung zuvor mit der API (Chat Completions oder Responses) und wendete sie auf grok-4.20-0309-reasoning an, das diese Funktion nicht unterstützt; laut der xAI-Seite Nachdenken hängt dies vom Modell ab (grok-4.7, grok-4.6, grok-4.5, grok-4.20-multi-agent). Das Beispiel enthielt zudem usage.completion_tokens, das in Responses-API-Antworten fehlt (output_tokens, output_tokens_details.reasoning_tokens). Quelle: Nachdenken.

Steuerung der Nachdenktiefe

Die Bemühung für das Nachdenken (Reasoning effort) ermöglicht es Ihnen, zu kalibrieren, wie viel Denkprozess das Modell vor der Antwort investiert. Es ist ein direkter Hebel, um Qualität, Geschwindigkeit und Token-Verbrauch auszugleichen.

Das Modell bestimmt die Verfügbarkeit, nicht die API. Laut xAI-Dokumentation:

Das Nachdenken kann bei diesen Modellen nicht deaktiviert werden: Ohne Konfiguration liegt die Bemühung standardmäßig bei high. Nur der Parametername ändert sich je nach API: reasoning_effort auf oberster Ebene bei Chat Completions, reasoning.effort innerhalb eines reasoning-Objekts bei der Responses-API.

{
  "model": "grok-4.7",
  "input": "Lösen Sie das Gleichungssystem: 3x + 2y = 12, x - y = 1",
  "reasoning": {
    "effort": "medium"
  }
}

Bemühungsebenen

Die Dokumentation beschreibt jede Ebene und ihren geeigneten Einsatz:

• low: Verwendet etwas Nachdenken, bleibt aber schnell. Für latenzsensitive agentische Anwendungen und einfache Tool-Aufrufe.
• medium: Mehr Reflexion, für Anwendungen, die weniger latenzsensitiv sind. Für komplexe Datenanalyse und Nachdenken über lange Kontexte.
• high (Standard): Viele mehr Nachdenk-Token. Für sehr schwierige Probleme, komplexe Mathematik, mehrstufige Logik.
• xhigh: Maximale Tiefe, mit entsprechender Latenz. Für die schwierigsten Probleme, wenn die Qualität wichtiger ist als die Antwortzeit.

Die xAI-Best Practices fügen eine einfache Regel hinzu: Stellen Sie die Bemühung bei jeder Anfrage explizit ein und protokollieren Sie sie mit jedem Ergebnis, damit Ihre Messungen vergleichbar bleiben.

Nachdenkmodelle lehnen auch drei Parameter ab: presence_penalty, frequency_penalty und stop führen die Anfrage fehlerhaft.

Auswirkungen auf Token

Die Bemühungsebene hat eine direkte Auswirkung auf den Verbrauch von Nachdenk-Token:

• low: Wenige Nachdenk-Token, schnelle Antwort, niedrige Kosten
• medium: Mäßiger Verbrauch, guter Kompromiss
• high und xhigh: Viele Nachdenk-Token, langsamere Antwort, hohe Kosten

Diese Nachdenk-Token werden als Ausgabe-Token abgerechnet (siehe Lektion 8). Die Ausgabe-Grenze (max_completion_tokens bei Chat Completions, max_output_tokens bei der Responses-API) begrenzt nur die sichtbare Antwort: Das Nachdenken zählt nicht dazu, sodass die Bemühung deren Menge steuert.

Auswahl der richtigen Ebene

Praktisches Beispiel: Gleiche Frage, drei Bemühungen

for effort in ["low", "medium", "high"]:
    response = client.responses.create(
        model="grok-4.7",
        input="Erklären Sie, warum 0.1 + 0.2 != 0.3 in der Informatik.",
        reasoning={"effort": effort},
    )
    usage = response.usage
    print(f"Bemühung {effort}: {usage.output_tokens} Ausgabe-Token, "
          f"incl. {usage.output_tokens_details.reasoning_tokens} Nachdenk-Token")

Der Unterschied zwischen den Ebenen hängt von der Frage ab: Messen Sie ihn bei Ihren eigenen Fällen, anstatt sich auf einen allgemeinen Verhältniswert zu verlassen, und protokollieren Sie die Bemühung mit jedem Ergebnis.

Kernaussagen

• Die Bemühung hängt vom Modell ab: low, medium, high (Standard) und xhigh bei grok-4.7 und grok-4.6, ohne xhigh bei grok-4.5; grok-4.20-0309-reasoning unterstützt diese Funktion nicht
• reasoning_effort bei Chat Completions, reasoning.effort bei der Responses-API; das Nachdenken kann nicht deaktiviert werden
• Die Bemühungsebene wirkt sich direkt auf die Anzahl der Nachdenk-Token und damit auf die Kosten aus
• Ohne Konfiguration liegt die Bemühung standardmäßig bei high: Stellen Sie sie bei jeder Anfrage explizit ein, wie xAI empfiehlt
• Passen Sie die Bemühung der tatsächlichen Komplexität der Aufgabe an, um die Kosten zu optimieren