Zum Hauptinhalt springen
Deutsch— Sprache auswählen
Menü

Temperatur- und Generierungsparameter

Lektion 3 von 14 Aktualisiert am 3. November 2026 Anfänger
Auf dieser Seite
  1. Generierung mit Parametern steuern
  2. Temperatur
  3. Der top_p-Parameter (Nucleus-Sampling)
  4. max_completion_tokens
  5. Der seed-Parameter
  6. Von Reasoning-Modellen abgelehnte Parameter
  7. Empfohlene Einstellungen
  8. Praktische Übung
  9. Kernaussagen

Lektion am 3. November 2026 überarbeitet basierend auf den besten Praktiken von xAI, der API-Referenz (Chat Completions und Responses) sowie dem Reasoning-Guide: xAI empfiehlt für seine Modelle eine temperature von 0,7 und ein top_p von 0,95. Temperaturen über 1 werden auf 1 gekappt, top_p liegt standardmäßig bei 0,95, max_completion_tokens begrenzt nur den sichtbaren Antwortteil (standardmäßig 128.000 Tokens), und seed garantiert keine Deterministik. Die vorherige Version empfahl Temperaturen bis zu 2, ein standardmäßiges top_p von 1 und eine Kappe, die auch das Reasoning einschloss. Quellen: Beste Praktiken · Chat Completions · Reasoning.

Generierung mit Parametern steuern

Neben dem Prompt-Text akzeptiert die Grok-API mehrere numerische Parameter, die beeinflussen, wie das Modell seine Antwort generiert. Bei aktuellen Modellen lautet die wichtigste Erkenntnis kontraintuitiv: Behandeln Sie diese Einstellungen mit großer Zurückhaltung und denken Sie daran, dass der Prompt weitaus mehr als die Regler die Antwortqualität bestimmt.

Eine kreative Antwort, die über den Prompt in der Grok-Anwendung erzielt wurde

Temperatur

Die Temperatur steuert den Grad der Zufälligkeit bei der Token-Auswahl. Die API-Referenz beschreibt dies klassisch: Ein niedriger Wert, wie 0,2, macht die Ausgabe fokussierter und deterministischer; ein höherer Wert, wie 0,8, macht sie variabler. Sie akzeptiert Werte von 0 bis 2, aber alles über 1 wird auf 1 abgetastet.

Die besten Praktiken von xAI gehen noch weiter: Stellen Sie temperature auf 0,7 ein und weichen Sie davon nicht stark ab. Laut xAI reagieren Grok-Modelle schlecht auf andere Abtast-Einstellungen, und die Qualität nimmt im Allgemeinen ab, wenn Sie diese ändern.

{
  "model": "grok-4.7",
  "messages": [{"role": "user", "content": "Vorschlagen Sie ein Slogan für eine Bio-Bäckerei"}],
  "temperature": 0.7,
  "top_p": 0.95
}
0,7
Von xAI empfohlene Temperatur
1
Effektive Temperatur-Kappe
0,95
Empfohlenes und standardmäßiges top_p

Um mehr Kreativität, Strenge oder Kürze zu erzielen, nutzen Sie den Prompt stattdessen: Fordern Sie explizit unerwartete Vorschläge, einen faktischen Ton oder eine Antwort in drei Aufzählungspunkten an. Dies ist der Fokus der folgenden Lektionen.

Der top_p-Parameter (Nucleus-Sampling)

Der top_p-Parameter begrenzt die Auswahl auf Tokens, die eine gegebene Wahrscheinlichkeitsmasse kumulieren: Bei 0,1 werden nur Tokens berücksichtigt, die die Top-10-%-Wahrscheinlichkeit repräsentieren. Aktuelle Grok-Textmodelle haben dies standardmäßig auf 0,95 eingestellt, und Werte über dem Modell-Standard werden auf diesen Standard gekappt.

Die API-Referenz wiederholt den üblichen Rat, entweder temperature oder top_p zu ändern, aber nicht beide. Die besten Praktiken von xAI, neuer und spezifisch für seine Modelle, fordern stattdessen, beide explizit in jeder Anfrage – 0,7 und 0,95 – einzustellen, damit Ihre Ergebnisse nicht von Server-Standardwerten abhängen, und dieselben Werte für alle zu vergleichenden Modelle zu verwenden.

max_completion_tokens

Dieser Parameter begrenzt die Anzahl der Tokens in der Antwort. Er dient dazu, die Länge und die Kosten des sichtbaren Teils zu steuern.

{
  "model": "grok-4.7",
  "messages": [{"role": "user", "content": "Fassen Sie dieses Dokument in drei Punkten zusammen"}],
  "max_completion_tokens": 500
}

Wichtige Punkte, laut API-Referenz:

  • Er gilt nur für sichtbare Tokens: Reasoning und Funktionsaufrufe zählen nicht; Reasoning-Effort steuert die Reflexion
  • Ohne Wert liegt der Standard bei 128.000 Tokens; der alte max_tokens ist veraltet
  • Wenn das Limit erreicht ist, wird die Antwort abgeschnitten und finish_reason ist "length" statt "stop" (die Responses-API nennt diese Kappe max_output_tokens und signalisiert einen incomplete-Status)

Der seed-Parameter

Der seed-Parameter fordert eine so deterministische Systemabtastung wie möglich: Wiederholte Anfragen mit demselben seed und denselben Parametern sollten dasselbe Ergebnis liefern. Die API-Referenz gibt an, dass Determinismus nicht garantiert ist, und verweist auf das system_fingerprint-Feld in der Antwort, um serverseitige Änderungen zu erkennen.

{
  "model": "grok-4.7",
  "messages": [{"role": "user", "content": "Generieren Sie 5 Namen für Tech-Startups"}],
  "temperature": 0.7,
  "top_p": 0.95,
  "seed": 42
}

Einsatzgebiete für seed:

  • Tests und Debugging: Überprüfen Sie, ob ein Prompt stabile Ergebnisse liefert
  • Vergleich: Testen Sie verschiedene Prompt-Formulierungen mit demselben Seed, um die Wirkung der Änderung zu isolieren
  • Tracking: Protokollieren Sie seed und system_fingerprint mit jedem Ergebnis, um Varianz zu erklären

Von Reasoning-Modellen abgelehnte Parameter

Aktuelle Grok-Modelle nutzen Reasoning: presence_penalty, frequency_penalty und stop können nicht an sie gesendet werden, und eine Anfrage, die diese enthält, führt zu einem Fehler. logprobs wird hingegen bei Grok 4.20 ignoriert. Wenn Sie Code, der für einen anderen Anbieter geschrieben wurde, portieren, entfernen Sie diese Parameter.

Empfohlene Einstellungen

xAI schlägt keine Einstellungen pro Anwendungsfall vor: Seine Empfehlung ist überall dieselbe.

{"temperature": 0.7, "top_p": 0.95}

Fügen Sie bei Bedarf ein max_completion_tokens hinzu, das an die erwartete Länge angepasst ist, ein seed für Ihre Tests und, bei grok-4.5 bis 4.7, einen Reasoning-Effort (reasoning_effort), der je nach Aufgabenkomplexität gewählt wird: Dies, nicht die Temperatur, regelt Geschwindigkeit, Kosten und Tiefe.

Praktische Übung

Senden Sie denselben Prompt dreimal, mit temperature bei 0,7 und top_p bei 0,95, und dann dreimal eine Version des Prompts, die den erwarteten Ton und das Format spezifiziert:

Prompt A: "Vorschlagen Sie drei Namen für eine Meditations-App"
Prompt B: "Vorschlagen Sie drei kurze, einprägsame und unerwartete Namen für eine Meditations-App, die für geschäftige Führungskräfte entwickelt wurde. Ein Name pro Zeile, keine Erklärung."

Vergleichen Sie die Vielfalt und Relevanz der Antworten: Der Unterschied kommt vom Prompt, nicht von den Parametern.

Kernaussagen

  • xAI empfiehlt temperature bei 0,7 und top_p bei 0,95, explizit in jeder Anfrage eingestellt
  • Über 1 wird die Temperatur auf 1 gekappt; top_p überschreitet nicht den Modell-Standard (0,95)
  • max_completion_tokens begrenzt nur die sichtbare Antwort, standardmäßig 128.000 Tokens
  • seed zielt auf Reproduzierbarkeit ohne Garantie ab: Verfolgen Sie system_fingerprint
  • presence_penalty, frequency_penalty und stop werden von Reasoning-Modellen abgelehnt