Zum Hauptinhalt springen
Deutsch— Sprache auswählen
Menü

Tokens, Kontext und Gesprächsfenster

Lektion 7 von 22 Aktualisiert am 29. Juli 2026 Entwickler
Auf dieser Seite
  1. Tokens, Kontext und Gesprächsfenster
  2. Was ist ein Token?
  3. Das Kontextfenster
  4. Drei Optimierungslüfter
  5. Kontext akkumuliert sich über das Gespräch
  6. Kernaussagen

Tokens, Kontext und Gesprächsfenster

Der Token ist die Einheit, mit der das Modell operiert, und die Einheit, die Ihre Abrechnung verfolgt. Solange dieses Konzept vage bleibt, bleiben auch Ihre Kosten unklar, und Sie werden schließlich einen Fehler aufgrund eines Kontextlimits begegnen, ohne zu wissen, warum. Diese Lektion klärt beide Probleme auf.

Was ist ein Token?

Ein Token ist kein Wort. Es ist ein Textfragment, das das Modell als untrennbare Einheit behandelt. Im Deutschen entspricht ein Token im Durchschnitt etwa 0,7 Wörtern. Die Bibliothek tiktoken ermöglicht es Ihnen, genau zu sehen, wie Text aufgeteilt wird: Beachten Sie, wie „allez-vous” in zwei Token zerfällt, während „aujourd’hui”, das im Trainingskorpus häufiger vorkommt, in einem Token untergebracht wird. Dieses Detail erklärt, warum ein französischer Text mehr Tokens verbraucht als ein englischer Text vergleichbarer Länge.

from openai import OpenAI
client = OpenAI()

# Um Tokens zu schätzen, verwenden Sie die tiktoken-Bibliothek
import tiktoken

# cl200k_base wird hier als Beispiel verwendet: Jede Modellgenerierung hat ihren eigenen Encoder.
# Prüfen Sie den Encoder für das Modell, das Sie aufrufen, bevor Sie sich auf die Anzahl verlassen.
enc = tiktoken.get_encoding("cl200k_base")

texte = "Bonjour, comment allez-vous aujourd'hui ?"
tokens = enc.encode(texte)
print(f"Text: {texte}")
print(f"Anzahl der Tokens: {len(tokens)}")
print(f"Tokens: {tokens}")
print(f"Decodierte: {[enc.decode([t]) for t in tokens]}")

# Ergebnis:
# Text: Bonjour, comment allez-vous aujourd'hui ?
# Anzahl der Tokens: 9
# Tokens: [38025, 11, 4068, 67590, 5072, 76439, 30, ...]
# Decodierte: ['Bonjour', ',', ' comment', ' allez', '-vous', " aujourd'hui", ' ?']

Überprüfen Sie immer, welcher Encoder dem Modell entspricht, das Sie aufrufen. Eine Zählung mit dem falschen Encoder bleibt eine nützliche Näherung, wird aber Ihrer Abrechnung nicht exakt entsprechen.

Das Kontextfenster

Jedes Modell verfügt über ein maximales Kontextfenster, und die Falle für Anfänger besteht darin, dass es sowohl Eingabe als auch Ausgabe umfasst. Dies ist kein Eingabebudget: Es ist ein Gesamtbudget. Wenn Ihr Prompt 190.000 Tokens eines 200.000-Token-Fensters einnimmt, bleiben nur 10.000 Tokens für die Antwort übrig. Das Modell wird mitten im Satz abschneiden, ohne weitere Warnung.

# Vorherige Generation, zur Referenz:
# GPT-5.4: 1.000.000 Kontext-Token
# GPT-5.3: 200.000 Kontext-Token
# gpt-5.6-sol  : 200.000 Kontext-Token
# gpt-5.6-terra : 200.000 Kontext-Token

# Beispiel: Wenn Ihre Eingabe 190.000 Tokens in einem 200.000-Token-Fenster beträgt,
# bleiben nur 10.000 Tokens für die Antwort übrig

response = client.responses.create(
    model="gpt-5.6-terra",
    input="Ein sehr langer Text...",
    max_output_tokens=10000  # Explizit begrenzen
)

Nachträglich können Sie die genaue Anzahl in response.usage einsehen, die Eingabe-Token, Ausgabe-Token und das Gesamte unterscheidet:

response = client.responses.create(
    model="gpt-5.6-terra",
    input="Erklären Sie Tokens in drei Sätzen."
)

usage = response.usage
print(f"Eingabe-Token: {usage.input_tokens}")
print(f"Ausgabe-Token: {usage.output_tokens}")
print(f"Gesamt: {usage.total_tokens}")

# Ergebnis:
# Eingabe-Token: 12
# Ausgabe-Token: 58
# Gesamt: 70

Drei Optimierungslüfter

Der erste Hebel ist die Kürze des Prompts. Höfliche Formeln und rhetorische Vorsichtsmaßnahmen verbessern die Antwort nicht und kosten Tokens bis auf den letzten: Die erste Version unten verwendet 35 Tokens für ein Ergebnis, das der zweiten entspricht, die nur 10 verwendet. Im Maßstab eines Dienstes, der eine Million Anfragen verarbeitet, ist der Unterschied nicht mehr anekdotisch.

# SCHLECHT — ausführlicher Prompt (35 Tokens)
response = client.responses.create(
    model="gpt-5.6-terra",
    input="Könnten Sie mir bitte eine Liste "
          "von drei roten Früchten geben, wenn das "
          "Sie natürlich nicht stört?"
)

# GUT — knapper Prompt (10 Tokens)
response = client.responses.create(
    model="gpt-5.6-terra",
    input="Listen Sie 3 rote Früchte auf."
)

Der zweite Hebel zielt auf die Ausgabe ab, die mehrere Male teurer ist als die Eingabe. Kombinieren Sie die Anweisung im Prompt mit einer technischen Obergrenze: Die erste Rahmung den Schreibstil, die zweite garantiert, dass Ihr Budget auch dann gehalten wird, wenn das Modell die Anweisung ignoriert.

# Ohne Limit — das Modell kann viele Tokens generieren
response = client.responses.create(
    model="gpt-5.6-terra",
    input="Erklären Sie die Photosynthese."
)

# Mit Limit — Kostenkontrolle
response = client.responses.create(
    model="gpt-5.6-terra",
    input="Erklären Sie die Photosynthese in maximal 2 Sätzen.",
    max_output_tokens=100
)

Der dritte Hebel ist die Kostenschätzung vor dem Aufruf, die unerlässlich wird, sobald Sie Dokumente variabler Größe verarbeiten. Sie können dann eine Anfrage ablehnen oder aufteilen, die zu schwer ist, statt sie erst auf Ihrer Abrechnung zu entdecken.

import tiktoken

def estimate_cost(text: str, model: str = "gpt-5.6-terra") -> dict:
    """Schätzen Sie die Kosten eines API-Aufrufs."""
    enc = tiktoken.get_encoding("cl200k_base")
    input_tokens = len(enc.encode(text))

    # Näherungsweise Preise pro Million Tokens (aktuelle Preise prüfen)
    prices = {
        "gpt-5.6-sol": {"input": 5.0, "output": 30.0},
        "gpt-5.6-terra": {"input": 2.0, "output": 12.0},
        "gpt-5.6-luna": {"input": 0.20, "output": 1.20},
    }

    input_cost = (input_tokens / 1_000_000) * prices[model]["input"]

    return {
        "input_tokens": input_tokens,
        "input_cost_usd": round(input_cost, 6),
        "model": model
    }

print(estimate_cost("Erklären Sie die Relativitätstheorie in 3 Sätzen."))
# Ergebnis: {'input_tokens': 10, 'input_cost_usd': 2.5e-05, 'model': 'gpt-5.6-terra'}

Kontext akkumuliert sich über das Gespräch

Wenn Sie Austausche mit previous_response_id verketten, beginnt jede Runde von neuem mit der Gesamtheit vorheriger Runden. Eingabe-Token wachsen daher ständig: Ein Dialog, der bei 50 Tokens beginnt, wiegt auf der zweiten Runde 150 und auf der zehnten Runde noch viel mehr. Dies ist die häufigste Ursache dafür, dass Abrechnungen sich spiralförmig erhöhen, ohne dass der Verkehr zunimmt, und die Überwachung von response.usage.input_tokens ist Ihr Warnsignal.

# Runde 1: 50 Tokens
r1 = client.responses.create(
    model="gpt-5.6-terra",
    input="Hallo, ich bin ein Python-Entwickler."
)

# Runde 2: 50 + 100 = 150 Tokens (kumulativer Kontext)
r2 = client.responses.create(
    model="gpt-5.6-terra",
    input="Welche Web-Frameworks empfehlen Sie?",
    previous_response_id=r1.id
)

# Runde 10: Tokens akkumulieren sich!
# Überwachen Sie response.usage.input_tokens, um Überraschungen zu vermeiden
print(f"Kumulierte Tokens in Runde 2: {r2.usage.input_tokens}")

Für lange Gespräche ist die Lösung, die Historie aktiv zu kürzen: Entfernen Sie die ältesten Nachrichten, bis Sie unter eine gewählte Grenze fallen, während Sie die erste behalten, die in der Regel den grundlegenden Kontext des Austauschs trägt.

def conversation_with_limit(messages: list, token_limit: int = 50000):
    """Halten Sie das Gespräch unter einem Token-Limit."""
    enc = tiktoken.get_encoding("cl200k_base")

    total = sum(len(enc.encode(m["content"])) for m in messages)

    # Älteste Nachrichten entfernen, wenn notwendig
    while total > token_limit and len(messages) > 2:
        removed = messages.pop(1)  # Erste Nachricht behalten (Kontext)
        total -= len(enc.encode(removed["content"]))

    return messages

Kernaussagen

  • Ein Token entspricht im Deutschen etwa 0,7 Wörtern
  • Das Kontextfenster umfasst Eingabe und Ausgabe
  • Fenster variieren je nach Modell: In der vorherigen Generation 1 Mio. Tokens für GPT-5.4 und 200 K für GPT-5.3, o3-pro und o4-mini
  • Verwenden Sie tiktoken, um Tokens vor dem Aufruf zu zählen
  • Überwachen Sie response.usage, um Ihre Kosten zu kontrollieren
  • Verwalten Sie den Kontext in langen Gesprächen aktiv