Ga naar hoofdinhoud
Nederlands— Kies een taal
Menu

max_completion_tokens en tokenbudget

Les 10 van 12 Bijgewerkt op 3 november 2026 Ontwikkelaar
Op deze pagina
  1. Wat de limiet daadwerkelijk beperkt
  2. Redeneren sturen: inspanning, niet de limiet
  3. De uitvoerlimiet dimensioneren
  4. Afkappen detecteren
  5. Niet verwarren met de contextlimiet
  6. Belangrijkste punten

Les herschreven op 3 november 2026 op basis van de xAI API-referentie (Chat Completions en Responses), de gids Reasoning en de best practices van xAI: max_completion_tokens en max_output_tokens beperken uitsluitend de zichtbare respons—redeneertokens en tokens voor functieaanroepen tellen niet mee voor deze limiet—en standaardwaarde is 128.000. De vorige versie beweerde het tegenovergestelde en baseerde de limiet op redeneren; deze stelde ook een inspanning in voor grok-4.20-0309-reasoning, wat dit niet accepteert. Bronnen: Chat Completions · Responses · Reasoning.

Wat de limiet daadwerkelijk beperkt

Bij een redeneermodel zou u kunnen denken dat de uitvoerlimiet zijn budget deelt tussen gedachtegang en respons. Dat is bij xAI niet het geval. De API-referentie is expliciet: max_completion_tokens (Chat Completions) en max_output_tokens (Responses API) gelden alleen voor zichtbare uitvoertokens; redeneertokens en tokens voor functieaanroepen worden niet meegeteld.

max_completion_tokens → alleen zichtbare respons
redeneertokens → buiten de limiet, ingesteld via inspanning

Zonder opgegeven waarde standaardiseert deze limiet op 128.000 tokens. De oude parameter max_tokens is verouderd ten gunste van max_completion_tokens.

Redeneren sturen: inspanning, niet de limiet

Omdat de limiet geen invloed heeft op het redeneerproces, reguleert de inspanningsparameter de hoeveelheid. Voor grok-4.7, grok-4.6 en grok-4.5 is de parameter reasoning_effort in Chat Completions en reasoning.effort in de Responses API; de standaardwaarde is high, het accepteert low en medium, en vanaf Grok 4.6 ook xhigh. Redeneren kan niet worden uitgeschakeld.

grok-4.20-0309-reasoning accepteert deze parameter niet: dit model redeneert altijd, terwijl de variant grok-4.20-0309-non-reasoning respondeert zonder te redeneren. Bij grok-4.20-multi-agent bepaalt de inspanning tot slot niet de diepgang van het redeneren, maar het aantal ingezette agenten (4 of 16).

response = client.chat.completions.create(
    model="grok-4.7",
    reasoning_effort="low",  # eenvoudige taak: weinig redeneren
    messages=[{"role": "user", "content": "Classificeer dit ticket: facturatie, toegang of bug?"}],
)
print(response.usage.completion_tokens_details.reasoning_tokens)

Het aantal redeneertokens verschijnt in het gebruiksrapport van de respons: usage.completion_tokens_details.reasoning_tokens in Chat Completions, usage.output_tokens_details.reasoning_tokens in de Responses API. Deze maken deel uit van de gefactureerde tokens: het is dus de inspanning, niet de uitvoerlimiet, die druk uitoefent op deze post.

De uitvoerlimiet dimensioneren

De limiet dient uitsluitend om de lengte van de respons zelf te begrenzen. De best practices van xAI geven een eenvoudige regel: stel de limiet hoger in dan de langste respons die u verwacht, of laat de standaardwaarde van 128.000 tokens gehandhaafd. Een te krappe limiet kappt de zichtbare respons af, ongeacht de ingestelde redeneerinspanning.

Verwachte responsRedelijke uitvoerlimiet
Een label, een getalenkele tientallen tokens
Een alinea500 tot 1.000 tokens
Een gestructureerd rapportenkele duizenden tokens
Geen precies ideede standaardwaarde

Afkappen detecteren

Wanneer de zichtbare respons de limiet bereikt, retourneert Chat Completions "length" in finish_reason in plaats van "stop", en geeft de Responses API een status incomplete terug. U kunt deze situatie detecteren en opnieuw proberen met een hogere limiet:

response = client.chat.completions.create(
    model="grok-4.7",
    messages=[{"role": "user", "content": question}],
    max_completion_tokens=2000,
)

if response.choices[0].finish_reason == "length":
    # Zichtbare respons was afgekapt: opnieuw proberen met hogere limiet
    response = client.chat.completions.create(
        model="grok-4.7",
        messages=[{"role": "user", "content": question}],
        max_completion_tokens=8000,
    )

Niet verwarren met de contextlimiet

De uitvoerlimiet staat los van het contextvenster van het model—500.000 tokens voor grok-4.7, 1 miljoen voor grok-4.20-0309-reasoning—dat het volledige gesprek begrenst. Een verzoek om diepgaand redeneren kan bovendien enkele minuten duren: xAI raadt aan minimaal 900 seconden per verzoek toe te staan en streaming te verkiezen.

Belangrijkste punten

  • max_completion_tokens en max_output_tokens beperken alleen de zichtbare respons: redeneren telt hier niet voor mee
  • Zonder opgegeven waarde standaardiseert de uitvoerlimiet op 128.000 tokens; max_tokens is verouderd
  • De hoeveelheid redeneren wordt ingesteld via inspanning (reasoning_effort of reasoning.effort) bij grok-4.5 tot 4.7; grok-4.20-0309-reasoning beschikt hier niet over
  • Redeneertokens verschijnen in het gebruiksrapport en maken deel uit van de factuur
  • Een afgekapt antwoord detecteert u via finish_reason: "length" of de status incomplete