max_completion_tokens en tokenbudget
Op deze pagina
Les herschreven op 3 november 2026 op basis van de xAI API-referentie (Chat Completions en Responses), de gids Reasoning en de best practices van xAI:
max_completion_tokensenmax_output_tokensbeperken uitsluitend de zichtbare respons—redeneertokens en tokens voor functieaanroepen tellen niet mee voor deze limiet—en standaardwaarde is 128.000. De vorige versie beweerde het tegenovergestelde en baseerde de limiet op redeneren; deze stelde ook een inspanning in voorgrok-4.20-0309-reasoning, wat dit niet accepteert. Bronnen: Chat Completions · Responses · Reasoning.
Wat de limiet daadwerkelijk beperkt
Bij een redeneermodel zou u kunnen denken dat de uitvoerlimiet zijn budget deelt tussen gedachtegang en respons. Dat is bij xAI niet het geval. De API-referentie is expliciet: max_completion_tokens (Chat Completions) en max_output_tokens (Responses API) gelden alleen voor zichtbare uitvoertokens; redeneertokens en tokens voor functieaanroepen worden niet meegeteld.
max_completion_tokens → alleen zichtbare respons
redeneertokens → buiten de limiet, ingesteld via inspanning
Zonder opgegeven waarde standaardiseert deze limiet op 128.000 tokens. De oude parameter max_tokens is verouderd ten gunste van max_completion_tokens.
Redeneren sturen: inspanning, niet de limiet
Omdat de limiet geen invloed heeft op het redeneerproces, reguleert de inspanningsparameter de hoeveelheid. Voor grok-4.7, grok-4.6 en grok-4.5 is de parameter reasoning_effort in Chat Completions en reasoning.effort in de Responses API; de standaardwaarde is high, het accepteert low en medium, en vanaf Grok 4.6 ook xhigh. Redeneren kan niet worden uitgeschakeld.
grok-4.20-0309-reasoning accepteert deze parameter niet: dit model redeneert altijd, terwijl de variant grok-4.20-0309-non-reasoning respondeert zonder te redeneren. Bij grok-4.20-multi-agent bepaalt de inspanning tot slot niet de diepgang van het redeneren, maar het aantal ingezette agenten (4 of 16).
response = client.chat.completions.create(
model="grok-4.7",
reasoning_effort="low", # eenvoudige taak: weinig redeneren
messages=[{"role": "user", "content": "Classificeer dit ticket: facturatie, toegang of bug?"}],
)
print(response.usage.completion_tokens_details.reasoning_tokens)
Het aantal redeneertokens verschijnt in het gebruiksrapport van de respons: usage.completion_tokens_details.reasoning_tokens in Chat Completions, usage.output_tokens_details.reasoning_tokens in de Responses API. Deze maken deel uit van de gefactureerde tokens: het is dus de inspanning, niet de uitvoerlimiet, die druk uitoefent op deze post.
De uitvoerlimiet dimensioneren
De limiet dient uitsluitend om de lengte van de respons zelf te begrenzen. De best practices van xAI geven een eenvoudige regel: stel de limiet hoger in dan de langste respons die u verwacht, of laat de standaardwaarde van 128.000 tokens gehandhaafd. Een te krappe limiet kappt de zichtbare respons af, ongeacht de ingestelde redeneerinspanning.
| Verwachte respons | Redelijke uitvoerlimiet |
|---|---|
| Een label, een getal | enkele tientallen tokens |
| Een alinea | 500 tot 1.000 tokens |
| Een gestructureerd rapport | enkele duizenden tokens |
| Geen precies idee | de standaardwaarde |
Afkappen detecteren
Wanneer de zichtbare respons de limiet bereikt, retourneert Chat Completions "length" in finish_reason in plaats van "stop", en geeft de Responses API een status incomplete terug. U kunt deze situatie detecteren en opnieuw proberen met een hogere limiet:
response = client.chat.completions.create(
model="grok-4.7",
messages=[{"role": "user", "content": question}],
max_completion_tokens=2000,
)
if response.choices[0].finish_reason == "length":
# Zichtbare respons was afgekapt: opnieuw proberen met hogere limiet
response = client.chat.completions.create(
model="grok-4.7",
messages=[{"role": "user", "content": question}],
max_completion_tokens=8000,
)
Niet verwarren met de contextlimiet
De uitvoerlimiet staat los van het contextvenster van het model—500.000 tokens voor grok-4.7, 1 miljoen voor grok-4.20-0309-reasoning—dat het volledige gesprek begrenst. Een verzoek om diepgaand redeneren kan bovendien enkele minuten duren: xAI raadt aan minimaal 900 seconden per verzoek toe te staan en streaming te verkiezen.
Belangrijkste punten
max_completion_tokensenmax_output_tokensbeperken alleen de zichtbare respons: redeneren telt hier niet voor mee- Zonder opgegeven waarde standaardiseert de uitvoerlimiet op 128.000 tokens;
max_tokensis verouderd - De hoeveelheid redeneren wordt ingesteld via inspanning (
reasoning_effortofreasoning.effort) bij grok-4.5 tot 4.7;grok-4.20-0309-reasoningbeschikt hier niet over - Redeneertokens verschijnen in het gebruiksrapport en maken deel uit van de factuur
- Een afgekapt antwoord detecteert u via
finish_reason: "length"of de statusincomplete