Tokengebruik en reasoning_tokens
Op deze pagina
Bijgewerkt op 3 november 2026. Gebaseerd op de xAI Chat Completions API-referentie:
max_tokensis verouderd ten gunste vanmax_completion_tokens, wat alleen de zichtbare respons beperkt. Bron: Chat Completions.
Inzicht in tokenfacturatie
Elk verzoek aan de Chat Completions API wordt gefactureerd op basis van het aantal verbruikte tokens. Het object usage in het antwoord geeft u een exacte telling, wat essentieel is voor het monitoren van kosten, het optimaliseren van prompts en het bepalen van uw API-budgetten.
Het standaard usage-object
Hier is de structuur van het object usage dat bij elk antwoord wordt teruggegeven:
{
"usage": {
"prompt_tokens": 127,
"completion_tokens": 342,
"total_tokens": 469
}
}
De drie basistellers
prompt_tokens: het aantal tokens in uw verzoek (systeembericht + geschiedenis + nieuw bericht). Dit is de “input”-kant van de facturatie.completion_tokens: het aantal tokens dat door het model is gegenereerd in zijn antwoord. Dit is de “output”-kant.total_tokens: de som van de vorige twee. Dit is het totaalbedrag dat voor dit verzoek in rekening wordt gebracht.
Impact van geschiedenis op de kosten
Omdat het eindpunt stateless is, wordt de geschiedenis bij elk verzoek meegestuurd. Dit betekent dat prompt_tokens bij elke uitwisseling toeneemt:
Uitwisseling 1 : prompt_tokens = 50 (systeem + 1 gebruikersbericht)
Uitwisseling 2 : prompt_tokens = 150 (systeem + 2 gebruikers + 1 assistent)
Uitwisseling 3 : prompt_tokens = 300 (systeem + 3 gebruikers + 2 assistenten)
Uitwisseling 10: prompt_tokens = 1500 (systeem + 10 gebruikers + 9 assistenten)
Bij lange gesprekken kunnen de kosten voor de geschiedenis snel hoger uitvallen dan de kosten voor het antwoord zelf.
reasoning_tokens: specifiek voor redeneermodellen
Grok-modellen met redeneermogelijkheden (zoals grok-4.20-0309-reasoning) voegen een extra veld toe aan het object usage:
{
"usage": {
"prompt_tokens": 127,
"completion_tokens": 892,
"total_tokens": 1019,
"completion_tokens_details": {
"reasoning_tokens": 550
}
}
}
Wat zijn reasoning_tokens?
reasoning_tokens vertegenwoordigen de tokens die het model gebruikt voor zijn interne redenering — het “nadenken” dat het doet voordat het zijn definitieve antwoord produceert. Deze tokens worden gegenereerd, maar zijn niet zichtbaar in het veld content van het antwoord.
In het bovenstaande voorbeeld:
- Het model heeft in totaal 892 tokens gegenereerd (
completion_tokens) - Inclusief 550 interne redeneertokens (
reasoning_tokens) - Waardoor 342 zichtbare antwoordtokens overblijven (892 - 550)
Waarom dit belangrijk is
Redeneertokens worden gefactureerd als normale completion-tokens. Voor een redeneermodel kan het zichtbare antwoord slechts een fractie van de totale kosten vertegenwoordigen:
usage = response.usage
visible_tokens = usage.completion_tokens - usage.completion_tokens_details.reasoning_tokens
reasoning_tokens = usage.completion_tokens_details.reasoning_tokens
print(f"Visible tokens: {visible_tokens}")
print(f"Reasoning tokens: {reasoning_tokens}")
print(f"Reasoning ratio: {reasoning_tokens / usage.completion_tokens * 100:.0f}%")
Het is niet ongebruikelijk dat redeneertokens 50 tot 80% van de completion-tokens uitmaken bij complexe vragen.
Strategieën voor kostenoptimalisatie
Reduceer prompt_tokens
- Samenvatten van geschiedenis: stuur in plaats van het hele gesprek een samenvatting van oudere uitwisselingen
- Beperk het systeembericht: een systeemprompt van 500 tokens is zelden nodig — streef naar 100–200 tokens
- Filter berichten: stuur alleen uitwisselingen die relevant zijn voor de huidige vraag
Beheers completion_tokens
- Gebruik
max_completion_tokens(max_tokensis verouderd): dit beperkt het zichtbare antwoord, niet de redenering - Specificeer het formaat: “Antwoord in 3 zinnen” kost minder dan “Leg uitgebreid uit”
- Kies het juiste model: een niet-redenerend model is goedkoper als de taak geen complexe denkprocessen vereist
Monitor kosten in productie
import json
def log_usage(response, requete_id: str):
usage = response.usage
log = {
"id": requete_id,
"prompt": usage.prompt_tokens,
"completion": usage.completion_tokens,
"total": usage.total_tokens,
}
if hasattr(usage, "completion_tokens_details") and usage.completion_tokens_details:
log["reasoning"] = usage.completion_tokens_details.reasoning_tokens
print(json.dumps(log))
Belangrijkste punten
- Het object
usagebevatprompt_tokens,completion_tokensentotal_tokens prompt_tokensnemen bij elke uitwisseling toe door de meegestuurde geschiedenis- Redeneermodellen voegen
reasoning_tokenstoe incompletion_tokens_details - Redeneertokens worden gefactureerd tegen het outputtarief maar zijn onzichtbaar in het antwoord; hun aandeel in de kosten hangt af van de taak en de inspanning, dus meet dit
- Optimaliseer door geschiedenis samen te vatten, de redeneerinspanning aan te passen,
max_completion_tokenste beperken en het juiste model te kiezen