Ga naar hoofdinhoud
Nederlands— Kies een taal
Menu

Tokengebruik en reasoning_tokens

Les 9 van 12 Bijgewerkt op 3 november 2026 Ontwikkelaar
Op deze pagina
  1. Inzicht in tokenfacturatie
  2. Het standaard usage-object
  3. reasoning_tokens: specifiek voor redeneermodellen
  4. Strategieën voor kostenoptimalisatie
  5. Belangrijkste punten

Bijgewerkt op 3 november 2026. Gebaseerd op de xAI Chat Completions API-referentie: max_tokens is verouderd ten gunste van max_completion_tokens, wat alleen de zichtbare respons beperkt. Bron: Chat Completions.

Inzicht in tokenfacturatie

Elk verzoek aan de Chat Completions API wordt gefactureerd op basis van het aantal verbruikte tokens. Het object usage in het antwoord geeft u een exacte telling, wat essentieel is voor het monitoren van kosten, het optimaliseren van prompts en het bepalen van uw API-budgetten.

Het standaard usage-object

Hier is de structuur van het object usage dat bij elk antwoord wordt teruggegeven:

{
  "usage": {
    "prompt_tokens": 127,
    "completion_tokens": 342,
    "total_tokens": 469
  }
}

De drie basistellers

  • prompt_tokens: het aantal tokens in uw verzoek (systeembericht + geschiedenis + nieuw bericht). Dit is de “input”-kant van de facturatie.
  • completion_tokens: het aantal tokens dat door het model is gegenereerd in zijn antwoord. Dit is de “output”-kant.
  • total_tokens: de som van de vorige twee. Dit is het totaalbedrag dat voor dit verzoek in rekening wordt gebracht.

Impact van geschiedenis op de kosten

Omdat het eindpunt stateless is, wordt de geschiedenis bij elk verzoek meegestuurd. Dit betekent dat prompt_tokens bij elke uitwisseling toeneemt:

Uitwisseling 1 : prompt_tokens = 50   (systeem + 1 gebruikersbericht)
Uitwisseling 2 : prompt_tokens = 150  (systeem + 2 gebruikers + 1 assistent)
Uitwisseling 3 : prompt_tokens = 300  (systeem + 3 gebruikers + 2 assistenten)
Uitwisseling 10: prompt_tokens = 1500 (systeem + 10 gebruikers + 9 assistenten)

Bij lange gesprekken kunnen de kosten voor de geschiedenis snel hoger uitvallen dan de kosten voor het antwoord zelf.

reasoning_tokens: specifiek voor redeneermodellen

Grok-modellen met redeneermogelijkheden (zoals grok-4.20-0309-reasoning) voegen een extra veld toe aan het object usage:

{
  "usage": {
    "prompt_tokens": 127,
    "completion_tokens": 892,
    "total_tokens": 1019,
    "completion_tokens_details": {
      "reasoning_tokens": 550
    }
  }
}

Wat zijn reasoning_tokens?

reasoning_tokens vertegenwoordigen de tokens die het model gebruikt voor zijn interne redenering — het “nadenken” dat het doet voordat het zijn definitieve antwoord produceert. Deze tokens worden gegenereerd, maar zijn niet zichtbaar in het veld content van het antwoord.

In het bovenstaande voorbeeld:

  • Het model heeft in totaal 892 tokens gegenereerd (completion_tokens)
  • Inclusief 550 interne redeneertokens (reasoning_tokens)
  • Waardoor 342 zichtbare antwoordtokens overblijven (892 - 550)

Waarom dit belangrijk is

Redeneertokens worden gefactureerd als normale completion-tokens. Voor een redeneermodel kan het zichtbare antwoord slechts een fractie van de totale kosten vertegenwoordigen:

usage = response.usage

visible_tokens = usage.completion_tokens - usage.completion_tokens_details.reasoning_tokens
reasoning_tokens = usage.completion_tokens_details.reasoning_tokens

print(f"Visible tokens: {visible_tokens}")
print(f"Reasoning tokens: {reasoning_tokens}")
print(f"Reasoning ratio: {reasoning_tokens / usage.completion_tokens * 100:.0f}%")

Het is niet ongebruikelijk dat redeneertokens 50 tot 80% van de completion-tokens uitmaken bij complexe vragen.

Strategieën voor kostenoptimalisatie

Reduceer prompt_tokens

  • Samenvatten van geschiedenis: stuur in plaats van het hele gesprek een samenvatting van oudere uitwisselingen
  • Beperk het systeembericht: een systeemprompt van 500 tokens is zelden nodig — streef naar 100–200 tokens
  • Filter berichten: stuur alleen uitwisselingen die relevant zijn voor de huidige vraag

Beheers completion_tokens

  • Gebruik max_completion_tokens (max_tokens is verouderd): dit beperkt het zichtbare antwoord, niet de redenering
  • Specificeer het formaat: “Antwoord in 3 zinnen” kost minder dan “Leg uitgebreid uit”
  • Kies het juiste model: een niet-redenerend model is goedkoper als de taak geen complexe denkprocessen vereist

Monitor kosten in productie

import json

def log_usage(response, requete_id: str):
    usage = response.usage
    log = {
        "id": requete_id,
        "prompt": usage.prompt_tokens,
        "completion": usage.completion_tokens,
        "total": usage.total_tokens,
    }
    if hasattr(usage, "completion_tokens_details") and usage.completion_tokens_details:
        log["reasoning"] = usage.completion_tokens_details.reasoning_tokens

    print(json.dumps(log))

Belangrijkste punten

  • Het object usage bevat prompt_tokens, completion_tokens en total_tokens
  • prompt_tokens nemen bij elke uitwisseling toe door de meegestuurde geschiedenis
  • Redeneermodellen voegen reasoning_tokens toe in completion_tokens_details
  • Redeneertokens worden gefactureerd tegen het outputtarief maar zijn onzichtbaar in het antwoord; hun aandeel in de kosten hangt af van de taak en de inspanning, dus meet dit
  • Optimaliseer door geschiedenis samen te vatten, de redeneerinspanning aan te passen, max_completion_tokens te beperken en het juiste model te kiezen