Hoppa till huvudinnehåll
Svenska— Välj ett språk
Meny

Användning av token och reasoning_tokens

Lektion 9 av 12 Uppdaterad 3 november 2026 Utvecklare
På denna sida
  1. Förstå fakturering av token
  2. Det vanliga usage-objektet
  3. reasoning_tokens: specifikt för resonemangsmodeller
  4. Strategier för kostnadsoptimering
  5. Viktiga punkter

Uppdaterat den 3 november 2026. Baserat på xAI Chat Completions API-referensen: max_tokens är föråldrat till förmån för max_completion_tokens, vilket endast begränsar det synliga svaret. Källa: Chat Completions.

Förstå fakturering av token

Varje begäran till Chat Completions API debiteras baserat på antalet konsumerade token. Objektet usage i svaret ger dig en exakt räkning, vilket är avgörande för att övervaka kostnader, optimera prompts och dimensionera dina API-budgetar.

Det vanliga usage-objektet

Här är strukturen för det usage-objekt som returneras med varje svar:

{
  "usage": {
    "prompt_tokens": 127,
    "completion_tokens": 342,
    "total_tokens": 469
  }
}

De tre grundläggande räknarna

  • prompt_tokens: antalet token i din begäran (systemmeddelande + historik + nytt meddelande). Detta är “inmatnings”-sidan av faktureringen.
  • completion_tokens: antalet token som modellen genererar i sitt svar. Detta är “utmatnings”-sidan.
  • total_tokens: summan av de två föregående. Detta är den totala kostnaden för denna begäran.

Historikens påverkan på kostnaderna

Eftersom slutpunkten är tillståndslös skickas historiken med varje begäran. Det betyder att prompt_tokens ökar vid varje utbyte:

Utbyte 1 : prompt_tokens = 50   (system + 1 användarmeddelande)
Utbyte 2 : prompt_tokens = 150  (system + 2 användare + 1 assistent)
Utbyte 3 : prompt_tokens = 300  (system + 3 användare + 2 assistenter)
Utbyte 10: prompt_tokens = 1500 (system + 10 användare + 9 assistenter)

Vid långa konversationer kan kostnaden för historiken snabbt överstiga kostnaden för själva svaret.

reasoning_tokens: specifikt för resonemangsmodeller

Grok-modeller med resonemangskapacitet (som grok-4.20-0309-reasoning) lägger till ett extra fält i usage-objektet:

{
  "usage": {
    "prompt_tokens": 127,
    "completion_tokens": 892,
    "total_tokens": 1019,
    "completion_tokens_details": {
      "reasoning_tokens": 550
    }
  }
}

Vad är reasoning_tokens?

reasoning_tokens representerar de token som modellen använder för sitt interna resonemang – det “tänkande” den gör innan den producerar sitt slutgiltiga svar. Dessa token genereras men syns inte i svarsfältet content.

I exemplet ovan:

  • Modellen genererade totalt 892 token (completion_tokens)
  • Varav 550 var interna resonemangstoken (reasoning_tokens)
  • Vilket lämnar 342 synliga svarstoken (892 - 550)

Varför detta är viktigt

Resonemangstoken faktureras som vanliga completion-token. För en resonemangsmodell kan det synliga svaret utgöra endast en bråkdel av den totala kostnaden:

usage = response.usage

visible_tokens = usage.completion_tokens - usage.completion_tokens_details.reasoning_tokens
reasoning_tokens = usage.completion_tokens_details.reasoning_tokens

print(f"Visible tokens: {visible_tokens}")
print(f"Reasoning tokens: {reasoning_tokens}")
print(f"Reasoning ratio: {reasoning_tokens / usage.completion_tokens * 100:.0f}%")

Det är inte ovanligt att resonemangstoken utgör 50 till 80 % av completion-token för komplexa frågor.

Strategier för kostnadsoptimering

Minska prompt_tokens

  • Sammanfatta historiken: istället för att skicka hela konversationen, sammanfatta äldre utbyten
  • Begränsa systemmeddelandet: en systemprompt på 500 token är sällan nödvändig – sikta på 100–200 token
  • Filtrera meddelanden: skicka endast utbyten som är relevanta för den aktuella frågan

Kontrollera completion_tokens

  • Använd max_completion_tokens (max_tokens är föråldrat): det begränsar det synliga svaret, inte resonemanget
  • Specificera formatet: “Svara i 3 meningar” kostar mindre än “Förklara i detalj”
  • Välj rätt modell: en icke-resonerande modell är billigare om uppgiften inte kräver komplext tänkande

Övervaka kostnader i produktion

import json

def log_usage(response, requete_id: str):
    usage = response.usage
    log = {
        "id": requete_id,
        "prompt": usage.prompt_tokens,
        "completion": usage.completion_tokens,
        "total": usage.total_tokens,
    }
    if hasattr(usage, "completion_tokens_details") and usage.completion_tokens_details:
        log["reasoning"] = usage.completion_tokens_details.reasoning_tokens

    print(json.dumps(log))

Viktiga punkter

  • Objektet usage innehåller prompt_tokens, completion_tokens och total_tokens
  • prompt_tokens ökar vid varje utbyte på grund av den medskickade historiken
  • Resonemangsmodeller lägger till reasoning_tokens i completion_tokens_details
  • Resonemangstoken faktureras till utmatningspriset men är osynliga i svaret – deras andel av kostnaden beror på uppgift och ansträngning, så mät den
  • Optimera genom att sammanfatta historiken, justera resonemangsansträngningen, begränsa max_completion_tokens och välja rätt modell