Användning av token och reasoning_tokens
På denna sida
Uppdaterat den 3 november 2026. Baserat på xAI Chat Completions API-referensen:
max_tokensär föråldrat till förmån förmax_completion_tokens, vilket endast begränsar det synliga svaret. Källa: Chat Completions.
Förstå fakturering av token
Varje begäran till Chat Completions API debiteras baserat på antalet konsumerade token. Objektet usage i svaret ger dig en exakt räkning, vilket är avgörande för att övervaka kostnader, optimera prompts och dimensionera dina API-budgetar.
Det vanliga usage-objektet
Här är strukturen för det usage-objekt som returneras med varje svar:
{
"usage": {
"prompt_tokens": 127,
"completion_tokens": 342,
"total_tokens": 469
}
}
De tre grundläggande räknarna
prompt_tokens: antalet token i din begäran (systemmeddelande + historik + nytt meddelande). Detta är “inmatnings”-sidan av faktureringen.completion_tokens: antalet token som modellen genererar i sitt svar. Detta är “utmatnings”-sidan.total_tokens: summan av de två föregående. Detta är den totala kostnaden för denna begäran.
Historikens påverkan på kostnaderna
Eftersom slutpunkten är tillståndslös skickas historiken med varje begäran. Det betyder att prompt_tokens ökar vid varje utbyte:
Utbyte 1 : prompt_tokens = 50 (system + 1 användarmeddelande)
Utbyte 2 : prompt_tokens = 150 (system + 2 användare + 1 assistent)
Utbyte 3 : prompt_tokens = 300 (system + 3 användare + 2 assistenter)
Utbyte 10: prompt_tokens = 1500 (system + 10 användare + 9 assistenter)
Vid långa konversationer kan kostnaden för historiken snabbt överstiga kostnaden för själva svaret.
reasoning_tokens: specifikt för resonemangsmodeller
Grok-modeller med resonemangskapacitet (som grok-4.20-0309-reasoning) lägger till ett extra fält i usage-objektet:
{
"usage": {
"prompt_tokens": 127,
"completion_tokens": 892,
"total_tokens": 1019,
"completion_tokens_details": {
"reasoning_tokens": 550
}
}
}
Vad är reasoning_tokens?
reasoning_tokens representerar de token som modellen använder för sitt interna resonemang – det “tänkande” den gör innan den producerar sitt slutgiltiga svar. Dessa token genereras men syns inte i svarsfältet content.
I exemplet ovan:
- Modellen genererade totalt 892 token (
completion_tokens) - Varav 550 var interna resonemangstoken (
reasoning_tokens) - Vilket lämnar 342 synliga svarstoken (892 - 550)
Varför detta är viktigt
Resonemangstoken faktureras som vanliga completion-token. För en resonemangsmodell kan det synliga svaret utgöra endast en bråkdel av den totala kostnaden:
usage = response.usage
visible_tokens = usage.completion_tokens - usage.completion_tokens_details.reasoning_tokens
reasoning_tokens = usage.completion_tokens_details.reasoning_tokens
print(f"Visible tokens: {visible_tokens}")
print(f"Reasoning tokens: {reasoning_tokens}")
print(f"Reasoning ratio: {reasoning_tokens / usage.completion_tokens * 100:.0f}%")
Det är inte ovanligt att resonemangstoken utgör 50 till 80 % av completion-token för komplexa frågor.
Strategier för kostnadsoptimering
Minska prompt_tokens
- Sammanfatta historiken: istället för att skicka hela konversationen, sammanfatta äldre utbyten
- Begränsa systemmeddelandet: en systemprompt på 500 token är sällan nödvändig – sikta på 100–200 token
- Filtrera meddelanden: skicka endast utbyten som är relevanta för den aktuella frågan
Kontrollera completion_tokens
- Använd
max_completion_tokens(max_tokensär föråldrat): det begränsar det synliga svaret, inte resonemanget - Specificera formatet: “Svara i 3 meningar” kostar mindre än “Förklara i detalj”
- Välj rätt modell: en icke-resonerande modell är billigare om uppgiften inte kräver komplext tänkande
Övervaka kostnader i produktion
import json
def log_usage(response, requete_id: str):
usage = response.usage
log = {
"id": requete_id,
"prompt": usage.prompt_tokens,
"completion": usage.completion_tokens,
"total": usage.total_tokens,
}
if hasattr(usage, "completion_tokens_details") and usage.completion_tokens_details:
log["reasoning"] = usage.completion_tokens_details.reasoning_tokens
print(json.dumps(log))
Viktiga punkter
- Objektet
usageinnehållerprompt_tokens,completion_tokensochtotal_tokens prompt_tokensökar vid varje utbyte på grund av den medskickade historiken- Resonemangsmodeller lägger till
reasoning_tokensicompletion_tokens_details - Resonemangstoken faktureras till utmatningspriset men är osynliga i svaret – deras andel av kostnaden beror på uppgift och ansträngning, så mät den
- Optimera genom att sammanfatta historiken, justera resonemangsansträngningen, begränsa
max_completion_tokensoch välja rätt modell