Hoppa till huvudinnehåll
Svenska— Välj ett språk
Meny

Tokens, kontext och konversationsfönster

Lektion 7 av 22 Uppdaterad 29 juli 2026 Utvecklare
På denna sida
  1. Tokens, kontext och konversationsfönster
  2. Vad är en token?
  3. Kontextfönstret
  4. Tre optimeringsmöjligheter
  5. Kontext ackumuleras under konversationen
  6. Viktiga punkter

Tokens, kontext och konversationsfönster

Token är den enhet som modellen bearbetar och den enhet som din faktura spårar. Så länge detta begrepp är oklart kommer även dina kostnader att vara det, och du kommer så småningom stöta på ett fel gällande kontextgräns utan att veta varför. Denna lektion reder ut båda problemen.

Vad är en token?

En token är inte ett ord. Det är en textfragment som modellen behandlar som en odelbar enhet. På svenska motsvarar en token i genomsnitt cirka 0,7 ord. Biblioteket tiktoken låter dig se exakt hur text delas upp: lägg märke till hur “hej-då” bryts upp i två tokens medan “idag”, som förekommer oftare i träningsdatamängden, får plats i en enda. Denna detalj förklarar varför en svensk text förbrukar fler tokens än en engelsk text av jämförbar längd.

from openai import OpenAI
client = OpenAI()

# To estimate tokens, use the tiktoken library
import tiktoken

# cl200k_base is used here as an example: each model generation has its own encoder.
# Check the encoder for the model you call before relying on the count.
enc = tiktoken.get_encoding("cl200k_base")

texte = "Bonjour, comment allez-vous aujourd'hui ?"
tokens = enc.encode(texte)
print(f"Text: {texte}")
print(f"Number of tokens: {len(tokens)}")
print(f"Tokens: {tokens}")
print(f"Decoded: {[enc.decode([t]) for t in tokens]}")

# Result:
# Text: Bonjour, comment allez-vous aujourd'hui ?
# Number of tokens: 9
# Tokens: [38025, 11, 4068, 67590, 5072, 76439, 30, ...]
# Decoded: ['Bonjour', ',', ' comment', ' allez', '-vous', " aujourd'hui", ' ?']

Kontrollera alltid vilken kodare som matchar modellen du anropar. En räkning utförd med fel kodare är en användbar uppskattning, men kommer inte att stämma exakt med din faktura.

Kontextfönstret

Varje modell har ett maximalt kontextfönster, och fällan för nybörjare är att det inkluderar både inmatning och utmatning. Detta är inte en budget för inmatning: det är en total budget. Om din prompt tar upp 190 000 tokens av ett fönster på 200 000 tokens, återstår bara 10 000 tokens för svaret. Modellen kommer att klippa av mitt i en mening utan ytterligare varning.

# Previous generation, for reference:
# GPT-5.4: 1,000,000 context tokens
# GPT-5.3: 200,000 context tokens
# gpt-5.6-sol  : 200,000 context tokens
# gpt-5.6-terra : 200,000 context tokens

# Example: if your input is 190,000 tokens in a 200,000-token window,
# only 10,000 tokens remain for the response

response = client.responses.create(
    model="gpt-5.6-terra",
    input="A very long text...",
    max_output_tokens=10000  # Limit explicitly
)

I efterhand kan du läsa den exakta räkningen i response.usage, som skiljer på input-tokens, output-tokens och totalt antal:

response = client.responses.create(
    model="gpt-5.6-terra",
    input="Explain tokens in three sentences."
)

usage = response.usage
print(f"Input tokens: {usage.input_tokens}")
print(f"Output tokens: {usage.output_tokens}")
print(f"Total: {usage.total_tokens}")

# Result:
# Input tokens: 12
# Output tokens: 58
# Total: 70

Tre optimeringsmöjligheter

Den första hävstången är koncisitet i prompten. Artighetsfraser och retoriska försiktighetsåtgärder förbättrar inte svaret och kostar tokens in på sista öret: den första versionen nedan använder trettiofem tokens för ett resultat identiskt med den andra, som använder tio. På skalan av en tjänst som hanterar en miljon förfrågningar är skillnaden inte längre anekdotisk.

# BAD — verbose prompt (35 tokens)
response = client.responses.create(
    model="gpt-5.6-terra",
    input="Could you please give me a list "
          "of three fruits that are red in color, if that "
          "does not bother you of course?"
)

# GOOD — concise prompt (10 tokens)
response = client.responses.create(
    model="gpt-5.6-terra",
    input="List 3 red fruits."
)

Den andra hävstången riktar sig mot utmatning, som kostar flera gånger mer än inmatning. Kombinera instruktionen i prompten med ett tekniskt tak: den första styr skrivandet, den andra garanterar att din budget håller även om modellen ignorerar instruktionen.

# No limit — the model can generate many tokens
response = client.responses.create(
    model="gpt-5.6-terra",
    input="Explain photosynthesis."
)

# With limit — cost control
response = client.responses.create(
    model="gpt-5.6-terra",
    input="Explain photosynthesis in 2 sentences maximum.",
    max_output_tokens=100
)

Den tredje hävstången är att uppskatta kostnaden innan anropet, vilket blir avgörande så snart du bearbetar dokument av varierande storlek. Du kan då avvisa eller dela upp en förfrågan som är för tung, istället för att upptäcka det på din faktura.

import tiktoken

def estimate_cost(text: str, model: str = "gpt-5.6-terra") -> dict:
    """Estimate the cost of an API call."""
    enc = tiktoken.get_encoding("cl200k_base")
    input_tokens = len(enc.encode(text))

    # Approximate prices per million tokens (check current prices)
    prices = {
        "gpt-5.6-sol": {"input": 5.0, "output": 30.0},
        "gpt-5.6-terra": {"input": 2.0, "output": 12.0},
        "gpt-5.6-luna": {"input": 0.20, "output": 1.20},
    }

    input_cost = (input_tokens / 1_000_000) * prices[model]["input"]

    return {
        "input_tokens": input_tokens,
        "input_cost_usd": round(input_cost, 6),
        "model": model
    }

print(estimate_cost("Explain relativity in 3 sentences."))
# Result: {'input_tokens': 10, 'input_cost_usd': 2.5e-05, 'model': 'gpt-5.6-terra'}

Kontext ackumuleras under konversationen

När du kedjar utbyten med hjälp av previous_response_id, börjar varje varv om från hela innehållet i tidigare varv. Input-tokens växer därför kontinuerligt: en dialog som startar på 50 tokens väger 150 vid andra varvet och betydligt mer vid det tionde. Detta är den vanligaste orsaken till att fakturor skenar utan ökad trafik, och att övervaka response.usage.input_tokens är din varningssignal.

# Turn 1: 50 tokens
r1 = client.responses.create(
    model="gpt-5.6-terra",
    input="Hello, I am a Python developer."
)

# Turn 2: 50 + 100 = 150 tokens (cumulative context)
r2 = client.responses.create(
    model="gpt-5.6-terra",
    input="Which web frameworks do you recommend?",
    previous_response_id=r1.id
)

# Turn 10: tokens accumulate!
# Monitor response.usage.input_tokens to avoid surprises
print(f"Cumulative tokens at turn 2: {r2.usage.input_tokens}")

För långa konversationer är lösningen att aktivt trunkera historiken: ta bort de äldsta meddelandena tills du hamnar under en vald gräns, samtidigt som du behåller det första, som vanligtvis bär på utbytes grundläggande kontext.

def conversation_with_limit(messages: list, token_limit: int = 50000):
    """Keep the conversation under a token limit."""
    enc = tiktoken.get_encoding("cl200k_base")

    total = sum(len(enc.encode(m["content"])) for m in messages)

    # Remove oldest messages if necessary
    while total > token_limit and len(messages) > 2:
        removed = messages.pop(1)  # Keep the first message (context)
        total -= len(enc.encode(removed["content"]))

    return messages

Viktiga punkter

  • En token motsvarar cirka 0,7 ord på svenska
  • Kontextfönstret inkluderar både inmatning OCH utmatning
  • Fönstren varierar beroende på modell: i föregående generation 1 miljon tokens för GPT-5.4 och 200 000 för GPT-5.3, o3-pro och o4-mini
  • Använd tiktoken för att räkna tokens innan anropet
  • Övervaka response.usage för att kontrollera dina kostnader
  • Hantera kontexten aktivt i långa konversationer