Aqbeż għall-kontenut ewlieni
Malti— Agħżel lingwa
Menu

Tokens, Kuntest u Tieqa tal-Konversazzjoni

Lezzjoni 7 / 22 Aġġornat 29 ta’ Lulju 2026 Zviluppatur
F'din il-paġna
  1. Tokens, Kuntest u Tieqa tal-Konversazzjoni
  2. X’inhu Token?
  3. It-Tieqa tal-Kuntest
  4. Tliet Levers ta’ Ottimizzazzjoni
  5. Il-Kuntest Jakkomula Matul il-Konversazzjoni
  6. Punti Ewlenin

Tokens, Kuntest u Tieqa tal-Konversazzjoni

It-token huwa l-unità li l-mudell jimmanipula u l-unità li l-kont tiegħek isegwi. Sakemm dan il-kunċett jibqa’ ċajpar, l-ispejjeż tiegħek se jkunu wkoll, u eventwalment se tiltaqa’ ma’ żball ta’ limitu tal-kuntest mingħajr ma tkun taf għaliex. Din il-lezzjoni tiċċara ż-żewġ kwistjonijiet.

X’inhu Token?

Token mhux kelma. Huwa framment ta’ test li l-mudell jittratta bħala unità indiviżibbli. Fil-Malti, token wieħed jirrappreżenta madwar 0.7 kelma medjament. Il-librerija tiktoken tippermettilek tara eżattament kif it-test jinqasam: innota kif “mur-hija” tinħall f’żewġ tokens filwaqt li “illum”, li tidher aktar spiss fil-corpus ta’ taħriġ, tidħol f’token wieħed. Dan id-dettall jispjega għaliex test bil-Malti jikkonsma aktar tokens minn test bl-Ingliż ta’ tul komparabbli.

from openai import OpenAI
client = OpenAI()

# Biex tistima t-tokens, uża l-librerija tiktoken
import tiktoken

# cl200k_base tintuża hawnhekk bħala eżempju: kull ġenerazzjoni ta' mudell għandha l-encoder tagħha stess.
# Iċċekkja l-encoder għall-mudell li qed isejjaħ qabel ma tiddependi fuq il-għadd.
enc = tiktoken.get_encoding("cl200k_base")

texte = "Bonġu, kif int illum?"
tokens = enc.encode(texte)
print(f"Text: {texte}")
print(f"Number of tokens: {len(tokens)}")
print(f"Tokens: {tokens}")
print(f"Decoded: {[enc.decode([t]) for t in tokens]}")

# Result:
# Text: Bonġu, kif int illum?
# Number of tokens: 9
# Tokens: [38025, 11, 4068, 67590, 5072, 76439, 30, ...]
# Decoded: ['Bonġu', ',', ' kif', ' int', ' illum', '?']

Dejjem ivverifika liema encoder jaqbel mal-mudell li qed isejjaħ. Għadd imwettaq bl-encoder żbaljat jibqa’ approssimazzjoni utli iżda ma jaqbilx eżattament mal-kont tiegħek.

It-Tieqa tal-Kuntest

Kull mudell għandu tieqa massima tal-kuntest, u l-insidja għall-bidu huwa li din tinkludi kemm l-input kif ukoll l-output. Dan mhuwiex baġit tal-input: huwa baġit totali. Jekk il-prompt tiegħek jieħu 190,000 token minn tieqa ta’ 200,000 token, jibqgħu biss 10,000 token għar-risposta. Il-mudell se jaqta’ f’nofs sentenza mingħajr ebda twissija oħra.

# Ġenerazzjoni preċedenti, għar-referenza:
# GPT-5.4: 1,000,000 context tokens
# GPT-5.3: 200,000 context tokens
# gpt-5.6-sol  : 200,000 context tokens
# gpt-5.6-terra : 200,000 context tokens

# Eżempju: jekk l-input tiegħek huwa 190,000 token f'tieqa ta' 200,000 token,
# jibqgħu biss 10,000 token għar-risposta

response = client.responses.create(
    model="gpt-5.6-terra",
    input="Test twil ħafna...",
    max_output_tokens=10000  # Limitu espliċitu
)

Wara l-fatt, tista’ taqra l-għadd eżatt f’response.usage, li jiddistingwi bejn tokens tal-input, tokens tal-output, u t-total:

response = client.responses.create(
    model="gpt-5.6-terra",
    input="Spjega t-tokens f'tliet sentenzi."
)

usage = response.usage
print(f"Input tokens: {usage.input_tokens}")
print(f"Output tokens: {usage.output_tokens}")
print(f"Total: {usage.total_tokens}")

# Result:
# Input tokens: 12
# Output tokens: 58
# Total: 70

Tliet Levers ta’ Ottimizzazzjoni

L-ewwel lever huwa l-konċiżjoni tal-prompt. Formuli ta’ kortesija u prekawzjonijiet retoriċi ma jtejbu r-risposta u jkollhom ispiża ta’ tokens sal-aħħar wieħed: l-ewwel verżjoni hawn taħt tuża ħamsa u tletin token għal riżultat identiku għat-tieni, li tuża għaxra. Fil-livell ta’ servizz li jittratta miljun talba, id-differenza ma tibqax aneddotali.

# ĦŻIEN — prompt verbuż (35 tokens)
response = client.responses.create(
    model="gpt-5.6-terra",
    input="Tista' jekk jogħġbok tagħtini lista "
          "ta' tliet frott li huma ħomor fil-kulur, jekk dan "
          "ma jfastidikx naturalment?"
)

# TAJJEB — prompt konċiż (10 tokens)
response = client.responses.create(
    model="gpt-5.6-terra",
    input="Elenska 3 frott aħmar."
)

It-tieni lever jimmira l-output, li jispiża diversi drabi aktar mill-input. Għaqqad l-istruzzjoni fil-prompt ma’ saqaf tekniku: l-ewwel jifforma l-kitba, it-tieni jiggarantixxi li l-baġit tiegħek jibqa’ sod anke jekk il-mudell jinjora l-istruzzjoni.

# L-ebda limitu — il-mudell jista' jiġġenera ħafna tokens
response = client.responses.create(
    model="gpt-5.6-terra",
    input="Spjega l-fotosinteżi."
)

# Bil-limitu — kontroll tal-ispiża
response = client.responses.create(
    model="gpt-5.6-terra",
    input="Spjega l-fotosinteżi f'massimu ta' 2 sentenzi.",
    max_output_tokens=100
)

It-tielet lever huwa li tistima l-ispiża qabel is-sejħa, li ssir essenzjali hekk kif tibda tipproċessa dokumenti ta’ daqs varjabbli. Imbagħad tista’ tirrifjuta jew taqsam talba li hija wisq tqila minflok ma tiskopriha fil-kont tiegħek.

import tiktoken

def estimate_cost(text: str, model: str = "gpt-5.6-terra") -> dict:
    """Stima l-ispiża ta' sejħa API."""
    enc = tiktoken.get_encoding("cl200k_base")
    input_tokens = len(enc.encode(text))

    # Prezzijiet approssimattivi għal kull miljun token (iċċekkja l-prezzijiet attwali)
    prices = {
        "gpt-5.6-sol": {"input": 5.0, "output": 30.0},
        "gpt-5.6-terra": {"input": 2.0, "output": 12.0},
        "gpt-5.6-luna": {"input": 0.20, "output": 1.20},
    }

    input_cost = (input_tokens / 1_000_000) * prices[model]["input"]

    return {
        "input_tokens": input_tokens,
        "input_cost_usd": round(input_cost, 6),
        "model": model
    }

print(estimate_cost("Spjega r-relattività f'3 sentenzi."))
# Result: {'input_tokens': 10, 'input_cost_usd': 2.5e-05, 'model': 'gpt-5.6-terra'}

Il-Kuntest Jakkomula Matul il-Konversazzjoni

Meta tgħaqqad skambji bl-użu ta’ previous_response_id, kull dawra terġa’ tibda mill-totalità tad-dawriet preċedenti. Għalhekk it-tokens tal-input jkomplu jikbru: djalogu li jibda b’50 token jiżen 150 fit-tieni dawra u ħafna aktar fl-għaxar. Din hija l-aktar kawża komuni ta’ kontijiet li jitilgħu bla waqfien mingħajr żieda fit-traffiku, u l-monitoraġġ ta’ response.usage.input_tokens huwa s-sinjal ta’ twissija tiegħek.

# Dawra 1: 50 tokens
r1 = client.responses.create(
    model="gpt-5.6-terra",
    input="Hello, I am a Python developer."
)

# Dawra 2: 50 + 100 = 150 tokens (kuntest akkumulat)
r2 = client.responses.create(
    model="gpt-5.6-terra",
    input="Liema web frameworks tirrakkomanda?",
    previous_response_id=r1.id
)

# Dawra 10: it-tokens jakkumulaw!
# Immonitorja response.usage.input_tokens biex tevita sorpriżi
print(f"Cumulative tokens at turn 2: {r2.usage.input_tokens}")

Għal konversazzjonijiet twal, is-soluzzjoni hija li taqta’ l-istorja b’mod attiv: neħħi l-messaġġi l-aktar antiki sakemm tinżel taħt limitu magħżul, filwaqt li żżomm l-ewwel wieħed, li ġeneralment iġorr il-kuntest fundanti tal-iskambju.

def conversation_with_limit(messages: list, token_limit: int = 50000):
    """Żomm il-konversazzjoni taħt limitu ta' tokens."""
    enc = tiktoken.get_encoding("cl200k_base")

    total = sum(len(enc.encode(m["content"])) for m in messages)

    # Neħħi l-messaġġi l-aktar antiki jekk meħtieġ
    while total > token_limit and len(messages) > 2:
        removed = messages.pop(1)  # Żomm l-ewwel messaġġ (kuntest)
        total -= len(enc.encode(removed["content"]))

    return messages

Punti Ewlenin

  • Token wieħed huwa ugwali għal madwar 0.7 kelma bil-Malti
  • It-tieqa tal-kuntest tinkludi l-input U l-output
  • It-twieqi jvarjaw skont il-mudell: fil-ġenerazzjoni preċedenti, 1M token għal GPT-5.4 u 200K għal GPT-5.3, o3-pro, u o4-mini
  • Uża tiktoken biex tgħodd it-tokens qabel is-sejħa
  • Immonitorja response.usage biex tikkontrolla l-ispejjeż tiegħek
  • Immaniġġja l-kuntest b’mod attiv f’konversazzjonijiet twal