Tokenna, Comhthéacs, agus Fuinneog Chomhrá
Ar an leathanach seo
Tokenna, Comhthéacs, agus Fuinneog Chomhrá
Is é an token an t-aonad a láimhsíonn an tsamhail agus an t-aonad a rianaíonn do bhille. Fad is atá an coincheap seo doiléir, beidh do chostais doiléir freisin, agus buailfidh tú earráid teorann comhthéacs gan fios a bheith agat cén fáth. Glanfaidh an ceacht seo an dá shaincheist.
Cad é Token?
Ní focal é token. Is blúire téacs é a chaitear leis mar aonad doscartha ag an tsamhail. Sa Ghaeilge, seasann token amháin do thart ar 0.7 focal ar an meán. Ligeann an leabharlann tiktoken duit a fheiceáil go beacht conas a roinntear téacs: tabhair faoi deara conas a bhriseann “tá-tú” ina dhá thoken cé go n-oirfeadh “inniu”, a fheictear níos minice sa chorpas oiliúna, isteach i token amháin. Míníonn an mionsonra seo cén fáth a n-itheann téacs Gaeilge níos mó tokenna ná téacs Béarla ar fad comhchosúil.
from openai import OpenAI
client = OpenAI()
# To estimate tokens, use the tiktoken library
import tiktoken
# cl200k_base is used here as an example: each model generation has its own encoder.
# Check the encoder for the model you call before relying on the count.
enc = tiktoken.get_encoding("cl200k_base")
texte = "Dia dhuit, conas atá tú inniu?"
tokens = enc.encode(texte)
print(f"Text: {texte}")
print(f"Number of tokens: {len(tokens)}")
print(f"Tokens: {tokens}")
print(f"Decoded: {[enc.decode([t]) for t in tokens]}")
# Result:
# Text: Dia dhuit, conas atá tú inniu?
# Number of tokens: 9
# Tokens: [38025, 11, 4068, 67590, 5072, 76439, 30, ...]
# Decoded: ['Dia', ' dhuit', ',', ' conas', ' atá', ' tú', ' inniu', '?']
Fíoraigh i gcónaí cé an t-ionchódóir a oireann don tsamhail a ghlaonn tú. Fanfaidh comhaireamh a rinneadh leis an ionchódóir mícheart ina thomhas garbh úsáideach, ach ní bheidh sé comhoiriúnach go díreach le do bhille.
An Fhuinneog Chomhthéacs
Tá uasmhéid fuinneoige comhthéacs ag gach samhail, agus is é an ribe do thosaitheoirí ná go n-áirítear an t-ionchur agus an t-aschur araon. Ní buiséad ionchuir é seo: is buiséad iomlán é. Má ghlacann do leid 190,000 token as fuinneog 200,000-token, ní bheidh ach 10,000 token fágtha don fhreagra. Gearrfaidh an tsamhail an ráiteas sa lár gan aon rabhadh breise.
# Previous generation, for reference:
# GPT-5.4: 1,000,000 context tokens
# GPT-5.3: 200,000 context tokens
# gpt-5.6-sol : 200,000 context tokens
# gpt-5.6-terra : 200,000 context tokens
# Example: if your input is 190,000 tokens in a 200,000-token window,
# only 10,000 tokens remain for the response
response = client.responses.create(
model="gpt-5.6-terra",
input="A very long text...",
max_output_tokens=10000 # Limit explicitly
)
Tar éis an ghlaonna, is féidir leat an comhaireamh cruinn a léamh i response.usage, a dhéanann idirdhealú idir tokenna ionchuir, tokenna aschuir, agus an t-iomlán:
response = client.responses.create(
model="gpt-5.6-terra",
input="Mínigh tokenna i dtrí abairt."
)
usage = response.usage
print(f"Input tokens: {usage.input_tokens}")
print(f"Output tokens: {usage.output_tokens}")
print(f"Total: {usage.total_tokens}")
# Result:
# Input tokens: 12
# Output tokens: 58
# Total: 70
Trí Ghiarála Optamaithe
Is é an chéad ghiarála ná giorracht an leide. Ní fheabhsaíonn foirmlí cúirtéiseacha agus réamhchúraimí reitriúla an fhreagra agus costálann siad tokenna go dtí an ceann deireanach: úsáideann an chéad leagan thíos tríocha cúig token don toradh céanna leis an dara leagan, a úsáideann deich. Ar scála seirbhíse a láimhseálann milliún iarratas, ní scéal beag a thuilleadh an difríocht.
# BAD — verbose prompt (35 tokens)
response = client.responses.create(
model="gpt-5.6-terra",
input="An bhféadfá liosta de trí thoradh atá dearg "
"a thabhairt dom, más rud é nach cur isteach ort é ar ndóigh?"
)
# GOOD — concise prompt (10 tokens)
response = client.responses.create(
model="gpt-5.6-terra",
input="Liostaigh 3 thoradh dhearga."
)
Díríonn an dara giarála ar an aschur, a chostálann roinnt uaireanta níos mó ná an t-ionchur. Comhcheangail an treoir sa leid le huasteorainn theicniúil: déanann an chéad cheann creatlach don scríbhneoireacht, agus ráthaíonn an dara ceann go gcoimeádfar do bhuiséad fiú má dhéanann an tsamhail neamhaird ar an treoir.
# No limit — the model can generate many tokens
response = client.responses.create(
model="gpt-5.6-terra",
input="Mínigh fótaisintéis."
)
# With limit — cost control
response = client.responses.create(
model="gpt-5.6-terra",
input="Mínigh fótaisintéis i 2 abairt ar a mhéad.",
max_output_tokens=100
)
Is é an tríú giarála ná meastachán a dhéanamh ar an gcostas roimh an nglao, rud a éiríonn riachtanach chomh luath agus a phróiseálann tú doiciméid de mhéideanna athraitheacha. Is féidir leat ansin iarratas atá ró-throm a dhiúltú nó a roinnt seachas é a fháil amach ar do bhille.
import tiktoken
def estimate_cost(text: str, model: str = "gpt-5.6-terra") -> dict:
"""Estimate the cost of an API call."""
enc = tiktoken.get_encoding("cl200k_base")
input_tokens = len(enc.encode(text))
# Approximate prices per million tokens (check current prices)
prices = {
"gpt-5.6-sol": {"input": 5.0, "output": 30.0},
"gpt-5.6-terra": {"input": 2.0, "output": 12.0},
"gpt-5.6-luna": {"input": 0.20, "output": 1.20},
}
input_cost = (input_tokens / 1_000_000) * prices[model]["input"]
return {
"input_tokens": input_tokens,
"input_cost_usd": round(input_cost, 6),
"model": model
}
print(estimate_cost("Mínigh coibhneasacht i 3 abairt."))
# Result: {'input_tokens': 10, 'input_cost_usd': 2.5e-05, 'model': 'gpt-5.6-terra'}
Carnann an Comhthéacs Le Linn an Chomhrá
Nuair a chuireann tú malartuithe i ndiaidh a chéile ag baint úsáide as previous_response_id, tosaíonn gach casadh ón iomláine de na casadh roimhe sin. Méadaíonn tokenna an ionchuir dá bhrí sin de shíor: bíonn comhrá a thosaíonn ag 50 token ag meáchan 150 ar an dara casadh agus i bhfad níos mó ar an deichiú casadh. Is é seo an chúis is coitianta le billí ag dul in olcas gan méadú ar an trácht, agus is é monatóireacht a dhéanamh ar response.usage.input_tokens do chomhartha rabhaidh.
# Turn 1: 50 tokens
r1 = client.responses.create(
model="gpt-5.6-terra",
input="Dia dhuit, is forbróir Python mé."
)
# Turn 2: 50 + 100 = 150 tokens (cumulative context)
r2 = client.responses.create(
model="gpt-5.6-terra",
input="Cé na creatláin ghréasáin a mholann tú?",
previous_response_id=r1.id
)
# Turn 10: tokens accumulate!
# Monitor response.usage.input_tokens to avoid surprises
print(f"Cumulative tokens at turn 2: {r2.usage.input_tokens}")
I gcás comhráite fada, is é an bealach timpeall ná an stair a ghearradh go gníomhach: bain na teachtaireachtaí is sine amach go dtí go dtiteann tú faoi theorainn roghnaithe, agus an chéad teachtaireacht á coinneáil agat, a iompraíonn de ghnáth comhthéacs bunaidh an mhalartaithe.
def conversation_with_limit(messages: list, token_limit: int = 50000):
"""Keep the conversation under a token limit."""
enc = tiktoken.get_encoding("cl200k_base")
total = sum(len(enc.encode(m["content"])) for m in messages)
# Remove oldest messages if necessary
while total > token_limit and len(messages) > 2:
removed = messages.pop(1) # Keep the first message (context)
total -= len(enc.encode(removed["content"]))
return messages
Príomhphointí
- Is ionann token amháin agus thart ar 0.7 focal sa Ghaeilge
- Áirítear an t-ionchur AGUS an t-aschur sa fhuinneog chomhthéacs
- Athraíonn na fuinneoga de réir na samhla: sa ghlúin roimhe seo, 1M token do GPT-5.4 agus 200K do GPT-5.3, o3-pro, agus o4-mini
- Úsáid
tiktokenchun tokenna a chomhaireamh roimh an nglao - Déan monatóireacht ar
response.usagechun do chostais a rialú - Bainistigh an comhthéacs go gníomhach i gcomhráite fada