Kaxxa Awtomatika tal-API
F'din il-paġna
Il-kaxxa bħala leva biex tnaqqas l-ispejjeż
Il-kaxxa awtomatika għandha l-akbar impatt fuq il-kont tiegħek, kemm jekk għall-aħjar kif ukoll għall-agħar. Ma’ ħafna fornituri, tridd tiddikjarah espliċitament fit-talba, timmarka l-blokok li għandek iżżomm, u timmaniġġja ċ-ċiklu tal-ħajja tagħhom. xAI ħa approċċ differenti: il-kaxxa tapplika awtomatikament għat-talbiet kollha, mingħajr parametri jew annotazzjonijiet. M’għandekx bżonn tattivaha, iżda għandek kollox x’tirbaħ billi tifhem x’jiġġeneraha, għax prompt ma strutturatx tajjeb qatt ma jibbenefika minnha u tħallas il-prezz sħiħ fuq l-input kollu tiegħu.
Kif taħdem il-kaxxa
Il-kaxxa topera fuq it-tokens tal-input, u fuqhom biss: il-ġenerazzjoni tar-risposta dejjem tiġi fatturata bir-rata standard. Meta l-bidu tal-prompt tiegħek jirriproduċi eżattament il-bidu ta’ prompt ipproċessat preċedentement, il-porzjon identiku jiġi servut mill-kaxxa bir-rata mnaqqsa, u biss il-parti ġdida tgħaddi bir-rata standard.
Tliet familji ta’ applikazzjonijiet jibbenefikaw immedjatament. L-ewwel, konversazzjoni: il-prompt tas-sistema u d-dawriet kollha preċedenti huma rigorużament identiċi minn sejħa għall-oħra, biss l-aħħar mistoqsija tinbidel, allura r-rata tal-kaxxa titla’ naturalment hekk kif il-konversazzjoni titwal. Imbagħad, prompt b’kuntest fiss—kuntratt, manwal tekniku, repożitorju ta’ prodott segwit minn mistoqsija varjabbli—jara l-blokk tad-dokument tiegħu jitqiegħed fil-kaxxa mit-tieni sejħa ‘l quddiem. Fl-aħħar nett, pipeline RAG iżomm struzzjonijiet kostanti tas-sistema; biss il-kuntest irkuprat jinbidel, u jekk tqiegħdu wara l-istruzzjonijiet, il-prefiss jibqa’ jista’ jitqiegħed fil-kaxxa.
Fuq il-grilja tal-prezzijiet ta’ xAI, id-differenza hija konsiderevoli. Fuq grok-4.3 u grok-4.20-0309, miljun token tal-input fil-kaxxa jiswa $0.20 meta mqabbel ma’ $1.25 bir-rata standard. Fuq grok-4.5, l-istess miljun jiġi għal $0.30 minflok $2.00. Fi kliem ieħor, prefiss stabbli ta’ 5,000 token użat elf darba kuljum jiswa ħames sa seba’ darbiet inqas minn prompt rikostruwit f’kull sejħa—għal riżultat strettament identiku.
L-header x-grok-conv-id
Biex tgħin l-infrastruttura tgħaqqad it-talbiet li jappartjenu flimkien, l-API taċċetta header dedikat:
curl -X POST "https://api.x.ai/v1/chat/completions" \
-H "Authorization: Bearer $XAI_API_KEY" \
-H "x-grok-conv-id: 550e8400-e29b-41d4-a716-446655440000" \
-H "Content-Type: application/json" \
-d '{
"model": "grok-4.20",
"messages": [...]
}'
L-header x-grok-conv-id jistenna UUID v4. Ir-regola tal-użu hija sempliċi: identifikatur wieħed għal kull konversazzjoni jew fluss ta’ ipproċessar, użat mill-ġdid għas-sejħat kollha li jagħmlu parti minnu. Dan jissinjala li dawn it-talbiet huma marbuta, li żżid il-probabbiltà ta’ użu mill-ġdid tal-kaxxa. L-iżball komuni huwa li tiġġenera l-UUID waqt is-sejħa minflok fil-ftuħ tas-sessjoni—kull dawriet imbagħad jirċievi identifikatur differenti u l-benefiċġju jisparixxi. Iġġenerah darba, u aħżnu mal-istat tal-konversazzjoni:
import uuid
# UUID wieħed għal kull konversazzjoni
conv_id = str(uuid.uuid4())
# Uża l-istess UUID għad-dawriet kollha fil-konversazzjoni
headers = {
"Authorization": f"Bearer {api_key}",
"x-grok-conv-id": conv_id,
"Content-Type": "application/json"
}
Kiv tiċċekkja l-effiċjenza tal-kaxxa
Xejn ma jħallas aktar mill-kejl. Il-qasam cached_tokens fl-oġġett usage, kopert fil-lezzjoni preċedenti, jgħidlek eżattament x’inhu ġie servut mill-kaxxa:
{
"usage": {
"prompt_tokens": 5000,
"cached_tokens": 4200,
"completion_tokens": 300
}
}
Hawnhekk, 4,200 token minn 5,000 ġejjin mill-kaxxa, rata ta’ 84%; biss 800 token ġew iffatturati bir-rata standard. Agħmilha drawwa li tiċċekkja din il-proporzjon fuq kampjun ta’ talbiet reali wara kull dispjegament: jekk tara rata qrib iż-żero fuq applikazzjoni konversazzjonali, xi ħaġa tinbidel fil-bidu tal-prompt, u l-lezzjoni li jmiss se turi x’inhi.
Punti Ewlenin
- Il-kaxxa hija awtomatika: l-ebda konfigurazzjoni meħtieġa
- Uża l-header
x-grok-conv-idb’UUID v4 biex tiggroupja talbiet marbuta - Il-qasam
cached_tokensfl-oġġettusagejindika n-numru ta’ tokens servuti mill-kaxxa - L-input fil-kaxxa jiswa 5 sa 7 darbiet inqas: $0.20/M fuq grok-4.3, $0.30/M fuq grok-4.5
- Aktar ma jkun stabbli l-prompt tiegħek fil-bidu tas-sekwenza, aktar tkun għolja r-rata tal-kaxxa