Preskok na glavno vsebino
Slovenščina— Izberite jezik
Meni

Samodejni predpomnilnik API

Lekcija 9 od 14 Posodobljeno 29. julij 2026 Napredni
Na tej strani
  1. Predpomnilnik kot vzvod za zniževanje stroškov
  2. Kako deluje predpomnilnik
  3. Glava x-grok-conv-id
  4. Preverjanje učinkovitosti predpomnilnika
  5. Ključne ugotovitve

Predpomnilnik kot vzvod za zniževanje stroškov

Samodejni predpomnilnik ima največji vpliv na tvoj račun, na bolje ali na slabše. Pri mnogih ponudnikih ga moraš izrecno deklarirati v zahtevi, označiti bloke za ohranitev in upravljati njihovo življenjsko dobo. xAI je ubral drugačen pristop: predpomnilnik se samodejno uporablja za vse zahteve, brez parametrov ali opomb. Ničesar ni treba aktivirati, vendar imaš vse razloge, da razumeš, kaj ga sproži, saj slabo strukturiran poziv nikoli ne prinaša koristi in se plača po polni ceni za celoten vnos.

5–7×
Ceneje pri predpomnjenem vnosu
$0.20
Na M predpomnjenih na grok-4.3
UUID
Glava x-grok-conv-id
Samodejno
Aktivacija brez konfiguracije

Kako deluje predpomnilnik

Predpomnilnik deluje izključno na vnosnih žetonih; generiranje odgovorov se vedno zaračuna po standardni tarifi. Ko se začetek tvojega poziva natančno ujema z začetkom predhodno obdelanega poziva, se identični del streže iz predpomnilnika po znižani stopnji, le novi del pa se zaračuna po standardni tarifi.

Tri družine aplikacij imajo od tega takojšnjo korist. Prvič, pogovor: sistemski poziv in vsi prejšnji krogi so od klica do klica strogo identični, spremeni se le zadnje vprašanje, zato stopnja predpomnjenja naravno narašča z dolžino izmenjave. Drugič, poziv s fiksnim kontekstom – pogodba, tehnični priročnik, repozitorij izdelkov, ki mu sledi spremenljivo vprašanje – vidi svoj dokumentni blok predpomnjen že od drugega klica naprej. Nazadnje, cevovod RAG ohranja konstantna sistemska navodila; spremeni se le pridobljeni kontekst, in če ga postaviš za navodila, ostane predpona predpomnljiva.

Na ceniku xAI je razlika precejšnja. Pri modelih grok-4.3 in grok-4.20-0309 stane milijon predpomnjenih vnosnih žetonov 0,20 $ v primerjavi s 1,25 $ po standardni tarifi. Pri modelu grok-4.5 isti milijon stane 0,30 $ namesto 2,00 $. Z drugimi besedami, stabilna predpona 5.000 žetonov, ki jo tisočkrat dnevno ponovno uporabiš, te stane pet- do sedemkrat manj kot poziv, rekonstruiran ob vsakem klicu – za strogo identičen rezultat.

Glava x-grok-conv-id

Za pomoč infrastrukturi pri povezovanju zahtev, ki spadajo skupaj, API sprejme namensko glavo:

curl -X POST "https://api.x.ai/v1/chat/completions" \
  -H "Authorization: Bearer $XAI_API_KEY" \
  -H "x-grok-conv-id: 550e8400-e29b-41d4-a716-446655440000" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "grok-4.20",
    "messages": [...]
  }'

Glava x-grok-conv-id pričakuje UUID v4. Pravilo uporabe je preprosto: en identifikator na pogovor ali obdelovalni tok, ki ga ponovno uporabiš za vse klice, ki so njegov del. To signalizira, da so te zahteve povezane, kar poveča verjetnost ponovne uporabe predpomnilnika. Pogosta napaka je generiranje UUID ob času klica namesto ob odprtju seje – takrat vsak krog prejme drugačen identifikator in korist izgine. Generiraj ga enkrat in shrani skupaj s stanjem pogovora:

import uuid

# En UUID na pogovor
conv_id = str(uuid.uuid4())

# Uporabi isti UUID za vse kroge v pogovoru
headers = {
    "Authorization": f"Bearer {api_key}",
    "x-grok-conv-id": conv_id,
    "Content-Type": "application/json"
}

Preverjanje učinkovitosti predpomnilnika

Nič ne premaga merjenja. Polje cached_tokens v objektu usage, obravnavano v prejšnji lekciji, ti natančno pove, kaj je bilo streženo iz predpomnilnika:

{
  "usage": {
    "prompt_tokens": 5000,
    "cached_tokens": 4200,
    "completion_tokens": 300
  }
}

Tukaj 4.200 od 5.000 žetonov prihaja iz predpomnilnika, kar je stopnja 84 %; le 800 žetonov je bilo zaračunanih po standardni tarifi. Naj ti bo v navado, da to razmerje preveriš na vzorcu realnih zahtev po vsaki uvedbi: če pri pogovorni aplikaciji vidiš stopnjo blizu nič, se nekaj spreminja na začetku poziva, naslednja lekcija pa ti bo pokazala, kaj točno.

Ključne ugotovitve

  • Predpomnilnik je samodejen: konfiguracija ni potrebna
  • Uporabi glavo x-grok-conv-id z UUID v4 za združevanje povezanih zahtev
  • Polje cached_tokens v objektu usage kaže število žetonov, streženih iz predpomnilnika
  • Predpomnjen vnos stane 5- do 7-krat manj: 0,20 $/M na grok-4.3, 0,30 $/M na grok-4.5
  • Bolj stabilen kot je tvoj poziv na začetku zaporedja, višja bo stopnja predpomnjenja