Prejsť na hlavný obsah
Slovenčina— Vyberte jazyk
Menu

Automatický cache API

Lekcia 9 z 14 Aktualizované 29. júla 2026 Pokročilý
Na tejto strane
  1. Cache ako páka na znižovanie nákladov
  2. Ako cache funguje
  3. Hlavička x-grok-conv-id
  4. Kontrola efektivity cache
  5. Kľúčové poznatky

Cache ako páka na znižovanie nákladov

Automatický cache má najväčší vplyv na tvoju faktúru, či už k lepšiemu, alebo k horšiemu. Mnoho poskytovateľov vyžaduje, aby si ho v požiadavke explicitne deklaroval, označil bloky na zachovanie a spravoval ich životnosť. xAI zvolilo odlišný prístup: cache sa aplikuje automaticky na všetky požiadavky bez potreby parametrov alebo anotácií. Nemusíš nič aktivovať, ale máš všetko na to, aby si pochopil, čo ju spúšťa, pretože zle štruktúrovaný prompt z nej nemá žiadny úžitok a platíš plnú cenu za celý vstup.

5–7×
Lacnejšie pri cachovanom vstupe
$0.20
Za M cachovaných tokenov na grok-4.3
UUID
Hlavička x-grok-conv-id
Auto
Aktivácia bez konfigurácie

Ako cache funguje

Cache funguje výlučne na vstupných tokenoch; generovanie odpovede sa vždy fakturuje štandardnou sadzbou. Ak začiatok tvojho promptu presne zodpovedá začiatku predtým spracovaného promptu, identická časť sa obslúži z cache za zníženú sadzbu a štandardnou sadzbou sa fakturuje len nová časť.

Tri skupiny aplikácií z toho ťažia okamžite. Po prvé, konverzácia: systémový prompt a všetky predchádzajúce kolá sú od volania k volaniu rigorózne identické, mení sa len posledná otázka, takže miera využitia cache prirodzene rastie s dĺžkou výmeny. Po druhé, prompt s pevným kontextom – zmluva, technický manuál, repozitár produktu nasledovaný variabilnou otázkou – vidí svoj blok dokumentu cachovaný už od druhého volania. Nakoniec, pipeline RAG udržuje konštantné systémové inštrukcie; mení sa len získaný kontext a ak ho umiestniš za inštrukcie, prefix zostáva cachovateľný.

Na cenovej mriežke xAI je rozdiel značný. Pri modeloch grok-4.3 a grok-4.20-0309 stojí milión cachovaných vstupných tokenov 0,20 $ oproti 1,25 $ pri štandardnej sadzbe. Pri modeli grok-4.5 vyjde ten istý milión na 0,30 $ namiesto 2,00 $. Inými slovami, stabilný prefix s 5 000 tokenmi, ktorý použiješ tisíckrát denne, ťa stojí päť- až sedemkrát menej ako prompt rekonštruovaný pri každom volaní – pri úplne identickom výsledku.

Hlavička x-grok-conv-id

Aby infraštruktúra dokázala priradiť požiadavky, ktoré k sebe patria, API akceptuje vyhradenú hlavičku:

curl -X POST "https://api.x.ai/v1/chat/completions" \
  -H "Authorization: Bearer $XAI_API_KEY" \
  -H "x-grok-conv-id: 550e8400-e29b-41d4-a716-446655440000" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "grok-4.20",
    "messages": [...]
  }'

Hlavička x-grok-conv-id očakáva UUID v4. Pravidlo používania je jednoduché: jeden identifikátor na konverzáciu alebo spracovateľský tok, ktorý sa opakovane používa pre všetky volania, ktoré sú jeho súčasťou. Tým sa signalizuje, že tieto požiadavky sú prepojené, čo zvyšuje pravdepodobnosť opätovného využitia cache. Bežnou chybou je generovanie UUID v čase volania namiesto otvorenia relácie – každé kolo potom dostane iný identifikátor a výhoda zmizne. Vygeneruj ho raz a ulož spolu so stavom konverzácie:

import uuid

# Jedno UUID na konverzáciu
conv_id = str(uuid.uuid4())

# Použi to isté UUID pre všetky kolá v konverzácii
headers = {
    "Authorization": f"Bearer {api_key}",
    "x-grok-conv-id": conv_id,
    "Content-Type": "application/json"
}

Kontrola efektivity cache

Nič nenahradí meranie. Pole cached_tokens v objekte usage, ktoré sme prebrali v predchádzajúcej lekcii, ti presne povie, čo bolo obslúžené z cache:

{
  "usage": {
    "prompt_tokens": 5000,
    "cached_tokens": 4200,
    "completion_tokens": 300
  }
}

Tu pochádza 4 200 tokenov z 5 000 z cache, čo predstavuje mieru 84 %; iba 800 tokenov bolo fakturovaných štandardnou sadzbou. Zvykni si kontrolovať tento pomer na vzorke reálnych požiadaviek po každom nasadení: ak vidíš mieru blízku nule pri konverzačnej aplikácii, niečo sa mení na začiatku promptu a nasledujúca lekcia ti ukáže čo.

Kľúčové poznatky

  • Cache je automatický: nie je potrebná žiadna konfigurácia
  • Použi hlavičku x-grok-conv-id s UUID v4 na zoskupenie prepojených požiadaviek
  • Pole cached_tokens v objekte usage udáva počet tokenov obslúžených z cache
  • Cachovaný vstup stojí 5- až 7-krát menej: 0,20 $/M na grok-4.3, 0,30 $/M na grok-4.5
  • Čím stabilnejší je tvoj prompt na začiatku sekvencie, tým vyššia bude miera využitia cache