Přejít na hlavní obsah
Čeština— Vyberte jazyk
Menu

Dlouhý kontext: Až 1 milion tokenů

Lekce 11 z 14 Aktualizováno 30. července 2026 Začátečník
Na této stránce
  1. Co znamená okno o velikosti jednoho milionu tokenů
  2. Případy použití
  3. Limity a aspekty k zvážení
  4. Strategie pro efektivní využití
  5. Klíčové poznatky

Co znamená okno o velikosti jednoho milionu tokenů

Ne všechny textové modely Grok mají stejnou kapacitu kontextu a tento rozdíl je klíčovým faktorem při vašem rozhodování: grok-4.3 a generace grok-4.20 podporují až 1 milion tokenů, grok-4.5 přijímá 500 000 a grok-build-0.1 256 000. Abychom uvedli tento horní limit do perspektivy, 1 milion tokenů představuje přibližně 750 000 slov – což odpovídá sedmi až deseti románům nebo středně velké kódové základně.

Tato kapacita mění způsob, jakým jazykový model využíváš. Místo toho, abys svá data krájel na fragmenty a zpracovával je odděleně, můžeš poskytnout celý kontext v jediném požadavku – a pro tyto úkoly se grok-4.3, ekonomická volba pro velmi dlouhý kontext, často stává správnou volbou místo vlajkové lodi.

Případy použití

Analýza kódové základny

S 1 milionem tokenů můžeš načíst celou kódovou základnu do kontextu modelu. Python projekt čítající desítky tisíc řádků se do tohoto okna vejde pohodlně. Model pak může odpovídat na otázky týkající se celkové architektury, identifikovat vzájemné závislosti nebo navrhnout refaktoring konzistentní s celým kódem – něco, co grok-build-0.1, omezený na 256k, v tomto měřítku nedokáže.

Zpracování dlouhých dokumentů

Výroční zprávy, právní dokumenty, technické manuály – tyto dokumenty často mají stovky stran. Místo jejich shrnování po částech a ztráty globálního kontextu je můžeš vložit celé a klást přesné otázky týkající se jakékoli sekce.

Dlouhé konverzace

V konverzačních aplikacích určuje okno kontextu délku historie, kterou si model dokáže „pamatovat“. S oknem o velikosti jednoho milionu tokenů udržuješ velmi dlouhé konverzace bez ztráty kontextu – což je užitečné pro rozšířené pracovní session nebo komplexní technickou podporu.

Syntéza z více zdrojů

Načti více dokumentů najednou – články, zprávy, e-maily – a syntetizuj je napříč zdroji. Model dokáže identifikovat překryvy, rozpory a doplňující informace mezi jednotlivými zdroji.

Limity a aspekty k zvážení

Hranice 200 000 tokenů

Toto je bod, který lidé příliš často objeví až na faktuře: ceny Grok se nad 200 000 tokenů kontextu zdvojnásobují. Jinými slovy, jakmile skutečně využiješ dlouhý kontext, automaticky přecházíš do vyšší cenové hladiny. Požadavek na vstup s jedním milionem tokenů na grok-4.3 je fakturován dvojnásobnou sazbou – 2,50 $ za milion místo 1,25 $ – což znamená 2,50 $ za tento jediný požadavek. U grok-4.5 skočí požadavek na 500 000 tokenů na 4,00 $ za milion vstupních tokenů.

Tato hranice musí být součástí tvého návrhu: architektura, která zůstane pod 200 000 tokeny, stojí na token polovinu oproti té, která limit překročí, při stejném objemu.

Latence

Čím delší kontext, tím delší doba zpracování. Požadavek s jedním milionem vstupních tokenů bude výrazně pomalejší než ten s 2 000 tokeny. Naplánuj si odpovídající časy vypršení platnosti (timeouty) – xAI doporučuje minimum 3 600 sekund pro komplexní požadavky.

Náklady a cache

Náklady jsou přímo úměrné počtu zpracovaných tokenů a cache je jediným skutečným protikladem: vstupní tokeny, které již byly viděny, jsou fakturovány o 75 % až 85 % levněji v závislosti na modelu (84 % u grok-4.3 a generace 4.20). Stabilní referenční kontext, znovu využívaný z požadavku na požadavek, tedy stojí jen zlomek jeho původní ceny – odtud zásadní význam cache pro dlouhé kontexty.

Kvalita pozornosti (Attention)

I když model přijme jeden milion tokenů, kvalita pozornosti není rovnoměrná. Informace umístěné na začátku a na konci kontextu jsou obecně lépe „zapamatovány“ než ty uprostřed. Pro kritické požadavky umísti nejdůležitější informace na začátek kontextu nebo přímo před otázku.

Žádné trvalé uložení

Okno kontextu je pomíjivé: existuje pouze během trvání požadavku. Pokud potřebuješ ukládat informace mezi požadavky, použij xAI Collections nebo vlastní databázi. Okno kontextu nenahrazuje systém trvalé paměti.

Strategie pro efektivní využití

Strukturování kontextu

Při velmi dlouhém kontextu se struktura stává zásadní. Používej jasné oddělovače (XML tagy, nadpisy Markdown) k organizaci různých sekcí. Model se lépe orientuje, když je kontext dobře označen.

Kombinace dlouhého kontextu a cache

Nejsilnější kombinace: stabilní dlouhý kontext (referenční dokumentace, zdrojový kód), který těží z cache, s krátkými, dynamickými dodatky (uživatelská otázka) na konci. Získáš tak sílu dlouhého kontextu za ceny cache.

Neplň kontext zbytečně

Jen proto, že můžeš vložit jeden milion tokenů, neznamená to, že bys to měl dělat systematicky. Každý token má svou cenu, potenciálně překračuje hranici 200k a zvyšuje latenci. Vyber kontext relevantní pro daný úkol, místo abys ve výchozím nastavení posílal vše – a pamatuj, že RAG často zůstává pro dotazování nad velkým korpusem levnější než dlouhý kontext.

Klíčové poznatky

  • Okna se liší podle modelu: 1M pro grok-4.3 a generaci 4.20, 500k pro grok-4.5, 256k pro grok-build-0.1
  • 1 milion tokenů představuje přibližně 750 000 slov – ideální pro kód, dlouhé dokumenty a rozšířené konverzace
  • Hlídej si hranici: nad 200 000 tokenů kontextu se sazba za token zdvojnásobuje
  • Latence roste s velikostí kontextu – naplánuj si odpovídající časy vypršení platnosti
  • Cache (snížení o 75 % až 85 % u vstupu) je zásadní pro ekonomickou výhodnost dlouhých kontextů
  • Kvalita pozornosti se liší: kritické informace umísti na začátek nebo konec kontextu