Prejsť na hlavný obsah
Slovenčina— Vyberte jazyk
Menu

Dlhý kontext: až 1 milión tokenov

Lekcia 11 z 14 Aktualizované 30. júla 2026 Začiatočník
Na tejto strane
  1. Čo znamená okno s jedným miliónom tokenov
  2. Prípady použitia
  3. Obmedzenia a aspekty na zváženie
  4. Stratégie efektívneho využitia
  5. Kľúčové poznatky

Čo znamená okno s jedným miliónom tokenov

Nie všetky textové modely Grok majú rovnakú kapacitu kontextu a tento rozdiel je kľúčovým faktorom pri vašom rozhodovaní: grok-4.3 a generácia grok-4.20 podporujú až 1 milión tokenov, grok-4.5 akceptuje 500 000 a grok-build-0.1 256 000. Aby sme uviedli tento horný limit do perspektívy, 1 milión tokenov predstavuje približne 750 000 slov – čo zodpovedá siedmim až desiatim románom alebo stredne veľkej kódovej základni.

Táto kapacita mení spôsob, akým používate jazykový model. Namiesto krájania vašich dát na fragmenty a ich samostatného spracovania môžete poskytnúť celý kontext v jednej požiadavke – a pre tieto úlohy sa grok-4.3, ekonomická možnosť pre veľmi dlhý kontext, často stáva správnou voľbou namiesto vlajkovej lode.

Prípady použitia

Analýza kódovej základne

S 1 miliónom tokenov môžete načítať celú kódovú základňu do kontextu modelu. Python projekt zahŕňajúci desaťtisíce riadkov sa do tohto okna zmestí pohodlne. Model potom môže odpovedať na otázky o celkovej architektúre, identifikovať vzájomné závislosti alebo navrhnúť refaktoring konzistentný s celým kódom – niečo, čo grok-build-0.1, obmedzený na 256k, v tomto meradle nedokáže.

Spracovanie dlhých dokumentov

Výročné správy, právne dokumenty, technické manuály – tieto dokumenty často majú stovky strán. Namiesto ich zhrňovania po častiach a straty globálneho kontextu ich môžete vložiť celé a klásť presné otázky o ktorejkoľvek sekcii.

Dlhé konverzácie

V konverzačných aplikáciách okno kontextu určuje dĺžku histórie, ktorú si model dokáže „zapamätať“. S oknom jedného milióna tokenov udržiavate veľmi dlhé konverzácie bez straty kontextu – čo je užitočné pri rozšírených pracovných reláciách alebo komplexnej technickej podpore.

Syntéza z viacerých zdrojov

Načítajte viacero dokumentov súčasne – články, správy, e-maily – a syntetizujte ich naprieč zdrojmi. Model dokáže identifikovať prekryvy, rozpory a doplňujúce informácie medzi zdrojmi.

Obmedzenia a aspekty na zváženie

Hranica 200 000 tokenov

Toto je bod, ktorý ľudia príliš často objavia až na faktúre: ceny Grok sa zdvojnásobia po prekročení 200 000 kontextových tokenov. Inými slovami, hneď ako skutočne využijete dlhý kontext, automaticky prechádzate do vyššej cenovej hladiny. Požiadavka s vstupom jedného milióna tokenov na grok-4.3 sa fakturuje zdvojnásobenou sadzbou – 2,50 USD za milión namiesto 1,25 USD – čo znamená 2,50 USD za túto jednu požiadavku. Pri grok-4.5 skočí požiadavka s 500 000 tokenmi na 4,00 USD za milión vstupných tokenov.

Táto hranica musí byť súčasťou vášho návrhu: architektúra, ktorá zostane pod 200 000 tokenmi, stojí na token polovicu oproti tej, ktorá túto hranicu prekročí, pri rovnakom objeme.

Latencia

Čím dlhší kontext, tým dlhší čas spracovania. Požiadavka s jedným miliónom vstupných tokenov bude výrazne pomalšia než tá s 2 000 tokenmi. Naplánujte si vhodné časové limity – xAI odporúča minimum 3 600 sekúnd pre komplexné požiadavky.

Náklady a cache

Náklady sú priamo úmerné počtu spracovaných tokenov a cache je jediným skutočným protiva hou: vstupné tokeny, ktoré už boli videné, sa fakturujú o 75 % až 85 % lacnejšie v závislosti od modelu (84 % pri grok-4.3 a generácii 4.20). Stabilný referenčný kontext, opakovane používaný z požiadavky na požiadavku, teda stojí len zlomok jeho pôvodnej ceny – odtiaľ vyplýva kľúčový význam cache pre dlhé kontexty.

Kvalita pozornosti (Attention)

Aj keď model akceptuje jeden milión tokenov, kvalita pozornosti nie je rovnomerná. Informácie umiestnené na začiatku a na konci kontextu sú všeobecne lepšie „zapamätané“ než tie v strede. Pri kritických požiadavkách umiestnite najdôležitejšie informácie na začiatok kontextu alebo priamo pred otázku.

Žiadne trvalé ukladanie

Okno kontextu je ephemérne: existuje len počas trvania požiadavky. Ak potrebujete ukladať informácie medzi požiadavkami, použite xAI Collections alebo vlastnú databázu. Okno kontextu nenahrádza systém trvalej pamäte.

Stratégie efektívneho využitia

Štruktúrujte svoj kontext

Pri veľmi dlhom kontexte sa štruktúra stáva kľúčovou. Používajte jasné oddeľovače (XML tagy, nadpisy Markdown) na organizáciu rôznych sekcií. Model sa lepšie orientuje, keď je kontext dobre označený.

Kombinujte dlhý kontext a cache

Najsilnejšia kombinácia: stabilný dlhý kontext (referenčná dokumentácia, zdrojový kód), ktorý využíva výhody cache, s krátkymi, dynamickými doplnkami (otázka používateľa) na konci. Získate tak výkon dlhého kontextu za ceny cache.

Nezapĺňajte kontext zbytočne

Len preto, že môžete vložiť jeden milión tokenov, neznamená, že by ste to mali robiť systematicky. Každý token má svoju cenu, potenciálne prekročí hranicu 200k a zvyšuje latenciu. Vyberte kontext relevantný pre danú úlohu namiesto toho, aby ste predvolene odosielali všetko – a pamätajte, že RAG často zostáva lacnejšou možnosťou než dlhý kontext pri dopytovaní veľkého korpusu.

Kľúčové poznatky

  • Okná sa líšia podľa modelu: 1M pre grok-4.3 a generáciu 4.20, 500k pre grok-4.5, 256k pre grok-build-0.1
  • 1 milión tokenov predstavuje približne 750 000 slov – ideálne pre kód, dlhé dokumenty a rozšírené konverzácie
  • Sledujte hranicu: po prekročení 200 000 kontextových tokenov sa sadzba za token zdvojnásobí
  • Latencia rastie s veľkosťou kontextu – naplánujte si vhodné časové limity
  • Cache (zníženie o 75 % až 85 % pri vstupe) je nevyhnutné na ekonomickú udržateľnosť dlhých kontextov
  • Kvalita pozornosti sa líši: kritické informácie umiestnite na začiatok alebo na koniec kontextu