Spring til hovedindhold
Dansk— Vælg et sprog
Menu

Lang kontekst: Op til 1 million tokens

Lektion 11 af 14 Opdateret 30. juli 2026 Begynder
På denne side
  1. Hvad et vindue på én million tokens betyder
  2. Anvendelsestilfælde
  3. Begrænsninger og overvejelser
  4. Strategier til effektiv brug
  5. Vigtige pointer

Hvad et vindue på én million tokens betyder

Ikke alle Grok-tekstmodeller har samme kontekstkapacitet, og denne forskel er en afgørende faktor i dit valg: grok-4.3 og grok-4.20-generationen understøtter op til 1 million tokens, grok-4.5 accepterer 500.000, og grok-build-0.1 256.000. For at sætte denne øvre grænse i perspektiv svarer 1 million tokens til cirka 750.000 ord – det svarer til syv til ti romaner eller en mellemstor kodebase.

Denne kapacitet transformerer måden, du bruger en sprogmodel på. I stedet for at hakke dine data i fragmenter og behandle dem hver for sig, kan du levere hele konteksten i en enkelt anmodning – og til disse opgaver bliver grok-4.3, det økonomiske valg til meget lang kontekst, ofte det rigtige valg frem for flaggskibsmodellen.

Anvendelsestilfælde

Analyse af kodebase

Med 1 million tokens kan du indlæse en hel kodebase i modellens kontekst. Et Python-projekt på titusindvis af linjer passer komfortabelt inden for dette vindue. Modellen kan derefter besvare spørgsmål om den overordnede arkitektur, identificere krydsafhængigheder eller foreslå refaktorering, der er konsistent med hele koden – noget grok-build-0.1, der er begrænset til 256k, ikke kan gøre i denne skala.

Behandling af lange dokumenter

Årsrapporter, juridiske dokumenter, tekniske manualer – disse dokumenter løber ofte op i hundredvis af sider. I stedet for at opsummere dem i bidder og miste den globale kontekst, kan du indføre dem fuldt ud og stille præcise spørgsmål om ethvert afsnit.

Lange samtaler

I samtaleapplikationer bestemmer kontekstvinduet, hvor lang historik modellen kan “huske”. Med et vindue på én million tokens kan du føre meget lange samtaler uden tab af kontekst – nyttigt til udvidede arbejdssessioner eller kompleks teknisk support.

Syntese fra flere kilder

Indlæs flere dokumenter samtidigt – artikler, rapporter, e-mails – for at syntetisere dem på tværs af kilder. Modellen kan identificere overlap, modsigelser og komplementære oplysninger mellem kilderne.

Begrænsninger og overvejelser

Tærsklen på 200.000 tokens

Dette er det punkt, folk alt for ofte opdager på regningen: Grok-prissætningen fordobles ud over 200.000 kontekst-tokens. Med andre ord, så snart du virkelig udnytter lang kontekst, skifter du automatisk til det høje prisniveau. En input-anmodning på én million tokens på grok-4.3 faktureres til den dobbelte sats – $2,50 per million i stedet for $1,25 – hvilket betyder $2,50 for den ene anmodning. På grok-4.5 hopper en anmodning på 500.000 tokens til $4,00 per million input.

Denne tærskel skal indgå i dit design: En arkitektur, der holder sig under 200.000 tokens, koster halvt så meget per token som en, der løber over, ved samme volumen.

Latens

Jo længere konteksten er, jo længere er behandlingstiden. En anmodning med én million input-tokens vil være betydeligt langsommere end en med 2.000 tokens. Planlæg for passende timeouts – xAI anbefaler et minimum på 3.600 sekunder til komplekse anmodninger.

Omkostninger og cache

Omkostningerne er direkte proportionale med antallet af behandlede tokens, og cache er det eneste reelle modvægt: Input-tokens, der allerede er set, faktureres 75 % til 85 % billigere afhængigt af modellen (84 % på grok-4.3 og 4.20-generationen). En stabil referencekontekst, der genbruges fra anmodning til anmodning, kommer derfor til en brøkdel af sin oprindelige pris – heraf den afgørende betydning af cache til lange kontekster.

Opmærksomhedskvalitet

Selvom modellen accepterer én million tokens, er kvaliteten af opmærksomheden ikke ensartet. Oplysninger placeret i begyndelsen og slutningen af konteksten bliver generelt bedre “husket” end dem i midten. Til kritiske anmodninger bør du placere de vigtigste oplysninger i starten af konteksten eller direkte før spørgsmålet.

Ingen permanent lagring

Kontekstvinduet er flygtigt: Det eksisterer kun under anmodningen. Hvis du har brug for at gemme oplysninger mellem anmodninger, skal du bruge xAI Collections eller din egen database. Kontekstvinduet erstatter ikke et system til vedvarende hukommelse.

Strategier til effektiv brug

Strukturér din kontekst

Med meget lang kontekst bliver struktur afgørende. Brug klare afgrænsere (XML-tags, Markdown-overskrifter) til at organisere forskellige sektioner. Modellen navigerer bedre, når konteksten er godt mærket.

Kombinér lang kontekst og cache

Den mest kraftfulde kombination: En stabil lang kontekst (referencedokumentation, kildekode), der drager fordel af cache, med korte, dynamiske tilføjelser (brugerspørgsmål) til sidst. Du får kraften fra lang kontekst til cache-priser.

Fyld ikke konteksten unødigt

Bare fordi du kan indføre én million tokens, betyder det ikke, at du skal gøre det systematisk. Hver token har en omkostning, kan potentielt krydse 200k-tærsklen og øger latensen. Vælg den kontekst, der er relevant for opgaven ved hånden, i stedet for at sende alt som standard – og husk, at RAG ofte forbliver billigere end lang kontekst til forespørgsler i et stort korpus.

Vigtige pointer

  • Vinduer varierer efter model: 1M til grok-4.3 og 4.20-generationen, 500k til grok-4.5, 256k til grok-build-0.1
  • 1 million tokens svarer til cirka 750.000 ord – ideelt til kode, lange dokumenter og udvidede samtaler
  • Pas på tærsklen: Ud over 200.000 kontekst-tokens fordobles prisen per token
  • Latensen stiger med kontekststørrelsen – planlæg for passende timeouts
  • Cache (75 % til 85 % reduktion på input) er afgørende for at gøre lange kontekster økonomiske
  • Kvaliteten af opmærksomheden varierer: Placér kritiske oplysninger i starten eller slutningen af konteksten