Preskok na glavno vsebino
Slovenščina— Izberite jezik
Meni

Namenska zmogljivost in predvidena prepustnost

Lekcija 5 od 14 Posodobljeno 28. julij 2026 Srednje napredni
Na tej strani
  1. Rezerviraj zmogljivost namesto, da bi jo delil
  2. S čim se soočaš brez rezervirane zmogljivosti
  3. Razmišljanje v enotah
  4. Odločitev, ali jo potrebuješ
  5. Ključne ugotovitve

Rezerviraj zmogljivost namesto, da bi jo delil

Predvidena prepustnost (Provisioned Throughput) je tehnično hrbtenico ponudbe xAI za podjetja. Načelo lahko strnemo v en stavek: rezerviraš namensko obdelovalno zmogljivost za svoje modele Grok in tvoja učinkovitost preneha biti odvisna od globalne obremenitve platforme. Vsa vrednost tiči v tej neodvisnosti, razumevanje le-te pa je ključno pri odločitvi, ali jo aktivirati.

$10
Na enoto na dan
30 dni
Najmanjša zaveza
99,9 %
Zagotovljena SLA
11
Razpoložljivi modeli

S čim se soočaš brez rezervirane zmogljivosti

V načinu plačila po porabi (pay-as-you-go) si tvoji zahtevki delijo infrastrukturo z vsemi drugimi uporabniki API-ja. Večino časa tega ne boš opazil. Težava se pojavi med konicami povpraševanja in tvoje operativne ekipe bodo simptome takoj prepoznale. Časi odziva se podaljšajo, kar pa je še huje, postanejo spremenljivi – kar je bistveno slabše od stalne počasnosti, saj se vmesnik, zasnovan za dvo-sekundni odziv, slabo obnaša, ko ta včasih traja osem sekund. Nato se pojavijo napake omejevanja hitrosti (rate limiting), vrnjene s kodo 429, in tvoja aplikacija mora nato obdelati ponovne poskuse, ki dodatno povečajo zakasnitev, ki jo zazna uporabnik. Občasna poslabšanja razpoložljivosti lahko končno prizadenejo storitev prav takrat, ko je povpraševanje največje.

Predvidena prepustnost to izpostavljenost odpravi. Tvoji zahtevki se obdelujejo na zmogljivosti, rezervirani zate, z zagotovljeno prioriteto in veliko bolj doslednimi časi odziva. Ne premikaš le stroška; premikaš tveganje: tveganje glede učinkovitosti se prenese s tvoje aplikacije na ponudnika.

Razmišljanje v enotah

Zmogljivost kupuješ v enotah in ta koncept se bo vračal v vsaki naslednji lekciji. Vsaka enota ustreza dodelitvi žetonov na minuto (TPM) za določen model. Ključno za tvoje izračune: vhodne enote, ki obdelujejo tvoje pozive, in izhodne enote, ki ustvarjajo odgovore, se kupujejo ločeno.

Vendar pa je cenik presenetljivo preprost: 10 USD na enoto na dan, ne glede na model. Cena enote se nikoli ne spreminja od modela do modela, TPM, ki ga ta enota zagotavlja, pa se. Zelo zmogljiv model ti da malo, lažji model veliko več in ta razlika ustvarja precejšnje razlike v stroških, ki jih bomo kvantificirali v dveh lekcijah.

Odločitev, ali jo potrebuješ

Produkcijska aplikacija, ki je podvržena strogim zahtevam glede zakasnitve, točno ustreza težavi, ki jo ta mehanizem rešuje, zato je malo razlogov za oklevanje. Avtomatizirana podpora se znajde v enakem položaju, z dodatnim argumentom: vsaka sekunda čakanja se prevede v opustitev ali dohodni klic, ki ga boš moral obravnavati na drug način. Obdelava velikih, predvidljivih količin v realnem času je prav tako dober kandidat; predvidljivost tu omogoča zanesljivo določanje velikosti. Na splošno vsaka aplikacija, kjer ima prekinitev visoko ceno, merljivo v dolarjih ali ugledu, upravičuje rezervacijo zmogljivosti zanjo.

Enako koristno je uporabiti obratno razmišljanje. Nočni serijski proces brez časovnih omejitev od rezervirane zmogljivosti nima nobene koristi: ali se konča ob 3.00 ali 4.00 zjutraj, ničesar ne spremeni, plačilo po porabi pa ostaja odkrito bolj ekonomično. Enak zaključek velja za prototipiranje in majhne količine. Če še vedno oklevaš, si pred zavezo za 30 dni postavi specifično vprašanje: koliko ur na dan je ta storitev v zadnjih 30 dneh dejansko delovala pri polni obremenitvi? Iskren odgovor skoraj vedno razreši dilemo.

Ključne ugotovitve

  • Predvidena prepustnost rezervira namensko zmogljivost po ceni 10 USD na enoto na dan
  • Najmanjša zaveza znaša 30 dni
  • SLA v višini 99,9 % je pogodbeno zagotovljen
  • Učinkovitost je stalna ne glede na globalno obremenitev platforme
  • Plačilo po porabi ostaja preferablejno za majhne količine in prototipiranje