Optimizuokite savo išlaidas
Šiame puslapyje
Valdykite savo API biudžetą
Grok modelių naudojimas gamybinėje aplinkoje gali reikšti didelę investiciją. Gera žinia: „xAI“ siūlo keletą optimizavimo svertų, kurie, tinkamai naudojami, gali sumažinti jūsų išlaidas 50–90 %. Šioje pamokoje pateikiamos konkrečios strategijos, kaip tai pasiekti.
Automatinis podėlis: jūsų geriausias sąjungininkas
„xAI“ podėlis yra galingiausias jums prieinamas išlaidų mažinimo mechanizmas. Jis veikia automatiškai: kai du užklausos turi bendrą priešdėlį (tą patį sistemos promptą, tą pačią pokalbio pradžią), jau apdoroti tokenai gaunami iš podėlio, o ne perskaičiuojami iš naujo.
Sumažinimas yra didžiulis:
- Grok 4.7: podėlio tokenai kainuoja 0,50 USD/M vietoj 2,00 USD/M (75 % sumažinimas)
- Grok 4.5: 0,30 USD/M vietoj 2,00 USD/M (85 %)
- Grok 4.3 ir 4.20 kartos: 0,20 USD/M vietoj 1,25 USD/M (84 %)
Maksimizuokite podėlio pasiekimų rodiklį
Norėdami išnaudoti podėlį maksimaliai, laikykitės šių principų:
Išlaikykite sistemos promptą stabilų. Tai ilgiausias ir dažniausiai iš naujo naudojamas priešdėlis. Jei jį pakeisite tarp užklausų, visos užklausos podėlis bus anuliuotas.
Visada pridėkite naujus pranešimus gale. Neperrašykite pokalbio istorijos – bet koks priešdėlio pakeitimas sugadina podėlį.
Naudokite antraštę x-grok-conv-id. Ši antraštė, kuriai reikia UUID v4, informuoja „xAI“, kad kelios užklausos priklauso tam pačiam pokalbiui. Tai pagerina maršrutizavimą į atitinkamą podėlį.
x-grok-conv-id: 550e8400-e29b-41d4-a716-446655440000
Visoms to paties pokalbio užklausoms naudokite tą patį UUID, o kiekvienam naujam pokalbiui – naują UUID.
„Batch“ API: 50 % nuolaida tokenams
Nuo 2026 m. sausio mėn. prieinama „Batch“ API siūlo 50 % nuolaidą standartiniams tokenų tarifams. Principas toks: pateikiate užklausų paketą ir rezultatus gaunate asinchroniškai, o ne realiuoju laiku.
| Modelis | Standartinė įvestis | „Batch“ įvestis | Standartinė išvestis | „Batch“ išvestis |
|---|---|---|---|---|
| Grok 4.5 | 2,00 USD | 1,00 USD | 6,00 USD | 3,00 USD |
| Grok 4.3 | 1,25 USD | 0,63 USD | 2,50 USD | 1,25 USD |
Svarbu: „Batch“ nuolaida taikoma tik teksto tokenams. Vaizdų ir vaizdo įrašų generavimas kainuoja pagal standartinius tarifus, net ir naudojant „Batch“ API.
Nuo 2026 m. kovo mėn. savo JSONL failus paketams pateikti galite įkelti naudodami „Files“ API, kas supaprastina darbo eigą.
Pasirinkite tinkamą modelį
Modelio pasirinkimas dažnai yra pats veiksmingiausias optimizavimo svertas. Štai su išlaidomis susijusi sprendimų priėmimo sistema:
Pagal numatytuosius nustatymus naudokite grok-4.3. Tai ekonomiškiausias bendrosios paskirties modelis daugumai užduočių, be to, jis siūlo didžiausią konteksto langą visoje asortimento eilutėje. Įvestis – 1,25 USD/M, išvestis – 2,50 USD/M.
Įjunkite samprotavimą tik tada, kai tai būtina. Samprotavimo tokenai apmokestinami išvesties tarifu. Samprotavimo užklausa gali kainuoti 2–5 kartus daugiau nei nesamprotuojanti to paties modelio užklausa.
Pereikite prie Grok 4.5 tik sudėtingoms užduotims, kurioms reikia gilaus samprotavimo. Nenaudokite jo klasifikavimui ar paprastam santraukų kūrimui.
Kodui naudokite grok-build-0.1, o ne Grok 4.5: tai greičiausias asortimento modelis, kurio įvesties kaina perpus mažesnė (1,00 USD vietoj 2,00 USD), o išvesties – tris kartus mažesnė (2,00 USD vietoj 6,00 USD).
Numatytasis pralaidumas (įmonėms)
Įmonių klientams, turintiems numatomus duomenų srautus, „Provisioned Throughput“ siūlo skirtą pajėgumą su 99,9 % SLA. Apmokestinimo modelis – 10,00 USD per dieną už vienetą, minimalus įsipareigojimas – 30 dienų.
Tai aktualu, jei jums reikia garantuotos delsos ir didesnių dažnio ribų nei mokant pagal suvartojimą. Ekonominė nauda priklauso nuo jūsų apimties: apskaičiuokite mėnesio suvartojimą mokant pagal suvartojimą ir palyginkite jį su numatytojo pralaidumo kaina.
Kombinuota strategija
Optimali strategija sujungia kelis svertus:
- grok-4.3 kaip numatytasis modelis
- Maksimaliai išnaudotas podėlis naudojant stabilius promptus ir
x-grok-conv-id - „Batch“ API visiems procesams, kuriems nereikia momentinio atsakymo
- Inteligentus maršrutizavimas į Grok 4.5 tik tada, kai to reikalauja kokybė
Derindami podėlį (75–85 % nuolaida įvestiai, priklausomai nuo modelio) ir „Batch“ (50 %), galite pasiekti labai mažas faktines išlaidas net ir esant didelėms apimtims.
Svarbiausi punktai
- Automatinis podėlis yra galingiausias svertas: 75–85 % sumažinimas įvesties tokenams, priklausomai nuo modelio
- Naudokite
x-grok-conv-id, kad pagerintumėte podėlio pasiekimų rodiklį - „Batch“ API siūlo 50 % nuolaidą teksto tokenams
- Pasirinkite pigiausią modelį, atitinkantį jūsų kokybės reikalavimus
- grok-4.3 yra optimalus numatytasis pasirinkimas daugeliu atvejų
- Derinkite podėlį + „Batch“ + tinkamą modelį, kad maksimaliai padidintumėte santaupas