Kainų skaičiavimas ir pavyzdys
Šiame puslapyje
Formulė
Rezervuoto pralaidumo dydžio nustatymas – tai paprasta sudėtis. Dienos kaina atrodo taip:
Daily cost = (Input units + Output units) x $10
Toliau nustatyk, kiek vienetų tau reikia, remdamasis savo TPM poreikiais ir konkrečiu modelio paskirstymu:
Input units = Desired input TPM / TPM per model unit (round up)
Output units = Desired output TPM / TPM per model unit (round up)
Suapvalinimas iki artimiausio sveikojo skaičiaus – ne tik buhalterinė smulkmena. Negali nusipirkti trečdalio vieneto: jei tavo poreikiai bent vienu ženklu per minutę viršija paskirstymo kartotinį, mokėsi už visą vienetą. Toliau pateiktame pavyzdyje pamatysi, kaip tai atsispindi realioje sąskaitoje.
Pilnas pavyzdys: grok-4.3
Įsivaizduok klientų aptarnavimo programą, kuriai grok-4.3 modeliui reikia 100 000 įvesties TPM ir 50 000 išvesties TPM. Pereikime skaičiavimus žingsnis po žingsnio.
Šis modelis vienam vienetui suteikia 31 500 įvesties TPM, todėl gauname tokį įvesties vienetų skaičių:
100,000 / 31,500 = 3.17 → 4 units (round up)
Faktiškai gauta talpa: 4 x 31 500 = 126 000 įvesties TPM. Atkreipk dėmesį į suapvalinimo efektą: mokėsi už 126 000 TPM, nors tau reikėjo tik 100 000. Tie papildomi 26 000 TPM nėra švaistomi – jie sudaro tavo rezervą srauto šuoliams – tačiau jie atsiras sąskaitoje.
Išvesties pusėje paskirstymas yra 12 500 TPM vienam vienetui:
50,000 / 12,500 = 4.00 → 4 units
Faktiškai gauta talpa: 4 x 12 500 = 50 000 išvesties TPM. Čia poreikis tiksliai atitinka paskirstymo kartotinį, todėl talpa neišnaudojama. Tai tiesiog aritmetinis sutapimas, tačiau jis iliustruoja naudingą įprotį: patikrink, ar nedidelis deklaruoto poreikio pakoregavimas neperžengia vieneto ribos.
Dabar tiesiog viską sudėk:
Daily cost = (4 + 4) x $10 = $80/day
30-day cost = $80 x 30 = $2,400
Palyginimas su apmokėjimu pagal naudojimą
Šis skaičius nieko nereiškia, nepalyginus jo su tos pačios apimties kaina, taikant apmokėjimą pagal naudojimą. Tarkime, iš tikrųjų sunaudoji 100 000 įvesties TPM 8 valandas per dieną, 22 darbo dienas per mėnesį:
Monthly input tokens = 100,000 x 60 x 8 x 22 = 10.56 billion tokens
Galutinė kaina tada priklauso nuo modelio kainos už ženklą, pritaikytos šiai apimčiai. Jei rezervuotas pralaidumas pigesnis, sprendimas akivaizdus. Tačiau kaina – ne vienintelis veiksnys: rezervuota talpa taip pat prasminga, kai ją naudoji tvariai (daugiau nei 6–8 valandas per dieną), kai garantuotas atsako laikas lemia vartotojo patirtį, kai platformos srauto šuoliai pastebimai veikia tavo programą arba kai 99,9 % SLA yra aiškus verslo reikalavimas. Bet kuri iš šių priežasčių vien jau pateisina didesnę kainą.
Netinkamo modelio kaina
Paimkime tą patį poreikį, tik šį kartą naudodami grok-4.20-0309-reasoning, kuris yra aukščiausios klasės modelis:
Input: 100,000 / 3,000 = 34 units
Output: 50,000 / 700 = 72 units
Daily cost = 106 x $10 = $1,060/day
30-day cost = $31,800
Tą pati programa, ta pati apimtis, o sąskaita per trisdešimt dienų šauna nuo 2 400 $ iki 31 800 $. Klientų aptarnavimo pokalbių robotui greitas modelis greičiausiai visiškai pakanka ir kainuoja 13 kartų mažiau nei aukščiausios klasės modelis. Įsimink šį santykį: joks raginimų optimizavimas, jokių komercinių derybų niekada neatkurs 13 kartų skirtumo, prarasto arba laimėto modelio pasirinkimo etape.
Teisingas dydžio nustatymas
Pirmajam rezervavimui pradėk kukliai. Pradėk nuo mažesnio įverčio ir didink jį palaipsniui: lengviau pridėti vienetų nei aiškinti biudžeto perviršį. Tada stebėk faktinį naudojimą naudodamas išsamias vartojimo metrikas, kurias teikia valdymo API (Management API); jos per kelias dienas parodys, ar tavo pradinis įvertis buvo tikslus. Vis dėlto numatyk 20–30 % talpos rezervą srauto šuoliams sugerti, kitaip viena neįprasta diena gali visiškai užpildyti paskirstytą talpą.
Žinok, kad egzistuoja saugos tinklas: už paskirstymo ribų viršijantys užklausos automatiškai perjungiamos į apmokėjimą pagal naudojimą. Perviršis nesukelia paslaugos sutrikimų; jis tiesiog sukuria papildomą eilutę sąskaitoje – o tai daugeliu atvejų lieka pageidautinas kompromisas.
Svarbiausi punktai
- Formulė paprasta: (įvesties vienetai + išvesties vienetai) x 10 $/dieną
- Visada suapvalink reikalingų vienetų skaičių iki artimiausio sveikojo skaičiaus į viršų
- Modelio pasirinkimas daro didelę įtaką kainai: tarp greito ir aukščiausios klasės modelio skirtumas gali siekti 13 kartų
- Rezervuotas pralaidumas yra ekonomiškai efektyvus esant tvariam naudojimui (daugiau nei 6 val./dieną)
- Apmokėjimo pagal naudojimą atsarginis variantas automatiškai sugeria perviršius