Obliczanie kosztów i przykładowe wyliczenie
Na tej stronie
Wzór
Dobór przepustowości zarezerwowanej sprowadza się do prostego dodawania. Koszt dzienny wygląda następująco:
Daily cost = (Input units + Output units) x $10
Następnie określ, ile jednostek potrzebujesz, bazując na swoich wymaganiach dotyczących TPM i specyficznej alokacji modelu:
Input units = Desired input TPM / TPM per model unit (round up)
Output units = Desired output TPM / TPM per model unit (round up)
Zaokrąglanie w górę to nie tylko ciekawostka księgowa. Nie możesz kupić jednej trzeciej jednostki: jeśli Twoje potrzeby przekraczają wielokrotność alokacji choćby o jeden token na minutę, płacisz za całą jednostkę. Poniższy przykład pokazuje, jak wygląda to na rzeczywistej fakturze.
Kompletny przykład: grok-4.3
Rozważmy aplikację obsługi klienta wymagającą 100 000 wejściowych TPM i 50 000 wyjściowych TPM na modelu grok-4.3. Przeanalizujmy to obliczenie krok po kroku.
Model ten oferuje 31 500 wejściowych TPM na jednostkę, co daje nam liczbę jednostek wejściowych:
100,000 / 31,500 = 3.17 → 4 units (round up)
Uzyskana rzeczywista pojemność: 4 x 31 500 = 126 000 wejściowych TPM. Zauważ efekt zaokrąglenia: płacisz za 126 000 TPM, mimo że potrzebowałeś tylko 100 000. Te dodatkowe 26 000 TPM nie idą na marne – stanowią Twój bufor na skoki ruchu – ale widnieją na fakturze.
Po stronie wyjściowej alokacja wynosi 12 500 TPM na jednostkę:
50,000 / 12,500 = 4.00 → 4 units
Uzyskana rzeczywista pojemność: 4 x 12 500 = 50 000 wyjściowych TPM. Tutaj wymaganie trafia dokładnie w wielokrotność alokacji, więc żadna pojemność nie pozostaje niewykorzystana. To jedynie zbieg okoliczności arytmetycznych, ale ilustruje użyteczny nawyk: sprawdzaj, czy niewielka korekta deklarowanego zapotrzebowania nie przekracza progu jednostki.
Teraz wystarczy to zsumować:
Daily cost = (4 + 4) x $10 = $80/day
30-day cost = $80 x 30 = $2,400
Porównanie z modelem płatnym za użycie
Ta kwota nic nie znaczy, dopóki nie porównasz jej z kosztem tej samej ilości w rozliczeniu zależnym od użycia. Załóżmy, że faktycznie zużywasz 100 000 wejściowych TPM przez 8 godzin dziennie, przez 22 dni robocze w miesiącu:
Monthly input tokens = 100,000 x 60 x 8 x 22 = 10.56 billion tokens
Odpowiedni koszt zależy wtedy od stawki za token danego modelu zastosowanej do tej ilości. Jeśli przepustowość zarezerwowana wyjdzie taniej, decyzja jest podjęta. Jednak cena nie jest jedynym czynnikiem: zarezerwowana pojemność ma też sens, gdy używasz jej w sposób zrównoważony, ponad 6 do 8 godzin dziennie, gdy gwarantowane czasy odpowiedzi warunkują doświadczenie użytkownika, gdy skoki ruchu na platformie widocznie wpływają na Twoją aplikację lub gdy SLA na poziomie 99,9% jest wyraźnym wymogiem biznesowym. Każdy z tych powodów osobno uzasadnia dopłatę.
Koszt złego modelu
Weźmy dokładnie to samo wymaganie, tym razem na modelu grok-4.20-0309-reasoning, który jest modelem premium:
Input: 100,000 / 3,000 = 34 units
Output: 50,000 / 700 = 72 units
Daily cost = 106 x $10 = $1,060/day
30-day cost = $31,800
Ta sama aplikacja, ta sama ilość, a faktura skacze z 2400 USD do 31 800 USD w ciągu trzydziestu dni. W przypadku chatbota obsługi klienta szybki model najprawdopodobniej w zupełności wystarczy i kosztuje 13 razy mniej niż model premium. Zapamiętaj ten współczynnik: żadna optymalizacja promptów, żadne negocjacje handlowe nigdy nie odrobią czynnika 13 zyskanego lub utraconego na etapie wyboru modelu.
Prawidłowe dobieranie rozmiaru
Przy pierwszej rezerwacji zacznij skromnie. Rozpocznij od niskiego oszacowania i skaluj w górę: łatwiej jest dodać jednostki niż tłumaczyć się z przekroczenia budżetu. Następnie monitoruj rzeczywiste użycie, korzystając ze szczegółowych metryk zużycia udostępnianych przez Management API, które w ciągu kilku dni powiedzą Ci, czy Twoje początkowe oszacowanie się sprawdziło. Mimo to zaplanuj margines pojemności rzędu 20–30%, aby pochłonąć skoki ruchu; w przeciwnym razie jeden nietypowy dzień wystarczy, aby nasycić alokację.
Wiedz, że istnieje siatka bezpieczeństwa: żądania przekraczające Twoją alokację automatycznie przełączają się na tryb płatny za użycie. Przekroczenie nie powoduje przerwy w działaniu usługi; generuje jedynie dodatkową pozycję na fakturze – co w większości kontekstów pozostaje pożądanym kompromisem.
Kluczowe wnioski
- Wzór jest prosty: (jednostki wejściowe + jednostki wyjściowe) x 10 USD/dzień
- Zawsze zaokrąglaj w górę liczbę wymaganych jednostek
- Wybór modelu ma ogromny wpływ na koszt: czynnik 13x między modelem szybkim a premium
- Przepustowość zarezerwowana opłaca się przy użytkowaniu ciągłym (powyżej 6 godzin/dzień)
- Mechanizm awaryjny „płatne za użycie“ automatycznie pochłania przekroczenia