Optimoi kulujasi
Tällä sivulla
Hallitse API-budjettiasi
Grok-mallien käyttäminen tuotantoympäristössä voi vaatia merkittävää investointia. Hyvä uutinen on, että xAI tarjoaa useita optimointikeinoja, joilla voit oikein käytettynä vähentää kustannuksiasi 50–90 %. Tässä oppitunnissa esitellään konkreettisia strategioita tämän saavuttamiseksi.
Automaattinen välimuisti: paras liittolaisesi
xAI:n välimuisti on tehokkain käytössäsi oleva kustannussäästömekanismi. Se toimii automaattisesti: kun kaksi pyyntöä jakaa yhteisen etuliitteen (sama järjestelmäkehote, sama keskustelun alku), jo käsitellyt tokenit haetaan välimuistista uudelleenlaskennan sijaan.
Vähennys on valtava:
- Grok 4.7: välimuistissa olevat tokenit 0,50 $/M instead of 2,00 $/M (75 %:n vähennys)
- Grok 4.5: 0,30 $/M instead of 2,00 $/M (85 %)
- Grok 4.3 ja sukupolven 4.20 mallit: 0,20 $/M instead of 1,25 $/M (84 %)
Maksimoi välimuistin osumaprosentti
Saadaksesi välimuistista kaiken irti, noudata näitä periaatteita:
Pidä järjestelmäkehotteesi vakiona. Tämä on pisin ja useimmin uudelleenkäytetty etuliite. Jos muutat sitä pyyntöjen välillä, välimuisti mitätöityy koko pyynnön osalta.
Liitä uudet viestit aina loppuun. Älä järjestele keskusteluhistoriaa uudelleen – jokainen muutos etuliitteessä rikkoo välimuistin.
Käytä x-grok-conv-id-otsikkoa. Tämä otsikko, joka saa arvokseen UUID v4:n, kertoo xAI:lle, että useat pyynnöt kuuluvat samaan keskusteluun. Tämä parantaa reititystä oikeaan välimuistiin.
x-grok-conv-id: 550e8400-e29b-41d4-a716-446655440000
Käytä samaa UUID:tä kaikille saman keskustelun pyynnöille ja uutta UUID:tä jokaiselle uudelle keskustelulle.
Batch API: 50 % alennus tokeneista
Tammikuusta 2026 lähtien saatavilla oleva Batch API tarjoaa 50 %:n alennuksen vakiotokenhinnista. Periaate on yksinkertainen: lähetät pyyntöerän ja haet tulokset epäsynkronisesti reaaliaikaisten vastausten sijaan.
| Malli | Vakio-syöte | Batch-syöte | Vakio-tuloste | Batch-tuloste |
|---|---|---|---|---|
| Grok 4.5 | $2.00 | $1.00 | $6.00 | $3.00 |
| Grok 4.3 | $1.25 | $0.63 | $2.50 | $1.25 |
Tärkeää: Batch-alennus koskee vain teksti tokeneita. Kuvien ja videoiden generointi veloitetaan vakiohinnoin, vaikka käyttäisit Batch API:a.
Maaliskuusta 2026 lähtien voit ladata JSONL-tiedostosi Files API:n kautta erien lähettämistä varten, mikä yksinkertaistaa työnkulkua.
Valitse oikea malli
Mallin valinta on usein vaikuttavin optimointikeino. Tässä kustannuslähtöinen päätöksentekokehys:
Käytä oletuksena grok-4.3:tta. Se on taloudellisin yleiskäyttöinen malli useimpiin tehtäviin, ja se tarjoaa laajimman konteksti-ikkunan mallistossa. Syöte 1,25 $/M, tuloste 2,50 $/M.
Ota päättelykäyttöön vain tarvittaessa. Päättelytokenit veloitetaan tulostehinnalla. Päättelypyyntö voi maksaa 2–5 kertaa enemmän kuin ei-päättelypyyntö samalla mallilla.
Päivitä Grok 4.5:een vain monimutkaisissa tehtävissä, jotka vaativat syvällistä päättelyä. Älä käytä sitä luokitteluun tai yksinkertaiseen tiivistämiseen.
Käytä koodiin grok-build-0.1:tä Grok 4.5:n sijaan: se on malliston nopein malli, puoleen hintaan syötteessä (1,00 $ vs 2,00 $) ja kolme kertaa edullisempi tulosteessa (2,00 $ vs 6,00 $).
Varattu läpimeno (Enterprise)
Enterprise-asiakkaille, joilla on ennustettavia volyymeja, Provisioned Throughput tarjoaa omistetun kapasiteetin 99,9 %:n SLA-takuulla. Laskutusmalli on 10,00 $ päivässä yksikköä kohden, ja vähimmäissitoumus on 30 päivää.
Tämä on järkevää, jos tarvitset taatut vasteajat ja korkeammat nopeusrajat kuin maksa-käytön-mukaan -mallissa tarjoaa. Taloudellinen hyöty riippuu volyymistasi: laske kuukausittainen kulutuksesi maksa-käytön-mukaan -mallissa ja vertaa sitä varatun kapasiteetin kustannuksiin.
Yhdistetty strategia
Optimaalinen strategia yhdistää useita keinoja:
- grok-4.3 oletusmallina
- Maksimoidtu välimuisti vakaiden kehotteiden ja
x-grok-conv-id:n avulla - Batch API kaikkeen käsittelyyn, joka ei vaadi välitöntä vastausta
- Älykäs reititys Grok 4.5:een vain, kun laatu sitä vaatii
Yhdistämällä välimuistin (75–85 % alennus syötteeseen mallista riippuen) ja batch-käsittelyn (50 %), voit saavuttaa erittäin alhaiset tehokkaat kustannukset jopa suurilla volyymeillä.
Keskeiset asiat
- Automaattinen välimuisti on tehokkain keino: 75–85 %:n vähennys syötetokeneissa mallista riippuen
- Käytä
x-grok-conv-id:tä parantaaksesi välimuistin osumaprosenttia - Batch API tarjoaa 50 %:n alennuksen teksti tokeneihin
- Valitse laatuvaatimuksesi täyttävä edullisin malli
- grok-4.3 on optimaalinen oletusvalinta useimmissa tapauksissa
- Yhdistä välimuisti + batch + oikea malli maksimoidaksesi säästöt