Siirry pääsisältöön
Suomi— Valitse kieli
Valikko

Oma kapasiteetti ja varattu läpimeno

Oppitunti 5 / 14 Päivitetty 28. heinäkuuta 2026 Keskitasoinen
Tällä sivulla
  1. Varaa kapasiteettia sen sijaan, että jakaisit sen
  2. Mitä kohtaat ilman varattua kapasiteettia
  3. Ajattelu yksiköissä
  4. Päätös tarpeellisuudesta
  5. Keskeiset asiat

Varaa kapasiteettia sen sijaan, että jakaisit sen

Varattu läpimeno (Provisioned Throughput) on xAI:n yritystarjonnan tekninen selkäranka. Periaate mahtuu yhteen lauseeseen: varaat oman dedikoidun käsittelykapasiteetin Grok-malleillesi, jolloin suorituskykysi ei enää riipu alustan globaalista kuormituksesta. Koko arvo piilee tässä riippumattomuudessa, ja sen ymmärtäminen on ratkaisevan tärkeää päätettäessä, otatko ominaisuuden käyttöön.

$10
Yksikköä kohden päivässä
30 päivää
Minimisitoumus
99,9 %
Taattu SLA
11
Käytettävissä olevia malleja

Mitä kohtaat ilman varattua kapasiteettia

Maksat-käytön-mukaan -tilassa pyyntösi jakavat infrastruktuurin kaikkien muiden API-käyttäjien kanssa. Useimmiten et huomaa tätä. Ongelma nousee pintaan kysynnän piikkien aikana, ja käyttötiimisi tunnistavat oireet välittömästi. Vasteajat kasvavat, mutta mikä pahempaa, niistä tulee vaihtelevia – mikä on paljon huonompaa kuin jatkuva hitaus, sillä kahden sekunnin vasteeseen suunniteltu käyttöliittymä toimii huonosti, jos vasteaika on joskus kahdeksan sekuntia. Seuraavaksi ilmenee nopeusrajoitusvirheitä (koodi 429), jolloin sovelluksesi joutuu hallitsemaan uudelleenyrityksiä, jotka kasvattavat entisestään käyttäjän kokemaa viivettä. Satunnaiset saatavuusongelmat voivat lopulta vaikuttaa palveluun juuri silloin, kun kysyntä on suurimmillaan.

Varattu läpimeno poistaa tämän alttiuden. Pyynnöt käsitellään sinulle varatussa kapasiteetissa taatulla prioriteetilla ja huomattavasti tasaisemmilla vasteajoilla. Et vain siirrä kustannuksia; siirrät riskiä: suorituskykyriski siirtyy sovellukseltasi palveluntarjoajalle.

Ajattelu yksiköissä

Ostat kapasiteettia yksiköissä, ja tämä käsite palaa jokaisessa seuraavassa oppitunnissa. Jokainen yksikkö vastaa tietyn mallin tokenia minuutissa (TPM) -kiintiötä. Laskelmiesi kannalta on kriittistä ymmärtää, että syöteyksiköt (jotka käsittelevät kehotteitasi) ja tulosteyksiköt (jotka tuottavat vastaukset) ostetaan erikseen.

Hinnoittelutaulukko on kuitenkin hämmentävän yksinkertainen: 10 dollaria yksikköä kohden päivässä mallista riippumatta. Yksikön hinta ei vaihtele mallien välillä, mutta sen tarjoama TPM-määrä vaihtelee. Erittäin tehokas malli tarjoaa vähän, kevyempi malli paljon enemmän, ja tämä ero luo huomattavat kustannuserot, jotka kvantifioimme kahden oppitunnin kuluttua.

Päätös tarpeellisuudesta

Tuotantosovellus, jolla on tiukat viivevaatimukset, sopii täydellisesti ongelmaan, jonka tämä mekanismi ratkaisee, joten epäröinnille on vähän syytä. Automatisoitu asiakastuki on samassa tilanteessa, ja siihen liittyy lisäperustelu: jokainen odotussekonni muuttuu hylkäykseksi tai saapuvaksi puheluksi, joka on hoidettava toisella tavalla. Suurten ja ennustettavien volyymien reaaliaikainen käsittely on myös hyvä kohde; ennustettavuus tekee mitoituksesta luotettavaa. Yleisemmin mikä tahansa sovellus, jossa keskeytyksellä on suuri kustannus mitattuna dollareina tai maineena, perustelee kapasiteetin varaamisen sille.

Käänteinen päättely on yhtä hyödyllistä. Yöllinen eräajoprosessi, jolla ei ole aikarajoituksia, ei hyödy varatusta kapasiteetista: sillä ei ole väliä, valmistuuko se kello 3.00 vai 4.00, ja maksat-käytön-mukaan -malli on rehellisesti sanottuna taloudellisempi. Sama johtopäätös koskee prototypointia ja pieniä volyymeja. Jos vielä epäröit, kysy itseltäsi ennen 30 päivän sitoutumista seuraava kysymys: kuinka monta tuntia päivässä tämä palvelu on toiminut täydellä kuormalla viimeisen 30 päivän aikana? Rehellinen vastaus ratkaisee väittelyn lähes aina.

Keskeiset asiat

  • Varattu läpimeno varaa dedikoidun kapasiteetin hintaan 10 $ yksikköä kohden päivässä
  • Minimisitoumus on 30 päivää
  • 99,9 %:n SLA on sopimuksella taattu
  • Suorituskyky on vakaa alustan globaalista kuormituksesta riippumatta
  • Maksat-käytön-mukaan -malli on edelleen suositeltava pieniin volyymeihin ja prototypointiin