Pāriet uz galveno saturu
Latviešu— Izvēlēties valodu
Izvēlne

Vienību un TPM sadalījums katram modelim

Nodarbība 6 no 14 Atjaunota 2026. gada 2. novembris Vidējs
Šajā lapā
  1. Kāpēc vienību vērtība atšķiras
  2. Sadalījums pa modeļiem
  3. Kā lasīt tabulu
  4. Šīs matricas pārvēršana lēmumos
  5. Galvenās atziņas

Atjaunināts 2026. gada 2. novembrī — flagmaņa modelis. Grok 4.5 vairs nav visspējīgākais modelis: to ir nomainījuši Grok 4.6 (2026. gada 12. augusts) un pēc tam Grok 4.7 (grok-4.7, 2026. gada 21. septembris), kas piedāvā 500 000 konteksta tokenus, spriešanas intensitāti no low līdz xhigh un to pašu pakāpenisko cenu politiku (2 $ / 6 $ zem 200 000 uzdevuma tokeniem, 4 $ / 12 $ virs šī sliekšņa). grok-4.5 joprojām ir pieejams; jauniem projektiem sāc ar grok-4.7 (kurss Grok 2026. gadā, 9. nodarbība).

Kāpēc vienību vērtība atšķiras

Mēs esam noskaidrojuši, ka nodrošinātas caurlaidspējas vienības izmaksas ir vienādas neatkarīgi no izvēlētā modeļa. Mainās tas, ko tu iegūsti: katra vienība nodrošina konkrētu tokenus skaitu minūtē atkarībā no izvēlētā modeļa. Šīs atšķirības nav nejaušas — tās atspoguļo modeļa aprēķinu sarežģītību. Jo vairāk aprēķinu jaudas modelim nepieciešams, lai ģenerētu vienu token, jo mazāk tokenus vienība spēj nodrošināt minūtē.

Otra atšķirība, kas strukturē zemāk esošo tabulu, ir sadalījums starp ievades un izvades tokeniem, jo ģenerēšana izmaksā ievērojami dārgāk nekā datu ielase. 1000 tokenus garā uzdevuma nolasīšana un 1000 tokenus garas atbildes ģenerēšana prasa atšķirīgus infrastruktūras resursus, un cenu tabula to ņem vērā.

Sadalījums pa modeļiem

Zemāk redzami TPM (tokenu minūtē) sadalījumi uz vienu vienību galvenajiem modeļiem, kas pieejami ar nodrošinātu caurlaidspēju (orientējošas vērtības — aktuālos sadalījumus katram modelim skati oficiālajā xAI dokumentācijā):

Modelis Ievades TPM/vienībā Izvades TPM/vienībā
grok-4.5 2,000 400
grok-4.3 21,000 12,500
grok-4.20-0309 (bez spriešanas) 3,000 700
grok-4.20-0309 (ar spriešanu) 3,000 700
grok-4.20-multi-agent-0309 3,000 700
grok-build-0.1 31,500 4,000

Kā lasīt tabulu

Augstākās klases modeļus vari uzreiz atpazīt pēc to zemajiem sadalījumiem. Modeļi grok-4.5 un grok-4.20 ir visspēcīgākie, tāpēc tie ir visprasīgākie attiecībā uz aprēķinu jaudu, nodrošinot vismazāko TPM skaitu uz vienību: 2000 līdz 3000 ievadē un 400 līdz 700 izvādē. Rezervē tos uzdevumiem, kuriem patiešām nepieciešama augsta līmeņa spriešana. Atšķirība no pārējā klāsta ir tik liela, ka to izmantošana bez diferenciācijas kļūst dārga — nākamajā nodarbībā to apliecināsim ar konkrētiem skaitļiem.

Otrā galā grok-build-0.1 sasniedz līdz pat 31 500 ievades TPM un 4000 izvades TPM uz vienību, kas ir lielākā ievades caurlaidspēja šajā klāstā. Specializējies koda ģenerēšanā, tas piedāvā vislabāko caurlaidspējas un izmaksu attiecību izstrādes darba plūsmām. Tā profils precīzi atbilst šāda veida slodzei: serviss, kas nolasī lielus pirmkoda failus, lai piedāvātu labojumus, intensīvi patērē ievades resursus, bet relatīvi maz — izvades resursus.

Starp šiem galiem grok-4.3 nodrošina 21 000 ievades TPM un 12 500 izvades TPM uz vienību. Tas ir vienīgais modelis tabulā ar dāsnu izvades kapacitāti, padarot to īpaši piemērotu vienkāršiem, liela apjoma uzdevumiem — klasificēšanai, ekstrakcijai, kopsavilkumu veidošanai — kur tu ģenerē lielu teksta apjomu no neliela konteksta.

Šīs matricas pārvēršana lēmumos

Praksē mērķis ir saskaņot katru lietojuma gadījumu ar modeli, kura sadalījuma profils tam vislabāk atbilst. Klientu atbalsta serviss, iekšējais čatbots, klasificēšanas konveijers vai jebkura liela apjoma datu apstrāde balstīsies uz grok-4.3. Sarežģīta analīze, augsta līmeņa rakstīšana un multi-aģentu scenāriji attaisno grok-4.20 izmantošanu. Koda ģenerēšana un izstrādes darba plūsmas norāda uz grok-build-0.1.

Tev nav jāpieņem vienots lēmums visa uzņēmuma mērogā. Tu vari nodrošināt vairākus modeļus paralēli un izolēt tos atsevišķās jaudas grupās, izmantojot galveni x-pt-id, lai novirzītu katru pieprasījumu uz atbilstošo grupu. Tādējādi viena platforma var apkalpot gan ekonomisku čatbotu, gan augstas klases analīzes dzinēju, nepieļaujot, ka pirmais iztērē otrajam rezervēto jaudu.

Galvenās atziņas

  • TPM sadalījumi ievērojami atšķiras atkarībā no modeļa: no 2000 līdz 31 500 ievades TPM uz vienību
  • Vienības izmaksas paliek nemainīgas (10 $/dienā), mainās tikai TPM
  • grok-4.3 un grok-build-0.1 piedāvā vislabāko caurlaidspējas un izmaksu attiecību
  • Apvieno vairākus modeļus, lai optimizētu izmaksas atkarībā no uzdevuma veida