Премини към основното съдържание
Български— Изберете език
Меню

Разпределение на единици и TPM за модел

Урок 6 от 14 Обновен 2 ноември 2026 г. Средно
На тази страница
  1. Защо стойността на единиците варира
  2. Разпределения по модел
  3. Как да четете таблицата
  4. Превръщане на тази решетка в решения
  5. Ключови изводи

Обновено на 2 ноември 2026 г. — водещ модел. Grok 4.5 вече не е най-мощният модел: той бе заменен от Grok 4.6 (12 август 2026 г.) и subsequently от Grok 4.7 (grok-4.7, 21 септември 2026 г.), които предлагат контекст от 500 000 токена, нива на усилие за разсъждение от low до xhigh и същата йерархична ценова структура (2 щ.д. / 6 щ.д. за под 200 000 токена на входа, 4 щ.д. / 12 щ.д. за над тази граница). Моделът grok-4.5 остава достъпен; за нови проекти започнете с grok-4.7 (курс Grok през 2026 г., урок 9).

Защо стойността на единиците варира

Вече установихме, че цената на една единица за гарантирана пропускателна способност (provisioned throughput unit) е еднаква, независимо от избрания модел. Променливата е това, което получавате: всяка единица предоставя конкретен брой токени в минута, зависещ от избрания от Вас модел. Това разминаване не е произволно – то отразява изчислителната сложност на модела. Колкото повече изчислителна мощ изисква един модел за генерирането на един токен, толкова по-малко токени може да достави една единица за минута.

Втората ключова разлика, структурираща таблицата по-долу, е разделянето на разпределенията между входни (input) и изходни (output) токени, тъй като генерирането на текст е значително по-скъпо от неговото обработване (ингестия). Прочитането на промпт от 1000 токена и записването на 1000 токена не изискват еднакви инфраструктурни ресурси и ценовата решетка отчита този факт.

Разпределения по модел

Ето разпределенията на TPM (токени в минута) за единица за основните модели, налични в режим на гарантирана пропускателна способност (ориентировъчни стойности – консултирайте се с официалната документация на xAI за актуалните разпределения за всеки модел):

Model Input TPM/Unit Output TPM/Unit
grok-4.5 2,000 400
grok-4.3 21,000 12,500
grok-4.20-0309 (non-reasoning) 3,000 700
grok-4.20-0309 (reasoning) 3,000 700
grok-4.20-multi-agent-0309 3,000 700
grok-build-0.1 31,500 4,000

Как да четете таблицата

Можете веднага да разпознаете моделите от висок клас по техните ниски разпределения. Моделите grok-4.5 и grok-4.20 са най-мощните, което ги прави и най-ресурсоемките; следователно те предлагат най-малко TPM на единица: между 2000 и 3000 за вход и между 400 и 700 за изход. Запазете ги за задачи, които наистина изискват напреднало разсъждение. Разликата спрямо останалата част от гамата е достатъчно голяма, така че недиференцираното им използване става скъпо – следващият урок демонстрира това с конкретни числа.

В другия край на спектъра, grok-build-0.1 достига до 31 500 входни TPM и 4000 изходни TPM на единица, което представлява най-високата входна пропускателна способност в гамата. Специализиран за генериране на код, той предлага най-доброто съотношение между пропускателна способност и разходи за работни процеси по разработка. Неговият профил отговаря точно на този тип натоварване: услуга, която чете големи изходни файлове, за да предложи поправки, консумира интензивно входни ресурси и сравнително малко изходни.

По средата, grok-4.3 осигурява 21 000 входни TPM и 12 500 изходни TPM на единица. Това е единственият модел в таблицата с щедър капацитет за изход, което го прави особено подходящ за прости задачи с голям обем – класификация, извличане, обобщаване – при които генерирате много текст въз основа на умерен контекст.

Превръщане на тази решетка в решения

На практика целта е да съпоставите всеки случай на употреба с модела, чийто профил на разпределение отговаря най-добре на нуждите Ви. Служба за поддръжка на клиенти, вътрешен чатбот, конвейер за класификация или всякаква обработка с голям обем ще разчитат на grok-4.3. Комплексен анализ, напреднало писане и сценарии с множество агенти оправдават използването на grok-4.20. Генерирането на код и работните процеси по разработка насочват към grok-build-0.1.

Не е необходимо да вземате решение от типа „един размер за всички“ на ниво предприятие. Можете да осигурите няколко модела паралелно и да ги изолирате в отделни пулове с капацитет, използвайки хедъра x-pt-id, за да насочите всяка заявка към съответния пул. По този начин една единствена платформа може да обслужва както икономичен чатбот, така и анализаторен двигател от висок клас, без първият да консумира капацитета, резервиран за втория.

Ключови изводи

  • Разпределенията на TPM варират значително според модела: от 2000 до 31 500 входни TPM на единица
  • Цената на единицата остава постоянна на 10 щ.д./ден, докато TPM варира
  • grok-4.3 и grok-build-0.1 предлагат най-доброто съотношение между пропускателна способност и разходи
  • Комбинирайте множество модели, за да оптимизирате разходите според типа задача