Премини към основното съдържание
Български— Изберете език
Меню

Концепция на Batch API

Урок 1 от 12 Обновен 2 ноември 2026 г. Програмист
На тази страница
  1. Асинхронна масова обработка
  2. Отстъпка от 20% за допустими модели
  3. Работен поток в четири стъпки
  4. Поддържани крайни точки
  5. Кога да използвате Batch API
  6. Ключови изводи

Обновено на 2 ноември 2026 г. въз основа на документацията на xAI: отстъпката за партиди е 20% за допустимите текстови модели (не 50%), примерите следват REST API и официалния xai-sdk (client.batch.*; Batch API на xAI не използва формата на OpenAI, следователно OpenAI SDK не се прилага), а Responses API има приоритет пред Chat Completions, който е остаряла крайна точка в xAI. Източници: Batch API · REST справка · Цени за партиди.

Асинхронна масова обработка

Batch API на xAI Ви позволява да изпратите хиляди заявки в една единствена операция и след това да извлечете резултатите, когато обработката приключи. За разлика от синхронните повиквания, при които чакате за всеки отговор, режимът на партида работи асинхронно: подавате партида, продължавате да работите и се връщате по-късно за резултатите.

Този подход отговаря на реална нужда. Когато трябва да обобщите 10 000 статии, да класифицирате 50 000 тикета за поддръжка или да напишете описания за каталог, изпращането на заявки една по една би било бавно, скъпо и би Ви сблъскало с ограниченията на честотата (rate limits). Заявките за партиди не се броят към тези ограничения.

Отстъпка от 20% за допустими модели

Икономическото предимство е реално, но по-скромно, отколкото някои източници предполагат. xAI прилага отстъпка от 20% за заявки за партиди за своите допустими текстови модели – към 2 ноември 2026 г.: grok-4.7, grok-4.6, grok-4.5, grok-4.3 и трите варианта на grok-4.20-0309 – за всички типове токени: входни, изходни, кеш и разсъждение. Моделите, които не са в този списък, не получават отстъпка, дори ако приемат партидна обработка.

Генерирането на изображения и видеоклипове работи в режим на партида, но на стандартни цени. Не всеки модел приема партиди: страницата на всеки модел посочва дали го прави, а заявка към недопустим модел се отхвърля със съобщението not supported for batch processing.

-20%
Токени за допустими модели
24 ч.
Типично време за изпълнение, без гаранция
50 000
Заявки на файл
200 MB
Максимален размер на JSONL

Работен поток в четири стъпки

Batch API следва прост и предвидим шаблон:

  1. Създаване на именувана партида с POST /v1/batches
  2. Добавяне на заявки, или чрез последователни повиквания, или наведнъж с JSONL файл
  3. Наблюдение на прогреса чрез броячите на партидата
  4. Извличане на резултатите, щом станат налични, или в края

Този работен поток разделя подаването от обработката: не е необходимо да поддържате връзка отворена, докато Grok работи. Повечето партиди се обработват за по-малко от 24 часа, но xAI не гарантира това: времето за изпълнение варира в зависимост от натоварването и размера на партидата.

Поддържани крайни точки

Batch API не е ограничен само до текст. Една единствена партида може да смесва заявки към:

  • /v1/responses — Responses API, със сървърни инструменти (уеб търсене, търсене в X, изпълнение на код, MCP)
  • /v1/chat/completions — Chat Completions API, остаряла крайна точка в xAI
  • /v1/images/generations и /v1/images/edits — генериране и редактиране на изображения
  • /v1/videos/generations (или /v1/videos), /v1/videos/edits и /v1/videos/extensions — генериране, редактиране и разширяване на видеоклипове

Например, можете да напишете описания на продукти и да генерирате техните визуализации в една и съща партида.

Кога да използвате Batch API

Batch API е подходящ вариант, винаги когато резултатът може да изчака:

  • Масова обработка на данни: класификация, извличане и обобщаване на хиляди документи
  • Оценки: стартиране на хиляди тестови подкани през модел
  • Данни потоци (Data pipelines): обогатяване на бази данни, модериране на backlog със съдържание и отчети, подготвени през нощта

Ако Вашият случай на употреба изисква незабавен отговор (чатбот, асистент в реално време), Batch API не е подходящ: той обслужва работни натоварвания, при които забавяне от няколко часа е приемливо.

Ключови изводи

  • Batch API обработва заявки асинхронно, повечето за по-малко от 24 часа, без гаранция
  • 20% отстъпка за всички токени за допустими текстови модели; изображенията и видеоклиповете са на стандартни цени
  • Работният поток има четири стъпки: създаване, добавяне, наблюдение, извличане
  • Текст, изображения и видеоклипове могат да съществуват в една и съща партида
  • Заявките за партиди не се броят към ограниченията на честотата, но не са подходящи за работа в реално време