Концепция на Batch API
На тази страница
Обновено на 2 ноември 2026 г. въз основа на документацията на xAI: отстъпката за партиди е 20% за допустимите текстови модели (не 50%), примерите следват REST API и официалния
xai-sdk(client.batch.*; Batch API на xAI не използва формата на OpenAI, следователно OpenAI SDK не се прилага), а Responses API има приоритет пред Chat Completions, който е остаряла крайна точка в xAI. Източници: Batch API · REST справка · Цени за партиди.
Асинхронна масова обработка
Batch API на xAI Ви позволява да изпратите хиляди заявки в една единствена операция и след това да извлечете резултатите, когато обработката приключи. За разлика от синхронните повиквания, при които чакате за всеки отговор, режимът на партида работи асинхронно: подавате партида, продължавате да работите и се връщате по-късно за резултатите.
Този подход отговаря на реална нужда. Когато трябва да обобщите 10 000 статии, да класифицирате 50 000 тикета за поддръжка или да напишете описания за каталог, изпращането на заявки една по една би било бавно, скъпо и би Ви сблъскало с ограниченията на честотата (rate limits). Заявките за партиди не се броят към тези ограничения.
Отстъпка от 20% за допустими модели
Икономическото предимство е реално, но по-скромно, отколкото някои източници предполагат. xAI прилага отстъпка от 20% за заявки за партиди за своите допустими текстови модели – към 2 ноември 2026 г.: grok-4.7, grok-4.6, grok-4.5, grok-4.3 и трите варианта на grok-4.20-0309 – за всички типове токени: входни, изходни, кеш и разсъждение. Моделите, които не са в този списък, не получават отстъпка, дори ако приемат партидна обработка.
Генерирането на изображения и видеоклипове работи в режим на партида, но на стандартни цени. Не всеки модел приема партиди: страницата на всеки модел посочва дали го прави, а заявка към недопустим модел се отхвърля със съобщението not supported for batch processing.
Работен поток в четири стъпки
Batch API следва прост и предвидим шаблон:
- Създаване на именувана партида с
POST /v1/batches - Добавяне на заявки, или чрез последователни повиквания, или наведнъж с JSONL файл
- Наблюдение на прогреса чрез броячите на партидата
- Извличане на резултатите, щом станат налични, или в края
Този работен поток разделя подаването от обработката: не е необходимо да поддържате връзка отворена, докато Grok работи. Повечето партиди се обработват за по-малко от 24 часа, но xAI не гарантира това: времето за изпълнение варира в зависимост от натоварването и размера на партидата.
Поддържани крайни точки
Batch API не е ограничен само до текст. Една единствена партида може да смесва заявки към:
/v1/responses— Responses API, със сървърни инструменти (уеб търсене, търсене в X, изпълнение на код, MCP)/v1/chat/completions— Chat Completions API, остаряла крайна точка в xAI/v1/images/generationsи/v1/images/edits— генериране и редактиране на изображения/v1/videos/generations(или/v1/videos),/v1/videos/editsи/v1/videos/extensions— генериране, редактиране и разширяване на видеоклипове
Например, можете да напишете описания на продукти и да генерирате техните визуализации в една и съща партида.
Кога да използвате Batch API
Batch API е подходящ вариант, винаги когато резултатът може да изчака:
- Масова обработка на данни: класификация, извличане и обобщаване на хиляди документи
- Оценки: стартиране на хиляди тестови подкани през модел
- Данни потоци (Data pipelines): обогатяване на бази данни, модериране на backlog със съдържание и отчети, подготвени през нощта
Ако Вашият случай на употреба изисква незабавен отговор (чатбот, асистент в реално време), Batch API не е подходящ: той обслужва работни натоварвания, при които забавяне от няколко часа е приемливо.
Ключови изводи
- Batch API обработва заявки асинхронно, повечето за по-малко от 24 часа, без гаранция
- 20% отстъпка за всички токени за допустими текстови модели; изображенията и видеоклиповете са на стандартни цени
- Работният поток има четири стъпки: създаване, добавяне, наблюдение, извличане
- Текст, изображения и видеоклипове могат да съществуват в една и съща партида
- Заявките за партиди не се броят към ограниченията на честотата, но не са подходящи за работа в реално време