Pāriet uz galveno saturu
Latviešu— Izvēlēties valodu
Izvēlne

Batch API koncepts

Nodarbība 1 no 12 Atjaunota 2026. gada 2. novembris Programmētājs
Šajā lapā
  1. Asinhrona masveida apstrāde
  2. 20% atlaide atbilstošajiem modeļiem
  3. Četru soļu darbplūsma
  4. Atbalstītie galapunkti
  5. Kad izmantot Batch API
  6. Galvenās atziņas

Atjaunināts 2026. gada 2. novembrī, pamatojoties uz xAI dokumentāciju: atlaide par partijas apstrādi ir 20% atbilstošajiem teksta modeļiem (nevis 50%), piemēri atbilst REST API un oficiālajam xai-sdk (client.batch.*; xAI Batch API neizmanto OpenAI formātu, tāpēc OpenAI SDK nav piemērojams), un Responses API ir prioritārs salīdzinājumā ar Chat Completions, kas xAI vidē ir novecojis galapunkts. Avoti: Batch API · REST atsauce · Partijas apstrādes cenas.

Asinhrona masveida apstrāde

xAI Batch API ļauj vienā operācijā nosūtīt tūkstošiem pieprasījumu un iegūt rezultātus, kad apstrāde ir pabeigta. Atšķirībā no sinhroniem izsaukumiem, kur jāgaida katra atbilde, partijas režīms darbojas asinhroni: tu iesniedz partiju, turpini darbu un vēlāk atgriezies pēc rezultātiem.

Šī pieeja risina reālu vajadzību. Ja tev jāapkopo 10 000 rakstu, jāklasificē 50 000 atbalsta biļešu vai jāuzraksta kataloga apraksti, pieprasījumu sūtīšana pa vienam būtu lēna, dārga un ātri sasniegtu ātruma ierobežojumus. Partijas pieprasījumi netiek ieskaitīti šajos ierobežojumos.

20% atlaide atbilstošajiem modeļiem

Ekonomiskais ieguvums ir reāls, taču skromāks, nekā daži avoti apgalvo. xAI piemēro 20% atlaidi partijas pieprasījumiem saviem atbilstošajiem teksta modeļiem — pēc 2026. gada 2. novembra datiem: grok-4.7, grok-4.6, grok-4.5, grok-4.3 un trīs grok-4.20-0309 varianti — visiem tokena veidiem: ievade, izvade, kešatmiņa un spriešana. Modeļi, kas nav šajā sarakstā, nesaņem atlaidi, pat ja tie pieņem partijas apstrādi.

Attēlu un video ģenerēšana darbojas partijas režīmā, bet par standarta cenām. Ne katrs modelis atbalsta partijas apstrādi: katra modeļa lapā norādīts, vai tas to dara, un pieprasījums neatbilstošam modelim tiks noraidīts ar ziņojumu not supported for batch processing.

-20%
Tokeni atbilstošajiem modeļiem
24 h
Tipisks izpildes laiks, nav garantēts
50K
Pieprasījumi vienā failā
200 MB
Maksimālais JSONL izmērs

Četru soļu darbplūsma

Batch API ievēro vienkāršu un paredzamu shēmu:

  1. Izveido nosauktu partiju, izmantojot POST /v1/batches
  2. Pievieno pieprasījumus, vai nu veicot secīgus izsaukumus, vai visu uzreiz ar JSONL failu
  3. Uzraugi progresu, izmantojot partijas skaitītājus
  4. Iegūsti rezultātus, tiklīdz tie ir pieejami, vai apstrādes beigās

Šī darbplūsma atdala iesniegšanu no apstrādes: tev nav jāuztur atvērts savienojums, kamēr Grok strādā. Lielākā daļa partiju tiek apstrādātas mazāk nekā 24 stundu laikā, taču xAI to negarantē: izpildes laiks mainās atkarībā no slodzes un partijas lieluma.

Atbalstītie galapunkti

Batch API nav ierobežots tikai ar tekstu. Vienā partijā var apvienot pieprasījumus uz:

  • /v1/responses — Responses API ar servera puses rīkiem (tīmekļa meklēšana, X meklēšana, koda izpilde, MCP)
  • /v1/chat/completions — Chat Completions API, kas xAI vidē ir novecojis galapunkts
  • /v1/images/generations un /v1/images/edits — attēlu ģenerēšana un rediģēšana
  • /v1/videos/generations (vai /v1/videos), /v1/videos/edits un /v1/videos/extensions — video ģenerēšana, rediģēšana un pagarināšana

Piemēram, tu vari vienā partijā uzrakstīt produktu aprakstus un ģenerēt tiem atbilstošus vizuālos materiālus.

Kad izmantot Batch API

Batch API ir piemērots visos gadījumos, kad rezultātu var pagaidīt:

  • Masveida datu apstrāde: tūkstošiem dokumentu klasificēšana, informācijas ieguve un apkopošana
  • Novērtējumi: tūkstošiem testa uzdevumu izpilde, izmantojot modeli
  • Datu cauruļvadi: datubāzu bagātināšana, satura uzkrājuma moderēšana un ziņojumu sagatavošana nakts laikā

Ja tavs lietojuma gadījums prasa tūlītēju atbildi (tērzēšanas bots, reāllaika asistents), Batch API nav piemērots: tas paredzēts slodzēm, kurās vairāku stundu aizkave ir pieņemama.

Galvenās atziņas

  • Batch API apstrādā pieprasījumus asinhroni, lielākoties mazāk nekā 24 stundās, bez garantijas
  • 20% atlaide visiem tokeniem atbilstošajiem teksta modeļiem; attēli un video — par standarta cenām
  • Darbplūsma sastāv no četriem soļiem: izveide, pievienošana, uzraudzība, iegūšana
  • Teksts, attēli un video var pastāvēt vienā partijā
  • Partijas pieprasījumi netiek ieskaitīti ātruma ierobežojumos, taču tie nav piemēroti reāllaika darbībām