Conceptul API-ului Batch
Pe această pagină
Actualizat la 2 noiembrie 2026, pe baza documentației xAI: reducerea pentru loturi este de 20% la modelele de text eligibile (nu 50%), exemplele respectă API-ul REST și SDK-ul oficial
xai-sdk(client.batch.*; API-ul Batch al xAI nu folosește formatul OpenAI, deci SDK-ul OpenAI nu se aplică), iar API-ul Responses precede Chat Completions, un punct final moștenit la xAI. Surse: Batch API · Referință REST · Prețuri Batch.
Procesare asincronă în masă
API-ul Batch de la xAI vă permite să trimiteți mii de cereri într-o singură operațiune, recuperând apoi rezultatele odată ce procesarea s-a încheiat. Spre deosebire de apelurile sincronice, unde așteptați fiecare răspuns, modul batch funcționează asincron: trimiteți un lot, continuați să lucrați și reveniți mai târziu pentru rezultate.
Această abordare răspunde unei nevoi reale. Când trebuie să rezumați 10.000 de articole, să clasificați 50.000 de tichete de suport sau să scrieți descrieri de catalog, trimiterea cererilor una câte una ar fi lentă, costisitoare și v-ar bloca din cauza limitelor de rată (rate limits). Cererile batch nu se iau în calcul pentru aceste limite.
O reducere de 20% la modelele eligibile
Avantajul economic este real, dar mai modest decât sugerează unele surse. xAI aplică o reducere de 20% la cererile batch pentru modelele sale de text eligibile — la data de 2 noiembrie 2026: grok-4.7, grok-4.6, grok-4.5, grok-4.3 și cele trei variante grok-4.20-0309 — pentru toate tipurile de tokeni: input, output, cache și raționament. Modelele care nu figurează pe această listă nu beneficiază de nicio reducere, chiar dacă acceptă procesarea batch.
Generarea de imagini și video rulează în mod batch, dar la prețurile standard. Nu fiecare model acceptă batch: pagina fiecărui model specifică dacă este compatibil, iar o cerere către un model neeligibil va fi respinsă cu mesajul not supported for batch processing.
Flux de lucru în patru pași
API-ul Batch urmează un model simplu și predictibil:
- Creați un lot denumit cu
POST /v1/batches - Adăugați cereri, fie prin apeluri succesive, fie toate odată printr-un fișier JSONL
- Monitorizați progresul folosind contoarele lotului
- Recuperați rezultatele pe măsură ce devin disponibile sau la final
Acest flux de lucru decuplează submiterea de procesare: nu trebuie să mențineți o conexiune deschisă în timp ce Grok lucrează. Majoritatea loturilor sunt procesate în sub 24 de ore, dar xAI nu garantează acest lucru: timpul de execuție variază în funcție de încărcare și dimensiunea lotului.
Puncte finale suportate
API-ul Batch nu se limitează la text. Un singur lot poate combina cereri către:
/v1/responses— API-ul Responses, cu instrumente lato-server (căutare web, căutare X, executare cod, MCP)/v1/chat/completions— API-ul Chat Completions, un punct final moștenit la xAI/v1/images/generationsși/v1/images/edits— generare și editare de imagini/v1/videos/generations(sau/v1/videos),/v1/videos/editsși/v1/videos/extensions— generare, editare și extindere video
De exemplu, puteți scrie descrieri de produse și genera vizualurile acestora în același lot.
Când să utilizați API-ul Batch
API-ul Batch este potrivit ori de câte ori rezultatul poate aștepta:
- Procesarea în masă a datelor: clasificare, extragere și rezumare a mii de documente
- Evaluări: rularea a mii de prompturi de test printr-un model
- Fluxuri de date (pipelines): îmbogățirea bazelor de date, moderarea unui backlog de conținut și rapoarte pregătite peste noapte
Dacă cazul dumneavoastră de utilizare necesită un răspuns imediat (chatbot, asistent în timp real), API-ul Batch nu este potrivit: acesta servește sarcini unde o întârziere de câteva ore este acceptabilă.
Puncte cheie
- API-ul Batch procesează cererile asincron, majoritatea în sub 24 de ore, fără garanție
- Reducere de 20% la toți tokenii pentru modelele de text eligibile; imagini și video la preț standard
- Fluxul de lucru are patru pași: creare, adăugare, monitorizare, recuperare
- Textul, imaginile și video-urile pot coexista în același lot
- Cererile batch nu se iau în calcul pentru limitele de rată, dar nu sunt potrivite pentru timp real