Salt la conținutul principal
Română— Alege o limbă
Meniu

Conceptul API-ului Batch

Lecția 1 din 12 Actualizată 2 noiembrie 2026 Dezvoltator
Pe această pagină
  1. Procesare asincronă în masă
  2. O reducere de 20% la modelele eligibile
  3. Flux de lucru în patru pași
  4. Puncte finale suportate
  5. Când să utilizați API-ul Batch
  6. Puncte cheie

Actualizat la 2 noiembrie 2026, pe baza documentației xAI: reducerea pentru loturi este de 20% la modelele de text eligibile (nu 50%), exemplele respectă API-ul REST și SDK-ul oficial xai-sdk (client.batch.*; API-ul Batch al xAI nu folosește formatul OpenAI, deci SDK-ul OpenAI nu se aplică), iar API-ul Responses precede Chat Completions, un punct final moștenit la xAI. Surse: Batch API · Referință REST · Prețuri Batch.

Procesare asincronă în masă

API-ul Batch de la xAI vă permite să trimiteți mii de cereri într-o singură operațiune, recuperând apoi rezultatele odată ce procesarea s-a încheiat. Spre deosebire de apelurile sincronice, unde așteptați fiecare răspuns, modul batch funcționează asincron: trimiteți un lot, continuați să lucrați și reveniți mai târziu pentru rezultate.

Această abordare răspunde unei nevoi reale. Când trebuie să rezumați 10.000 de articole, să clasificați 50.000 de tichete de suport sau să scrieți descrieri de catalog, trimiterea cererilor una câte una ar fi lentă, costisitoare și v-ar bloca din cauza limitelor de rată (rate limits). Cererile batch nu se iau în calcul pentru aceste limite.

O reducere de 20% la modelele eligibile

Avantajul economic este real, dar mai modest decât sugerează unele surse. xAI aplică o reducere de 20% la cererile batch pentru modelele sale de text eligibile — la data de 2 noiembrie 2026: grok-4.7, grok-4.6, grok-4.5, grok-4.3 și cele trei variante grok-4.20-0309 — pentru toate tipurile de tokeni: input, output, cache și raționament. Modelele care nu figurează pe această listă nu beneficiază de nicio reducere, chiar dacă acceptă procesarea batch.

Generarea de imagini și video rulează în mod batch, dar la prețurile standard. Nu fiecare model acceptă batch: pagina fiecărui model specifică dacă este compatibil, iar o cerere către un model neeligibil va fi respinsă cu mesajul not supported for batch processing.

-20%
Tokeni pentru modelele eligibile
24h
Timp de execuție tipic, negarantat
50K
Cereri per fișier
200 MB
Dimensiune maximă JSONL

Flux de lucru în patru pași

API-ul Batch urmează un model simplu și predictibil:

  1. Creați un lot denumit cu POST /v1/batches
  2. Adăugați cereri, fie prin apeluri succesive, fie toate odată printr-un fișier JSONL
  3. Monitorizați progresul folosind contoarele lotului
  4. Recuperați rezultatele pe măsură ce devin disponibile sau la final

Acest flux de lucru decuplează submiterea de procesare: nu trebuie să mențineți o conexiune deschisă în timp ce Grok lucrează. Majoritatea loturilor sunt procesate în sub 24 de ore, dar xAI nu garantează acest lucru: timpul de execuție variază în funcție de încărcare și dimensiunea lotului.

Puncte finale suportate

API-ul Batch nu se limitează la text. Un singur lot poate combina cereri către:

  • /v1/responses — API-ul Responses, cu instrumente lato-server (căutare web, căutare X, executare cod, MCP)
  • /v1/chat/completions — API-ul Chat Completions, un punct final moștenit la xAI
  • /v1/images/generations și /v1/images/edits — generare și editare de imagini
  • /v1/videos/generations (sau /v1/videos), /v1/videos/edits și /v1/videos/extensions — generare, editare și extindere video

De exemplu, puteți scrie descrieri de produse și genera vizualurile acestora în același lot.

Când să utilizați API-ul Batch

API-ul Batch este potrivit ori de câte ori rezultatul poate aștepta:

  • Procesarea în masă a datelor: clasificare, extragere și rezumare a mii de documente
  • Evaluări: rularea a mii de prompturi de test printr-un model
  • Fluxuri de date (pipelines): îmbogățirea bazelor de date, moderarea unui backlog de conținut și rapoarte pregătite peste noapte

Dacă cazul dumneavoastră de utilizare necesită un răspuns imediat (chatbot, asistent în timp real), API-ul Batch nu este potrivit: acesta servește sarcini unde o întârziere de câteva ore este acceptabilă.

Puncte cheie

  • API-ul Batch procesează cererile asincron, majoritatea în sub 24 de ore, fără garanție
  • Reducere de 20% la toți tokenii pentru modelele de text eligibile; imagini și video la preț standard
  • Fluxul de lucru are patru pași: creare, adăugare, monitorizare, recuperare
  • Textul, imaginile și video-urile pot coexista în același lot
  • Cererile batch nu se iau în calcul pentru limitele de rată, dar nu sunt potrivite pentru timp real