Żid Talbiet f'JSON
F'din il-paġna
Aġġornat fit-2 ta’ Novembru, 2026 abbażi tad-dokumentazzjoni ta’ xAI: l-iskont għall-batches huwa ta’ 20% fuq mudelli tat-test eliġibbli (mhux 50%), l-eżempji jsegwu l-API REST u l-
xai-sdkuffiċjali (client.batch.*; l-API tal-Batch ta’ xAI ma tużax il-format ta’ OpenAI, u l-SDK ta’ OpenAI ma japplikax), u l-API tar-Risposti (Responses API) għandha preċedenza fuq it-Tlestija taċ-Chat (Chat Completions), li hija endpoint antikwat f’xAI. Sorsi: Batch API · Referenza REST · Prezzijiet tal-Batch.
Żieda permezz tal-API
Ladarba l-batch tinħoloq, iżżid it-talbiet magħha billi tuża POST /v1/batches/{batch_id}/requests. Kull sejħa ġġib lista ta’ talbiet, u tista’ ssejjaħ l-endpoint kemm-il darba trid sakemm il-batch ma tkunx ġiet ikkanċellata. Dan l-approċċ jaħdem għal batches mibnija b’mod inkrementali.
Struttura tat-Talba
Il-korp tas-sejħa fih array imsejjaħ batch_requests. Kull element iqabbad identifikatur (batch_request_id) mat-talba nnifisha, maħżuna taħt iċ-ċavetta għat-tip tagħha—responses għall-API tar-Risposti:
{
"batch_requests": [
{
"batch_request_id": "avis-001",
"batch_request": {
"responses": {
"model": "grok-4.3",
"input": [
{"role": "system", "content": "Classify the sentiment: positive, negative, or neutral."},
{"role": "user", "content": "The product exceeded my expectations!"}
]
}
}
}
]
}
batch_request_id: L-identifikatur tiegħek, uniku fil-batch. Din hija ċ-ċavetta li tqabbel it-talba mar-riżultat tagħha; jekk tonqos, xAI tiġġenera UUID.batch_request: It-talba, taħt iċ-ċavetta għat-tip tagħha; ir-referenza tal-API tiddokumenta wkollchat_get_completiongħall-format tat-Tlestija taċ-Chat.
Għal immaġnijiet u vidjows, uża l-SDK (lezzjoni 9) jew fajl JSONL (il-lezzjoni li jmiss).
Sejħa cURL
curl -X POST "https://api.x.ai/v1/batches/$BATCH_ID/requests" \
-H "Authorization: Bearer $XAI_API_KEY" \
-H "Content-Type: application/json" \
-d '{
"batch_requests": [
{
"batch_request_id": "article-42",
"batch_request": {
"responses": {
"model": "grok-4.3",
"input": [
{"role": "user", "content": "Classify this text: positive, neutral, or negative."}
]
}
}
}
]
}'
Żieda bl-SDK tal-Python
Bl-SDK, kull talba tinbena bħal konversazzjoni standard, tingħata batch_request_id; imbagħad iżżidhom f’biċċiet (chunks):
from xai_sdk import Client
from xai_sdk.chat import system, user
client = Client()
documents = [
{"id": "doc-1", "text": "First document to analyze..."},
{"id": "doc-2", "text": "Second document to analyze..."},
{"id": "doc-3", "text": "Third document to analyze..."},
]
batch_id = "batch_1934e8b5-f3dc-45f1-8329-9841b0aee9d8"
requests = []
for doc in documents:
chat = client.chat.create(model="grok-4.3", batch_request_id=doc["id"])
chat.append(system("Summarize the document in two sentences."))
chat.append(user(doc["text"]))
requests.append(chat)
# Żid f'biċċiet ta' 100: sejħa API waħda għal kull biċċa
for i in range(0, len(requests), 100):
client.batch.add(batch_id=batch_id, batch_requests=requests[i:i + 100])
Id-dokumentazzjoni ma tistabbilixxix numru massimu ta’ talbiet għal kull sejħa; daqsijiet moderati ta’ biċċiet sempliċiment jillimitaw x’jeħtieġ li jintbagħat mill-ġdid fil-każ ta’ inċident fin-netwerk.
Limiti tar-Rata fuq iż-Żieda
Tim jista’ jagħmel sa 1,000 sejħa ta’ żieda kull 30 sekonda, f’tieqa li tiċċaqlaq (sliding window) kondiviża bejn il-batches kollha tiegħu. Il-limitu japplika għas-sejħat, mhux għat-talbiet: b’biċċiet ta’ 100 talba, dan diġà jippermetti aktar minn 3,000 talba kull sekonda. Żewġ limiti oħra huma aktar importanti:
- 25 MB massimu għal kull talba individwali, li taffettwa l-aktar immaġnijiet kodifikati f’base64
- Wara 100,000 talba f’batch, xAI tista’ tbaxxi l-veloċità tal-ipproċessar biex tippreżerva l-istabbiltà tas-servizz
Meta Tuża ż-Żieda permezz tal-API
Iż-żieda permezz tal-API taħdem kull meta l-flessibbiltà tkun aktar importanti mill-preparazzjoni minn qabel. Issir l-għażla naturali meta l-batch tinbena b’mod inkrementali: it-talbiet li jaslu minn queue jiżdiedu hekk kif jaslu, filwaqt li fajl JSONL ikun jeħtieġ li tkun taf kollox minn qabel—u jagħlaq il-batch. Hija wkoll it-triq għall-prototipar, biex tittestja l-fluss tax-xogħol sħiħ b’ħames talbiet qabel ma tikber, u għal batches eteroġenji.
Validazzjoni tat-Talba
Iċċekkja l-kodiċi tal-istatus ta’ kull sejħa ta’ żieda: żball f’dan l-istadju jfisser li l-biċċa ma ġietx salvata, u trid tibgħatha mill-ġdid. Talba tista’ tfalli wkoll aktar tard, waqt l-ipproċessar; f’dak il-każ tidher fir-riżultati bil-messaġġ ta’ żball tagħha. Mudell li ma jaċċettax il-batch jiġi miċħud bil-messaġġ not supported for batch processing: iċċekkja l-eliġibbiltà fil-paġna tal-mudell qabel ma tniedi batch kbira.
Punti Ewlenin
- Iż-żieda ssir permezz ta’
POST /v1/batches/{id}/requests, b’listabatch_requests - Kull talba ġġib
batch_request_iduniku u l-kontenut tagħha taħt iċ-ċavetta għat-tip tagħha (responses,chat_get_completion) - L-SDK jibni t-talbiet b’
client.chat.create(..., batch_request_id=...)u jżidhom b’client.batch.add - Il-limitu huwa 1,000 sejħa ta’ żieda kull 30 sekonda għat-tim; kull sejħa tista’ ġġib ħafna talbiet
- Kuntrarjament għall-fajl JSONL, iż-żieda permezz tal-API tħalli l-batch miftuħa għal żidiet ġodda