Aqbeż għall-kontenut ewlieni
Malti— Agħżel lingwa
Menu

Żid Talbiet f'JSON

Lezzjoni 5 / 12 Aġġornat 2 ta’ Novembru 2026 Zviluppatur
F'din il-paġna
  1. Żieda permezz tal-API
  2. Struttura tat-Talba
  3. Sejħa cURL
  4. Żieda bl-SDK tal-Python
  5. Limiti tar-Rata fuq iż-Żieda
  6. Meta Tuża ż-Żieda permezz tal-API
  7. Validazzjoni tat-Talba
  8. Punti Ewlenin

Aġġornat fit-2 ta’ Novembru, 2026 abbażi tad-dokumentazzjoni ta’ xAI: l-iskont għall-batches huwa ta’ 20% fuq mudelli tat-test eliġibbli (mhux 50%), l-eżempji jsegwu l-API REST u l-xai-sdk uffiċjali (client.batch.*; l-API tal-Batch ta’ xAI ma tużax il-format ta’ OpenAI, u l-SDK ta’ OpenAI ma japplikax), u l-API tar-Risposti (Responses API) għandha preċedenza fuq it-Tlestija taċ-Chat (Chat Completions), li hija endpoint antikwat f’xAI. Sorsi: Batch API · Referenza REST · Prezzijiet tal-Batch.

Żieda permezz tal-API

Ladarba l-batch tinħoloq, iżżid it-talbiet magħha billi tuża POST /v1/batches/{batch_id}/requests. Kull sejħa ġġib lista ta’ talbiet, u tista’ ssejjaħ l-endpoint kemm-il darba trid sakemm il-batch ma tkunx ġiet ikkanċellata. Dan l-approċċ jaħdem għal batches mibnija b’mod inkrementali.

Struttura tat-Talba

Il-korp tas-sejħa fih array imsejjaħ batch_requests. Kull element iqabbad identifikatur (batch_request_id) mat-talba nnifisha, maħżuna taħt iċ-ċavetta għat-tip tagħha—responses għall-API tar-Risposti:

{
  "batch_requests": [
    {
      "batch_request_id": "avis-001",
      "batch_request": {
        "responses": {
          "model": "grok-4.3",
          "input": [
            {"role": "system", "content": "Classify the sentiment: positive, negative, or neutral."},
            {"role": "user", "content": "The product exceeded my expectations!"}
          ]
        }
      }
    }
  ]
}
  • batch_request_id: L-identifikatur tiegħek, uniku fil-batch. Din hija ċ-ċavetta li tqabbel it-talba mar-riżultat tagħha; jekk tonqos, xAI tiġġenera UUID.
  • batch_request: It-talba, taħt iċ-ċavetta għat-tip tagħha; ir-referenza tal-API tiddokumenta wkoll chat_get_completion għall-format tat-Tlestija taċ-Chat.

Għal immaġnijiet u vidjows, uża l-SDK (lezzjoni 9) jew fajl JSONL (il-lezzjoni li jmiss).

Sejħa cURL

curl -X POST "https://api.x.ai/v1/batches/$BATCH_ID/requests" \
  -H "Authorization: Bearer $XAI_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "batch_requests": [
      {
        "batch_request_id": "article-42",
        "batch_request": {
          "responses": {
            "model": "grok-4.3",
            "input": [
              {"role": "user", "content": "Classify this text: positive, neutral, or negative."}
            ]
          }
        }
      }
    ]
  }'

Żieda bl-SDK tal-Python

Bl-SDK, kull talba tinbena bħal konversazzjoni standard, tingħata batch_request_id; imbagħad iżżidhom f’biċċiet (chunks):

from xai_sdk import Client
from xai_sdk.chat import system, user

client = Client()

documents = [
    {"id": "doc-1", "text": "First document to analyze..."},
    {"id": "doc-2", "text": "Second document to analyze..."},
    {"id": "doc-3", "text": "Third document to analyze..."},
]

batch_id = "batch_1934e8b5-f3dc-45f1-8329-9841b0aee9d8"

requests = []
for doc in documents:
    chat = client.chat.create(model="grok-4.3", batch_request_id=doc["id"])
    chat.append(system("Summarize the document in two sentences."))
    chat.append(user(doc["text"]))
    requests.append(chat)

# Żid f'biċċiet ta' 100: sejħa API waħda għal kull biċċa
for i in range(0, len(requests), 100):
    client.batch.add(batch_id=batch_id, batch_requests=requests[i:i + 100])

Id-dokumentazzjoni ma tistabbilixxix numru massimu ta’ talbiet għal kull sejħa; daqsijiet moderati ta’ biċċiet sempliċiment jillimitaw x’jeħtieġ li jintbagħat mill-ġdid fil-każ ta’ inċident fin-netwerk.

Limiti tar-Rata fuq iż-Żieda

Tim jista’ jagħmel sa 1,000 sejħa ta’ żieda kull 30 sekonda, f’tieqa li tiċċaqlaq (sliding window) kondiviża bejn il-batches kollha tiegħu. Il-limitu japplika għas-sejħat, mhux għat-talbiet: b’biċċiet ta’ 100 talba, dan diġà jippermetti aktar minn 3,000 talba kull sekonda. Żewġ limiti oħra huma aktar importanti:

  • 25 MB massimu għal kull talba individwali, li taffettwa l-aktar immaġnijiet kodifikati f’base64
  • Wara 100,000 talba f’batch, xAI tista’ tbaxxi l-veloċità tal-ipproċessar biex tippreżerva l-istabbiltà tas-servizz

Meta Tuża ż-Żieda permezz tal-API

Iż-żieda permezz tal-API taħdem kull meta l-flessibbiltà tkun aktar importanti mill-preparazzjoni minn qabel. Issir l-għażla naturali meta l-batch tinbena b’mod inkrementali: it-talbiet li jaslu minn queue jiżdiedu hekk kif jaslu, filwaqt li fajl JSONL ikun jeħtieġ li tkun taf kollox minn qabel—u jagħlaq il-batch. Hija wkoll it-triq għall-prototipar, biex tittestja l-fluss tax-xogħol sħiħ b’ħames talbiet qabel ma tikber, u għal batches eteroġenji.

Validazzjoni tat-Talba

Iċċekkja l-kodiċi tal-istatus ta’ kull sejħa ta’ żieda: żball f’dan l-istadju jfisser li l-biċċa ma ġietx salvata, u trid tibgħatha mill-ġdid. Talba tista’ tfalli wkoll aktar tard, waqt l-ipproċessar; f’dak il-każ tidher fir-riżultati bil-messaġġ ta’ żball tagħha. Mudell li ma jaċċettax il-batch jiġi miċħud bil-messaġġ not supported for batch processing: iċċekkja l-eliġibbiltà fil-paġna tal-mudell qabel ma tniedi batch kbira.

Punti Ewlenin

  • Iż-żieda ssir permezz ta’ POST /v1/batches/{id}/requests, b’lista batch_requests
  • Kull talba ġġib batch_request_id uniku u l-kontenut tagħha taħt iċ-ċavetta għat-tip tagħha (responses, chat_get_completion)
  • L-SDK jibni t-talbiet b’client.chat.create(..., batch_request_id=...) u jżidhom b’client.batch.add
  • Il-limitu huwa 1,000 sejħa ta’ żieda kull 30 sekonda għat-tim; kull sejħa tista’ ġġib ħafna talbiet
  • Kuntrarjament għall-fajl JSONL, iż-żieda permezz tal-API tħalli l-batch miftuħa għal żidiet ġodda