Pāriet uz galveno saturu
Latviešu— Izvēlēties valodu
Izvēlne

Pievienot pieprasījumus JSON formātā

Nodarbība 5 no 12 Atjaunota 2026. gada 2. novembris Programmētājs
Šajā lapā
  1. Pievienošana, izmantojot API
  2. Pieprasījuma struktūra
  3. cURL pieprasījums
  4. Pievienošana, izmantojot Python SDK
  5. Ierobežojumi pievienošanas ātrumam
  6. Kad izmantot pievienošanu caur API
  7. Pieprasījumu validācija
  8. Galvenās atziņas

Atjaunināts 2026. gada 2. novembrī, pamatojoties uz xAI dokumentāciju: atlaide par partijas apstrādi ir 20 % atbilstošajiem teksta modeļiem (nevis 50 %), piemēri atbilst REST API un oficiālajam xai-sdk (client.batch.*; xAI partijas API neizmanto OpenAI formātu, tāpēc OpenAI SDK nav piemērojams), un Responses API ir prioritārs pār Chat Completions, kas xAI vidē ir novecojis galapunkts. Avoti: Batch API · REST atsauce · Partijas cenu politika.

Pievienošana, izmantojot API

Kad partija ir izveidota, tu tai pievieno pieprasījumus, izmantojot POST /v1/batches/{batch_id}/requests. Katrs izsaukums satur pieprasījumu sarakstu, un tu vari izsaukt šo galapunktu tik reižu, cik nepieciešams, kamēr partija nav atcelta. Šī pieeja ir paredzēta partijām, kas tiek veidotas pakāpeniski.

Pieprasījuma struktūra

Izsaucuma ķermenī ir masīvs batch_requests. Katrs elements savieno identifikatoru (batch_request_id) ar pašu pieprasījumu, kas saglabāts zem atslēgas, kas atbilst tā tipam — responses priekš Responses API:

{
  "batch_requests": [
    {
      "batch_request_id": "avis-001",
      "batch_request": {
        "responses": {
          "model": "grok-4.3",
          "input": [
            {"role": "system", "content": "Classify the sentiment: positive, negative, or neutral."},
            {"role": "user", "content": "The product exceeded my expectations!"}
          ]
        }
      }
    }
  ]
}
  • batch_request_id: Tavs identifikators, kam jābūt unikālam partijas ietvaros. Šī ir atslēga, kas sasaista pieprasījumu ar tā rezultātu; ja tā trūkst, xAI ģenerē UUID.
  • batch_request: Pašs pieprasījums, kas novietots zem atbilstošā tipa atslēgas; API atsauce dokumentē arī chat_get_completion priekš Chat Completions formāta.

Attēliem un video izmanto SDK (9. nodarbība) vai JSONL failu (nākamajā nodarbībā).

cURL pieprasījums

curl -X POST "https://api.x.ai/v1/batches/$BATCH_ID/requests" \
  -H "Authorization: Bearer $XAI_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "batch_requests": [
      {
        "batch_request_id": "article-42",
        "batch_request": {
          "responses": {
            "model": "grok-4.3",
            "input": [
              {"role": "user", "content": "Classify this text: positive, neutral, or negative."}
            ]
          }
        }
      }
    ]
  }'

Pievienošana, izmantojot Python SDK

Izmantojot SDK, katrs pieprasījums tiek veidots kā standarta saruna, tam piešķirot batch_request_id; pēc tam tu tos pievieno pa daļām:

from xai_sdk import Client
from xai_sdk.chat import system, user

client = Client()

documents = [
    {"id": "doc-1", "text": "First document to analyze..."},
    {"id": "doc-2", "text": "Second document to analyze..."},
    {"id": "doc-3", "text": "Third document to analyze..."},
]

batch_id = "batch_1934e8b5-f3dc-45f1-8329-9841b0aee9d8"

requests = []
for doc in documents:
    chat = client.chat.create(model="grok-4.3", batch_request_id=doc["id"])
    chat.append(system("Summarize the document in two sentences."))
    chat.append(user(doc["text"]))
    requests.append(chat)

# Pievienot pa daļām (pa 100): viens API izsaukums katrai daļai
for i in range(0, len(requests), 100):
    client.batch.add(batch_id=batch_id, batch_requests=requests[i:i + 100])

Dokumentācija nenosaka maksimālo pieprasījumu skaitu vienā izsaukumā; mēreni daļu izmēri vienkārši ierobežo to datu apjomu, kas būtu jānosūta atkārtoti tīkla problēmu gadījumā.

Ierobežojumi pievienošanas ātrumam

Komanda var veikt līdz 1000 pievienošanas izsaukumiem ik pēc 30 sekundēm, izmantojot slīdošo logu, kas ir kopīgs visām tās partijām. Ierobežojums attiecas uz izsaukumiem, nevis pieprasījumiem: izmantojot 100 pieprasījumu lielas daļas, tas jau ļauj apstrādāt vairāk nekā 3000 pieprasījumu sekundē. Divi citi ierobežojumi ir nozīmīgāki:

  • Maksimālais izmērs 25 MB vienam atsevišķam pieprasījumam, kas galvenokārt attiecas uz attēliem, kas kodēti base64 formātā.
  • Pārsniedzot 100 000 pieprasījumu slieksni vienā partijā, xAI var palēnināt apstrādi, lai saglabātu servisa stabilitāti.

Kad izmantot pievienošanu caur API

Pievienošana caur API ir piemērota, ja elastīgums ir svarīgāks par sākotnējo sagatavošanu. Tā kļūst par dabisko izvēli, kad partija tiek veidota pakāpeniski: pieprasījumi, kas ierodas no rindas, tiek pievienoti to saņemšanas brīdī, turpretī JSONL fails prasītu zināt visu iepriekš un aizvērtu partiju. Tas ir arī pareizais ceļš prototipēšanai, lai pārbaudītu pilnu darbplūsmu ar pieciem pieprasījumiem pirms mērogošanas, kā arī neviendabīgu partiju veidošanai.

Pieprasījumu validācija

Pārbaudi katra pievienošanas izsaukuma statusa kodu: kļūda šajā posmā nozīmē, ka daļa netika saglabāta, un tā ir jānosūta atkārtoti. Pieprasījums var neizdoties arī vēlāk, apstrādes laikā; tad tas parādās rezultātos kopā ar kļūdas ziņojumu. Modelis, kas nepieņem partijas apstrādi, tiks noraidīts ar ziņojumu not supported for batch processing: pirms lielas partijas uzsākšanas pārbaudi modeļa atbilstību tā lapā.

Galvenās atziņas

  • Pievienošana notiek caur POST /v1/batches/{id}/requests, izmantojot batch_requests sarakstu.
  • Katrs pieprasījums satur unikālu batch_request_id un savu saturu zem atbilstošā tipa atslēgas (responses, chat_get_completion).
  • SDK veido pieprasījumus ar client.chat.create(..., batch_request_id=...) un pievieno tos ar client.batch.add.
  • Komandas limits ir 1000 pievienošanas izsaukumi 30 sekundēs, un katrs izsaukums var saturēt daudzus pieprasījumus.
  • Atšķirībā no JSONL faila, pievienošana caur API atstāj partiju atvērtu jauniem papildinājumiem.