JSONL-format og upload via Files API
På denne side
Opdateret 2. november 2026 baseret på xAI-dokumentation: batch-rabatten er 20 % på berettigede tekstmodeller (ikke 50 %), eksemplerne følger REST API og det officielle
xai-sdk(client.batch.*; xAI’s Batch API bruger ikke OpenAI-formatet, så OpenAI SDK gælder ikke), og Responses API har forrang frem for Chat Completions, som er et forældet endpoint hos xAI. Kilder: Batch API · REST-reference · Batch-prissætning.
Massebehandling med JSONL
Til store mængder data, der er klargjort på forhånd, er en JSONL-fil den enkleste løsning. Du skriver alle dine anmodninger ind i en fil, uploader den via Files API og opretter derefter batchet ud fra denne fil. En enkelt fil kan indeholde op til 50.000 anmodninger.
Struktur på JSONL-fil
En JSONL-fil (JSON Lines) indeholder ét JSON-objekt pr. linje. Hver linje repræsenterer en komplet anmodning med fire felter:
{"custom_id": "req-1", "method": "POST", "url": "/v1/responses", "body": {"model": "grok-4.3", "input": [{"role": "user", "content": "Summarize this text in one sentence: ..."}]}}
{"custom_id": "req-2", "method": "POST", "url": "/v1/responses", "body": {"model": "grok-4.3", "input": [{"role": "user", "content": "Classify this ticket: bug, feature, or question. ..."}]}}
{"custom_id": "req-3", "method": "POST", "url": "/v1/chat/completions", "body": {"model": "grok-4.3", "messages": [{"role": "user", "content": "Translate into English: ..."}]}}
custom_id: en unik identifikator inden for filen; den bliver tilbatch_request_idi resultaternemethod: altid"POST"url: mål-endpointet, et af de syv accepteredebody: anmodningsbodyen, der matcher API-referencen for det pågældende endpoint
Hver linje skal være gyldig, selvstændig JSON: ingen skillende kommaer, ingen omsluttende klammer. Endpoints kan blandes i samme fil; hver anmodning routedes uafhængigt.
Generér en JSONL-fil i Python
import json
documents = [
{"id": "doc-001", "text": "First article to summarize..."},
{"id": "doc-002", "text": "Second article to summarize..."},
# ... op til 50.000 dokumenter pr. fil
]
with open("batch_requests.jsonl", "w", encoding="utf-8") as f:
for doc in documents:
ligne = {
"custom_id": doc["id"],
"method": "POST",
"url": "/v1/responses",
"body": {
"model": "grok-4.3",
"input": [
{"role": "system", "content": "Summarize in three sentences."},
{"role": "user", "content": doc["text"]},
],
},
}
f.write(json.dumps(ligne, ensure_ascii=False) + "\n")
Upload via Files API
Du uploader filen gennem /v1/files-endpointet uden andre parametre:
curl -X POST https://api.x.ai/v1/files \
-H "Authorization: Bearer $XAI_API_KEY" \
-F file="@batch_requests.jsonl"
Med Python SDK:
from xai_sdk import Client
client = Client()
with open("batch_requests.jsonl", "rb") as f:
fichier = client.files.upload(f, filename="batch_requests.jsonl")
print(f"Uploaded file: {fichier.id}")
Opret batchet ud fra filen
Filen føjes ikke til et eksisterende batch: du angiver den ved oprettelsen med input_file_id:
curl -X POST https://api.x.ai/v1/batches \
-H "Authorization: Bearer $XAI_API_KEY" \
-H "Content-Type: application/json" \
-d '{"name": "article_summaries", "input_file_id": "file-abc123"}'
batch = client.batch.create(batch_name="article_summaries", input_file_id=fichier.id)
print(f"Batch created: {batch.batch_id}")
Filen læses derefter i baggrunden. Hvis selv én linje er ugyldig, annulleres batchet med en fejlmeddelelse. Sporing og hentning af resultater fungerer derefter præcis som for et batch indsendt via API.
Begrænsninger for JSONL-formatet
- Maksimum 50.000 anmodninger pr. fil
- Maksimum 200 MB pr. fil
- en unik
custom_idpr. linje - et batch oprettet ud fra en fil er lås: du kan ikke tilføje til det senere via API
Hvis dit batch overskrider disse grænser, skal du opdele det i flere filer og oprette ét batch pr. fil. Der er ingen grænse for antallet af batches pr. team.
Generér en JSONL-fil i JavaScript
import fs from "fs";
const documents = [
{ id: "doc-001", text: "First article..." },
{ id: "doc-002", text: "Second article..." },
];
const lines = documents.map(doc => JSON.stringify({
custom_id: doc.id,
method: "POST",
url: "/v1/responses",
body: {
model: "grok-4.3",
input: [
{ role: "user", content: `Summarize: ${doc.text}` }
]
}
}));
fs.writeFileSync("batch_requests.jsonl", lines.join("\n") + "\n");
Validering og fejlfinding
Én ugyldig linje annullerer hele batchet: valider filen, før du uploader den. Et simpelt script dækker det væsentligste:
import json
import os
ENDPOINTS = {
"/v1/responses", "/v1/chat/completions",
"/v1/images/generations", "/v1/images/edits",
"/v1/videos/generations", "/v1/videos", "/v1/videos/edits", "/v1/videos/extensions",
}
def valider_jsonl(chemin: str) -> list[str]:
erreurs, ids = [], set()
if os.path.getsize(chemin) > 200 * 1024 * 1024:
erreurs.append("file larger than 200 MB")
with open(chemin, encoding="utf-8") as f:
for i, ligne in enumerate(f, 1):
try:
obj = json.loads(ligne)
except json.JSONDecodeError as e:
erreurs.append(f"line {i}: invalid JSON ({e})")
continue
cid = obj.get("custom_id")
if not cid or cid in ids:
erreurs.append(f"line {i}: missing or duplicate custom_id")
ids.add(cid)
if obj.get("method") != "POST" or obj.get("url") not in ENDPOINTS:
erreurs.append(f"line {i}: invalid method or url")
if not isinstance(obj.get("body"), dict):
erreurs.append(f"line {i}: missing body")
if len(ids) > 50_000:
erreurs.append("more than 50,000 requests")
return erreurs
print(valider_jsonl("batch_requests.jsonl") or "File is valid")
Vigtige pointer
- JSONL-formatet indeholder ét JSON-objekt pr. linje:
custom_id,method,url,body - Du uploader filen via
/v1/filesog angiver den derefter ved oprettelse af batchet (input_file_id) - Maksimum 50.000 anmodninger og 200 MB pr. fil; derudover ét batch pr. fil
- Et batch oprettet ud fra en fil er låst, og én ugyldig linje annullerer det fuldstændigt
- Valider filen, før du uploader den