Spring til hovedindhold
Dansk— Vælg et sprog
Menu

JSONL-format og upload via Files API

Lektion 6 af 12 Opdateret 2. november 2026 Udvikler
På denne side
  1. Massebehandling med JSONL
  2. Struktur på JSONL-fil
  3. Generér en JSONL-fil i Python
  4. Upload via Files API
  5. Opret batchet ud fra filen
  6. Begrænsninger for JSONL-formatet
  7. Generér en JSONL-fil i JavaScript
  8. Validering og fejlfinding
  9. Vigtige pointer

Opdateret 2. november 2026 baseret på xAI-dokumentation: batch-rabatten er 20 % på berettigede tekstmodeller (ikke 50 %), eksemplerne følger REST API og det officielle xai-sdk (client.batch.*; xAI’s Batch API bruger ikke OpenAI-formatet, så OpenAI SDK gælder ikke), og Responses API har forrang frem for Chat Completions, som er et forældet endpoint hos xAI. Kilder: Batch API · REST-reference · Batch-prissætning.

Massebehandling med JSONL

Til store mængder data, der er klargjort på forhånd, er en JSONL-fil den enkleste løsning. Du skriver alle dine anmodninger ind i en fil, uploader den via Files API og opretter derefter batchet ud fra denne fil. En enkelt fil kan indeholde op til 50.000 anmodninger.

Struktur på JSONL-fil

En JSONL-fil (JSON Lines) indeholder ét JSON-objekt pr. linje. Hver linje repræsenterer en komplet anmodning med fire felter:

{"custom_id": "req-1", "method": "POST", "url": "/v1/responses", "body": {"model": "grok-4.3", "input": [{"role": "user", "content": "Summarize this text in one sentence: ..."}]}}
{"custom_id": "req-2", "method": "POST", "url": "/v1/responses", "body": {"model": "grok-4.3", "input": [{"role": "user", "content": "Classify this ticket: bug, feature, or question. ..."}]}}
{"custom_id": "req-3", "method": "POST", "url": "/v1/chat/completions", "body": {"model": "grok-4.3", "messages": [{"role": "user", "content": "Translate into English: ..."}]}}
  • custom_id: en unik identifikator inden for filen; den bliver til batch_request_id i resultaterne
  • method: altid "POST"
  • url: mål-endpointet, et af de syv accepterede
  • body: anmodningsbodyen, der matcher API-referencen for det pågældende endpoint

Hver linje skal være gyldig, selvstændig JSON: ingen skillende kommaer, ingen omsluttende klammer. Endpoints kan blandes i samme fil; hver anmodning routedes uafhængigt.

Generér en JSONL-fil i Python

import json

documents = [
    {"id": "doc-001", "text": "First article to summarize..."},
    {"id": "doc-002", "text": "Second article to summarize..."},
    # ... op til 50.000 dokumenter pr. fil
]

with open("batch_requests.jsonl", "w", encoding="utf-8") as f:
    for doc in documents:
        ligne = {
            "custom_id": doc["id"],
            "method": "POST",
            "url": "/v1/responses",
            "body": {
                "model": "grok-4.3",
                "input": [
                    {"role": "system", "content": "Summarize in three sentences."},
                    {"role": "user", "content": doc["text"]},
                ],
            },
        }
        f.write(json.dumps(ligne, ensure_ascii=False) + "\n")

Upload via Files API

Du uploader filen gennem /v1/files-endpointet uden andre parametre:

curl -X POST https://api.x.ai/v1/files \
  -H "Authorization: Bearer $XAI_API_KEY" \
  -F file="@batch_requests.jsonl"

Med Python SDK:

from xai_sdk import Client

client = Client()

with open("batch_requests.jsonl", "rb") as f:
    fichier = client.files.upload(f, filename="batch_requests.jsonl")
print(f"Uploaded file: {fichier.id}")

Opret batchet ud fra filen

Filen føjes ikke til et eksisterende batch: du angiver den ved oprettelsen med input_file_id:

curl -X POST https://api.x.ai/v1/batches \
  -H "Authorization: Bearer $XAI_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{"name": "article_summaries", "input_file_id": "file-abc123"}'
batch = client.batch.create(batch_name="article_summaries", input_file_id=fichier.id)
print(f"Batch created: {batch.batch_id}")

Filen læses derefter i baggrunden. Hvis selv én linje er ugyldig, annulleres batchet med en fejlmeddelelse. Sporing og hentning af resultater fungerer derefter præcis som for et batch indsendt via API.

Begrænsninger for JSONL-formatet

  • Maksimum 50.000 anmodninger pr. fil
  • Maksimum 200 MB pr. fil
  • en unik custom_id pr. linje
  • et batch oprettet ud fra en fil er lås: du kan ikke tilføje til det senere via API

Hvis dit batch overskrider disse grænser, skal du opdele det i flere filer og oprette ét batch pr. fil. Der er ingen grænse for antallet af batches pr. team.

Generér en JSONL-fil i JavaScript

import fs from "fs";

const documents = [
  { id: "doc-001", text: "First article..." },
  { id: "doc-002", text: "Second article..." },
];

const lines = documents.map(doc => JSON.stringify({
  custom_id: doc.id,
  method: "POST",
  url: "/v1/responses",
  body: {
    model: "grok-4.3",
    input: [
      { role: "user", content: `Summarize: ${doc.text}` }
    ]
  }
}));

fs.writeFileSync("batch_requests.jsonl", lines.join("\n") + "\n");

Validering og fejlfinding

Én ugyldig linje annullerer hele batchet: valider filen, før du uploader den. Et simpelt script dækker det væsentligste:

import json
import os

ENDPOINTS = {
    "/v1/responses", "/v1/chat/completions",
    "/v1/images/generations", "/v1/images/edits",
    "/v1/videos/generations", "/v1/videos", "/v1/videos/edits", "/v1/videos/extensions",
}

def valider_jsonl(chemin: str) -> list[str]:
    erreurs, ids = [], set()
    if os.path.getsize(chemin) > 200 * 1024 * 1024:
        erreurs.append("file larger than 200 MB")
    with open(chemin, encoding="utf-8") as f:
        for i, ligne in enumerate(f, 1):
            try:
                obj = json.loads(ligne)
            except json.JSONDecodeError as e:
                erreurs.append(f"line {i}: invalid JSON ({e})")
                continue
            cid = obj.get("custom_id")
            if not cid or cid in ids:
                erreurs.append(f"line {i}: missing or duplicate custom_id")
            ids.add(cid)
            if obj.get("method") != "POST" or obj.get("url") not in ENDPOINTS:
                erreurs.append(f"line {i}: invalid method or url")
            if not isinstance(obj.get("body"), dict):
                erreurs.append(f"line {i}: missing body")
    if len(ids) > 50_000:
        erreurs.append("more than 50,000 requests")
    return erreurs

print(valider_jsonl("batch_requests.jsonl") or "File is valid")

Vigtige pointer

  • JSONL-formatet indeholder ét JSON-objekt pr. linje: custom_id, method, url, body
  • Du uploader filen via /v1/files og angiver den derefter ved oprettelse af batchet (input_file_id)
  • Maksimum 50.000 anmodninger og 200 MB pr. fil; derudover ét batch pr. fil
  • Et batch oprettet ud fra en fil er låst, og én ugyldig linje annullerer det fuldstændigt
  • Valider filen, før du uploader den