Dovršavanja chata i odgovori u serijama
Na ovoj stranici
Ažurirano 3. studenoga 2026. Na temelju najboljih praksi xAI-a: preporučuje se
temperaturena 0,7 itop_pna 0,95, umjesto niske temperature. Izvor: Najbolje prakse.
Ažurirano 2. studenoga 2026. Prema dokumentaciji xAI-a: popust za serijsku obradu iznosi 20 % na kvalificirane tekstualne modele (ne 50 %), primjeri slijede REST API i službeni
xai-sdk(client.batch.*; xAI Batch API ne koristi OpenAI format, OpenAI SDK se ne primjenjuje), a Responses API ima prednost nad Chat Completions, koji je zastarjela krajnja točka kod xAI-a. Izvori: Batch API · REST referenca · Cjenik za serije.
Dvije tekstualne krajnje točke u serijskom načinu rada
Krajnje točke /v1/responses i /v1/chat/completions obrađuju većinu tekstualnih serija. Na kvalificiranim modelima obje imaju pravo na popust od 20 %. No xAI ih ne rangira jednako: Responses je preporučeni API, dok je Chat Completions zastarjela krajnja točka koja se održava radi postojećeg koda. Ova lekcija detaljno opisuje njihove specifičnosti u kontekstu serijske obrade.
Odgovori u seriji
U serijskom načinu rada, Responses API prihvaća iste parametre kao i u sinkronom načinu; mijenja se samo JSONL omotnica:
{"custom_id": "sum-1", "method": "POST", "url": "/v1/responses", "body": {"model": "grok-4.3", "instructions": "You are a summarization expert.", "input": "Summarize this financial report in five key points: ...", "temperature": 0.3, "max_output_tokens": 500}}
Omogućuje pristup Grokovim poslužiteljskim alatima—pretraživanje weba, pretraživanje X-a, izvršavanje koda, MCP—koji se izvršavaju tijekom serijske obrade:
{"custom_id": "research-1", "method": "POST", "url": "/v1/responses", "body": {"model": "grok-4.3", "input": [{"role": "user", "content": "What are the latest trends in generative AI?"}], "tools": [{"type": "web_search"}]}}
Tipični slučajevi uporabe
- Klasifikacija teksta (sentiment, kategorija, hitnost)
- Strukturirano izvlačenje informacija (entiteti, datumi, iznosi)
- Sažeci, parafraziranje i prijevodi u velikom opsegu
- Obogaćivanje podataka putem pretraživanja weba
Dovršavanja chata u seriji
Chat Completions i dalje je prihvaćen, sa svojim formatom messages:
{"custom_id": "sum-2", "method": "POST", "url": "/v1/chat/completions", "body": {"model": "grok-4.3", "messages": [{"role": "system", "content": "You are a summarization expert."}, {"role": "user", "content": "Summarize this financial report in five key points: ..."}], "temperature": 0.3, "max_completion_tokens": 500}}
Ograničenje duljine naziva se max_completion_tokens; stari max_tokens je zastario. Rezerviraj ovu krajnju točku za zahtjeve iz koda koji je već napisan za nju: nove značajke prvo stižu na Responses.
Razlike u serijskoj obradi
| Značajka | Responses | Chat Completions |
|---|---|---|
| Status kod xAI-a | Preporučeno | Zastarjelo |
| Format unosa | input (tekst ili popis poruka), instructions | messages |
| Poslužiteljski alati | Da (web, X, kod, MCP) | Nedokumentirano |
| Pozivanje funkcija | Da | Da |
| Strukturirani izlazi | text.format | response_format |
| Ograničenje izlaza | max_output_tokens | max_completion_tokens |
| Popust za serije (kvalificirani modeli) | 20 % | 20 % |
Uobičajeni napredni parametri
temperature se kreće od 0 do 2 kod xAI-a, pri čemu se vrijednosti iznad 1 uzorkuju kao 1. Međutim, najbolje prakse xAI-a preporučuju postavljanje na 0,7, s top_p na 0,95, i veliko odstupanje od toga nije poželjno: dosljednost serije prvenstveno proizlazi iz preciznih uputa i strukturiranih izlaza.
Ograničenje izlaza (max_output_tokens ili max_completion_tokens) mora biti eksplicitno postavljeno: bez njega, zahtjev može proizvesti vrlo dug odgovor i nepotrebno trošiti tokene. Primjenjuje se samo na vidljivi tekst, a ne na tokene razmišljanja.
Strukturirani izlazi nameću JSON shemu odgovoru, čineći rezultate programski upotrebljivima bez krhkog parsiranja. Kod Responsesa, shema ide u text.format:
{"custom_id": "classify-1", "method": "POST", "url": "/v1/responses", "body": {"model": "grok-4.3", "input": "Classify this comment: « Delivery fast, product as described. »", "text": {"format": {"type": "json_schema", "name": "classification", "schema": {"type": "object", "properties": {"sentiment": {"type": "string", "enum": ["positive", "neutral", "negative"]}}, "required": ["sentiment"], "additionalProperties": false}, "strict": true}}}}
Kod Chat Completionsa, ekvivalent je response_format, tipa json_schema (ili json_object za valjani JSON bez nametnute sheme).
Miješanje dviju krajnjih točaka
Možeš kombinirati Responses i Chat Completions u istoj seriji, pri čemu svaki redak označava svoju krajnju točku u polju url:
{"custom_id": "simple-1", "method": "POST", "url": "/v1/chat/completions", "body": {"model": "grok-4.3", "messages": [{"role": "user", "content": "Summarize in one sentence: ..."}]}}
{"custom_id": "search-1", "method": "POST", "url": "/v1/responses", "body": {"model": "grok-4.3", "input": "AI news this week", "tools": [{"type": "web_search"}]}}
Ova fleksibilnost omogućuje suživot starih zahtjeva za Chat Completions i novih zahtjeva za Responses tijekom migracije.
Ključne točke
- Responses je preporučena krajnja točka, Chat Completions je zastarjela; obje imaju pravo na popust od 20 % na kvalificirane modele
- Responses je nužan za poslužiteljske alate (web, X, kod, MCP)
- Postavi
temperaturena 0,7 itop_pna 0,95, kako xAI preporučuje, te odgovarajuće ograničenje izlaza - Strukturirani izlazi idu kroz
text.format(Responses) iliresponse_format(Chat Completions) - Obje krajnje točke mogu suživotjeti u istoj seriji