Preskoči na glavni sadržaj
Hrvatski— Odaberite jezik
Izbornik

Dovršavanja chata i odgovori u serijama

Lekcija 8 od 12 Ažurirano 3. studenoga 2026. Programer
Na ovoj stranici
  1. Dvije tekstualne krajnje točke u serijskom načinu rada
  2. Odgovori u seriji
  3. Dovršavanja chata u seriji
  4. Razlike u serijskoj obradi
  5. Uobičajeni napredni parametri
  6. Miješanje dviju krajnjih točaka
  7. Ključne točke

Ažurirano 3. studenoga 2026. Na temelju najboljih praksi xAI-a: preporučuje se temperature na 0,7 i top_p na 0,95, umjesto niske temperature. Izvor: Najbolje prakse.

Ažurirano 2. studenoga 2026. Prema dokumentaciji xAI-a: popust za serijsku obradu iznosi 20 % na kvalificirane tekstualne modele (ne 50 %), primjeri slijede REST API i službeni xai-sdk (client.batch.*; xAI Batch API ne koristi OpenAI format, OpenAI SDK se ne primjenjuje), a Responses API ima prednost nad Chat Completions, koji je zastarjela krajnja točka kod xAI-a. Izvori: Batch API · REST referenca · Cjenik za serije.

Dvije tekstualne krajnje točke u serijskom načinu rada

Krajnje točke /v1/responses i /v1/chat/completions obrađuju većinu tekstualnih serija. Na kvalificiranim modelima obje imaju pravo na popust od 20 %. No xAI ih ne rangira jednako: Responses je preporučeni API, dok je Chat Completions zastarjela krajnja točka koja se održava radi postojećeg koda. Ova lekcija detaljno opisuje njihove specifičnosti u kontekstu serijske obrade.

Odgovori u seriji

U serijskom načinu rada, Responses API prihvaća iste parametre kao i u sinkronom načinu; mijenja se samo JSONL omotnica:

{"custom_id": "sum-1", "method": "POST", "url": "/v1/responses", "body": {"model": "grok-4.3", "instructions": "You are a summarization expert.", "input": "Summarize this financial report in five key points: ...", "temperature": 0.3, "max_output_tokens": 500}}

Omogućuje pristup Grokovim poslužiteljskim alatima—pretraživanje weba, pretraživanje X-a, izvršavanje koda, MCP—koji se izvršavaju tijekom serijske obrade:

{"custom_id": "research-1", "method": "POST", "url": "/v1/responses", "body": {"model": "grok-4.3", "input": [{"role": "user", "content": "What are the latest trends in generative AI?"}], "tools": [{"type": "web_search"}]}}

Tipični slučajevi uporabe

  • Klasifikacija teksta (sentiment, kategorija, hitnost)
  • Strukturirano izvlačenje informacija (entiteti, datumi, iznosi)
  • Sažeci, parafraziranje i prijevodi u velikom opsegu
  • Obogaćivanje podataka putem pretraživanja weba

Dovršavanja chata u seriji

Chat Completions i dalje je prihvaćen, sa svojim formatom messages:

{"custom_id": "sum-2", "method": "POST", "url": "/v1/chat/completions", "body": {"model": "grok-4.3", "messages": [{"role": "system", "content": "You are a summarization expert."}, {"role": "user", "content": "Summarize this financial report in five key points: ..."}], "temperature": 0.3, "max_completion_tokens": 500}}

Ograničenje duljine naziva se max_completion_tokens; stari max_tokens je zastario. Rezerviraj ovu krajnju točku za zahtjeve iz koda koji je već napisan za nju: nove značajke prvo stižu na Responses.

Razlike u serijskoj obradi

ZnačajkaResponsesChat Completions
Status kod xAI-aPreporučenoZastarjelo
Format unosainput (tekst ili popis poruka), instructionsmessages
Poslužiteljski alatiDa (web, X, kod, MCP)Nedokumentirano
Pozivanje funkcijaDaDa
Strukturirani izlazitext.formatresponse_format
Ograničenje izlazamax_output_tokensmax_completion_tokens
Popust za serije (kvalificirani modeli)20 %20 %

Uobičajeni napredni parametri

temperature se kreće od 0 do 2 kod xAI-a, pri čemu se vrijednosti iznad 1 uzorkuju kao 1. Međutim, najbolje prakse xAI-a preporučuju postavljanje na 0,7, s top_p na 0,95, i veliko odstupanje od toga nije poželjno: dosljednost serije prvenstveno proizlazi iz preciznih uputa i strukturiranih izlaza.

Ograničenje izlaza (max_output_tokens ili max_completion_tokens) mora biti eksplicitno postavljeno: bez njega, zahtjev može proizvesti vrlo dug odgovor i nepotrebno trošiti tokene. Primjenjuje se samo na vidljivi tekst, a ne na tokene razmišljanja.

Strukturirani izlazi nameću JSON shemu odgovoru, čineći rezultate programski upotrebljivima bez krhkog parsiranja. Kod Responsesa, shema ide u text.format:

{"custom_id": "classify-1", "method": "POST", "url": "/v1/responses", "body": {"model": "grok-4.3", "input": "Classify this comment: « Delivery fast, product as described. »", "text": {"format": {"type": "json_schema", "name": "classification", "schema": {"type": "object", "properties": {"sentiment": {"type": "string", "enum": ["positive", "neutral", "negative"]}}, "required": ["sentiment"], "additionalProperties": false}, "strict": true}}}}

Kod Chat Completionsa, ekvivalent je response_format, tipa json_schema (ili json_object za valjani JSON bez nametnute sheme).

Miješanje dviju krajnjih točaka

Možeš kombinirati Responses i Chat Completions u istoj seriji, pri čemu svaki redak označava svoju krajnju točku u polju url:

{"custom_id": "simple-1", "method": "POST", "url": "/v1/chat/completions", "body": {"model": "grok-4.3", "messages": [{"role": "user", "content": "Summarize in one sentence: ..."}]}}
{"custom_id": "search-1", "method": "POST", "url": "/v1/responses", "body": {"model": "grok-4.3", "input": "AI news this week", "tools": [{"type": "web_search"}]}}

Ova fleksibilnost omogućuje suživot starih zahtjeva za Chat Completions i novih zahtjeva za Responses tijekom migracije.

Ključne točke

  • Responses je preporučena krajnja točka, Chat Completions je zastarjela; obje imaju pravo na popust od 20 % na kvalificirane modele
  • Responses je nužan za poslužiteljske alate (web, X, kod, MCP)
  • Postavi temperature na 0,7 i top_p na 0,95, kako xAI preporučuje, te odgovarajuće ograničenje izlaza
  • Strukturirani izlazi idu kroz text.format (Responses) ili response_format (Chat Completions)
  • Obje krajnje točke mogu suživotjeti u istoj seriji