Chat Completions ja Responses eräajossa
Tällä sivulla
Päivitetty 3. marraskuuta 2026. xAI:n parhaiden käytäntöjen mukaisesti:
temperature-arvoksi suositellaan 0,7 jatop_p-arvoksi 0,95 matalan lämpötilan sijaan. Lähde: Best practices.
Päivitetty 2. marraskuuta 2026. xAI:n dokumentaation mukaan: eräalennus on 20 % tukikelpoisissa tekstimalleissa (ei 50 %), esimerkit noudattavat REST API:a ja virallista
xai-sdk:ta (client.batch.*; xAI Batch API ei käytä OpenAI-muotoa, eikä OpenAI SDK sovellu siihen), ja Responses API on ensisijainen Chat Completionsiin nähden, joka on xAI:lla vanhentunut päätepiste. Lähteet: Batch API · REST Reference · Batch Pricing.
Kaksi tekstipäätepistettä erätilassa
Päätepisteet /v1/responses ja /v1/chat/completions hoitavat suurimman osan tekstieristä. Tukikelpoisissa malleissa molemmat hyötyvät 20 %:n alennuksesta. xAI ei kuitenkaan aseta niitä samaan arvoon: Responses on suositeltu API, kun taas Chat Completions on olemassa olevaa koodia varten ylläpidetty vanhentunut päätepiste. Tämä oppitunti käy läpi niiden erityispiirteet eräkontekstissa.
Responses eräajossa
Erätilassa Responses API hyväksyy samat parametrit kuin synkronisessa tilassa; ainoastaan JSONL-kotelo muuttuu:
{"custom_id": "sum-1", "method": "POST", "url": "/v1/responses", "body": {"model": "grok-4.3", "instructions": "You are a summarization expert.", "input": "Summarize this financial report in five key points: ...", "temperature": 0.3, "max_output_tokens": 500}}
Se tarjoaa pääsyn Grokin palvelinpuolen työkaluihin – verkkohaku, X-haku, koodin suoritus, MCP – jotka suoritetaan eräkäsittelyn aikana:
{"custom_id": "research-1", "method": "POST", "url": "/v1/responses", "body": {"model": "grok-4.3", "input": [{"role": "user", "content": "What are the latest trends in generative AI?"}], "tools": [{"type": "web_search"}]}}
Tyypilliset käyttötapaukset
- Tekstin luokittelu (tunne, kategoria, kiireellisyys)
- Strukturoitu tiedonpoiminta (entiteetit, päivämäärät, summat)
- Yhteenvetojen, uudelleenmuotoilujen ja käännösten tuottaminen suurissa määrin
- Datan rikastaminen verkkohaun avulla
Chat Completions eräajossa
Chat Completions hyväksytään edelleen omalla messages-muodollaan:
{"custom_id": "sum-2", "method": "POST", "url": "/v1/chat/completions", "body": {"model": "grok-4.3", "messages": [{"role": "system", "content": "You are a summarization expert."}, {"role": "user", "content": "Summarize this financial report in five key points: ..."}], "temperature": 0.3, "max_completion_tokens": 500}}
Pituusraja on nimeltään max_completion_tokens; vanha max_tokens on vanhentunut. Varaa tämä päätepiste pyynnöille, jotka on jo kirjoitettu sitä varten: uudet ominaisuudet saapuvat ensin Responsesiin.
Erot eräajossa
| Ominaisuus | Responses | Chat Completions |
|---|---|---|
| Tila xAI:lla | Suositeltu | Vanhentunut |
| Syötemuoto | input (teksti tai viestilista), instructions | messages |
| Palvelinpuolen työkalut | Kyllä (web, X, koodi, MCP) | Ei dokumentoitu |
| Funktion kutsuminen | Kyllä | Kyllä |
| Strukturoidut tulosteet | text.format | response_format |
| Tulosteraja | max_output_tokens | max_completion_tokens |
| Eräalennus (tukikelpoiset mallit) | 20 % | 20 % |
Yleiset edistyneet parametrit
temperature vaihtelee xAI:lla välillä 0–2, mutta yli 1 olevat arvot otostetaan arvolla 1. xAI:n parhaat käytännöt kuitenkin suosittelevat asettamaan sen arvoon 0,7 ja top_p:n arvoon 0,95 sekä poikkeamaan tästä vain vähän: erän johdonmukaisuus perustuu ensisijaisesti tarkkoihin ohjeisiin ja strukturoituihin tulosteisiin.
Tulosteraja (max_output_tokens tai max_completion_tokens) on asetettava eksplisiittisesti: ilman sitä pyyntö voi tuottaa hyvin pitkän vastauksen ja kuluttaa tokenneja tarpeettomasti. Se koskee vain näkyvää tekstiä, ei päättelytokeneja.
Strukturoidut tulosteet määräävät vastaukselle JSON-skeeman, mikä tekee tuloksista ohjelmallisesti käytettäviä ilman haurasta jäsennystä. Responsesissa skeema määritetään kohtaan text.format:
{"custom_id": "classify-1", "method": "POST", "url": "/v1/responses", "body": {"model": "grok-4.3", "input": "Classify this comment: « Delivery fast, product as described. »", "text": {"format": {"type": "json_schema", "name": "classification", "schema": {"type": "object", "properties": {"sentiment": {"type": "string", "enum": ["positive", "neutral", "negative"]}}, "required": ["sentiment"], "additionalProperties": false}, "strict": true}}}}
Chat Completionsissa vastaava on response_format, jonka tyyppi on json_schema (tai json_object validille JSONille ilman määrättyä skeemaa).
Kahden päätepisteen yhdistäminen
Voit yhdistää Responsesin ja Chat Completionsin samaan erään siten, että jokainen rivi määrittää oman päätepisteensä url-kentässä:
{"custom_id": "simple-1", "method": "POST", "url": "/v1/chat/completions", "body": {"model": "grok-4.3", "messages": [{"role": "user", "content": "Summarize in one sentence: ..."}]}}
{"custom_id": "search-1", "method": "POST", "url": "/v1/responses", "body": {"model": "grok-4.3", "input": "AI news this week", "tools": [{"type": "web_search"}]}}
Tämä joustavuus mahdollistaa vanhojen Chat Completions -pyyntöjen ja uusien Responses-pyyntöjen rinnakkaiselon migraation aikana.
Keskeiset asiat
- Responses on suositeltu päätepiste, Chat Completions on vanhentunut; molemmat hyötyvät 20 %:n alennuksesta tukikelpoisissa malleissa
- Responses vaaditaan palvelinpuolen työkalujen (web, X, koodi, MCP) käyttöön
- Aseta
temperaturearvoksi 0,7 jatop_parvoksi 0,95 xAI:n suosituksen mukaisesti sekä määritä sopiva tulosteraja - Strukturoidut tulosteet kulkevat kohdan
text.format(Responses) tairesponse_format(Chat Completions) kautta - Molemmat päätepisteet voivat esiintyä samassa erässä