Chat Completions és Responses kötegelt módban
Ezen az oldalon
Frissítve: 2026. november 3. Az xAI ajánlott gyakorlatai alapján: a
temperatureértékét 0,7-re, atop_pértékét pedig 0,95-re javasolt állítani, nem pedig alacsony hőmérsékletre. Forrás: Ajánlott gyakorlatok.
Frissítve: 2026. november 2. Az xAI dokumentációja alapján: a kötegelt kedvezmény 20% a jogosult szöveges modelleken (nem 50%), a példák a REST API-t és a hivatalos
xai-sdk-t (client.batch.*) követik (az xAI Batch API nem az OpenAI formátumot használja, az OpenAI SDK nem alkalmazható), és a Responses API elsőbbséget élvez a Chat Completions előtt, amely az xAI-nál egy örökölt végpont. Források: Batch API · REST hivatkozás · Batch árazás.
A két szöveges végpont kötegelt módban
A /v1/responses és a /v1/chat/completions végpontok kezelik a szöveges kötegek nagy részét. A jogosult modelleken mindkettő részesül a 20%-os kedvezményben. Az xAI azonban nem tekinti őket egyenrangúnak: a Responses a javasolt API, míg a Chat Completions egy meglévő kódok miatt fenntartott örökölt végpont. Ez a lecke részletezi sajátosságaikat kötegelt környezetben.
Responses kötegelt módban
Kötegelt módban a Responses API ugyanazokat a paramétereket fogadja el, mint a szinkron módban; csak a JSONL burkoló változik:
{"custom_id": "sum-1", "method": "POST", "url": "/v1/responses", "body": {"model": "grok-4.3", "instructions": "You are a summarization expert.", "input": "Summarize this financial report in five key points: ...", "temperature": 0.3, "max_output_tokens": 500}}
Hozzáférést biztosít a Grok szerveroldali eszközeihez – webes keresés, X keresés, kódvégrehajtás, MCP –, amelyek a kötegelt feldolgozás során hajtódnak végre:
{"custom_id": "research-1", "method": "POST", "url": "/v1/responses", "body": {"model": "grok-4.3", "input": [{"role": "user", "content": "What are the latest trends in generative AI?"}], "tools": [{"type": "web_search"}]}}
Tipikus használati esetek
- Szövegosztályozás (érzelemelemzés, kategória, sürgősség)
- Strukturált információk kinyerése (entitások, dátumok, összegek)
- Összefoglalók, átfogalmazások és fordítások nagy léptékben
- Adatgazdagítás webes keresés révén
Chat Completions kötegelt módban
A Chat Completions továbbra is elfogadott a saját messages formátumával:
{"custom_id": "sum-2", "method": "POST", "url": "/v1/chat/completions", "body": {"model": "grok-4.3", "messages": [{"role": "system", "content": "You are a summarization expert."}, {"role": "user", "content": "Summarize this financial report in five key points: ..."}], "temperature": 0.3, "max_completion_tokens": 500}}
A hosszkorlát neve max_completion_tokens; a régi max_tokens elavult. Ezt a végpontot csak olyan kérésekhez tartsd fenn, amelyeket már erre írtak meg: az új funkciók először a Responses-on jelennek meg.
Különbségek kötegelt módban
| Funkció | Responses | Chat Completions |
|---|---|---|
| Státusz az xAI-nál | Javasolt | Örökölt |
| Bemeneti formátum | input (szöveg vagy üzenetlista), instructions | messages |
| Szerveroldali eszközök | Igen (web, X, kód, MCP) | Nem dokumentált |
| Függvényhívás | Igen | Igen |
| Strukturált kimenetek | text.format | response_format |
| Kimeneti korlát | max_output_tokens | max_completion_tokens |
| Kötegelt kedvezmény (jogosult modellek) | 20% | 20% |
Gyakori haladó paraméterek
A temperature az xAI-nál 0 és 2 között mozog, az 1 feletti értékeket 1-en mintavételezik. Az xAI ajánlott gyakorlatai azonban azt javasolják, hogy állítsd 0,7-re, a top_p értékét pedig 0,95-re, és ne térj el jelentősen ettől: a kötegelt konzisztencia elsősorban a pontos utasításokból és a strukturált kimenetekből fakad.
A kimeneti korlátot (max_output_tokens vagy max_completion_tokens) explicit módon be kell állítani: enélkül egy kérés nagyon hosszú választ generálhat, és feleslegesen fogyaszt tokeneket. Ez csak a látható szövegre vonatkozik, a gondolkodási tokenekre nem.
A strukturált kimenetek JSON sémát kényszerítenek ki a válaszra, így az eredmények programozottan felhasználhatók válogatás nélküli elemzés nélkül. A Responses esetén a séma a text.format mezőbe kerül:
{"custom_id": "classify-1", "method": "POST", "url": "/v1/responses", "body": {"model": "grok-4.3", "input": "Classify this comment: « Delivery fast, product as described. »", "text": {"format": {"type": "json_schema", "name": "classification", "schema": {"type": "object", "properties": {"sentiment": {"type": "string", "enum": ["positive", "neutral", "negative"]}}, "required": ["sentiment"], "additionalProperties": false}, "strict": true}}}}
Chat Completions esetén a megfelelő mező a response_format, amelynek típusa json_schema (vagy json_object érvényes JSON-hoz, előírt séma nélkül).
A két végpont vegyes használata
Kombinálhatod a Responses és a Chat Completions végpontokat ugyanabban a kötegben, ahol minden sor a url mezőben jelöli ki a saját végpontját:
{"custom_id": "simple-1", "method": "POST", "url": "/v1/chat/completions", "body": {"model": "grok-4.3", "messages": [{"role": "user", "content": "Summarize in one sentence: ..."}]}}
{"custom_id": "search-1", "method": "POST", "url": "/v1/responses", "body": {"model": "grok-4.3", "input": "AI news this week", "tools": [{"type": "web_search"}]}}
Ez a rugalmasság lehetővé teszi, hogy a régi Chat Completions kérések és az új Responses kérések együtt létezzenek egy migráció során.
Főbb megállapítások
- A Responses a javasolt végpont, a Chat Completions egy örökölt végpont; mindkettő részesül a 20%-os kedvezményben a jogosult modelleken
- A Responses szükséges a szerveroldali eszközökhöz (web, X, kód, MCP)
- Állítsd a
temperatureértékét 0,7-re, atop_pértékét 0,95-re az xAI ajánlása szerint, és adj meg egy megfelelő kimeneti korlátot - A strukturált kimenetek a
text.format(Responses) vagy aresponse_format(Chat Completions) útvonalon valósulnak meg - Mindkét végpont együtt létezhet ugyanabban a kötegben