Ugrás a főtartalomra
Magyar— Nyelv kiválasztása
Menü

Chat Completions és Responses kötegelt módban

8. lecke 12 közül Frissítve 2026. november 3. Fejlesztő
Ezen az oldalon
  1. A két szöveges végpont kötegelt módban
  2. Responses kötegelt módban
  3. Chat Completions kötegelt módban
  4. Különbségek kötegelt módban
  5. Gyakori haladó paraméterek
  6. A két végpont vegyes használata
  7. Főbb megállapítások

Frissítve: 2026. november 3. Az xAI ajánlott gyakorlatai alapján: a temperature értékét 0,7-re, a top_p értékét pedig 0,95-re javasolt állítani, nem pedig alacsony hőmérsékletre. Forrás: Ajánlott gyakorlatok.

Frissítve: 2026. november 2. Az xAI dokumentációja alapján: a kötegelt kedvezmény 20% a jogosult szöveges modelleken (nem 50%), a példák a REST API-t és a hivatalos xai-sdk-t (client.batch.*) követik (az xAI Batch API nem az OpenAI formátumot használja, az OpenAI SDK nem alkalmazható), és a Responses API elsőbbséget élvez a Chat Completions előtt, amely az xAI-nál egy örökölt végpont. Források: Batch API · REST hivatkozás · Batch árazás.

A két szöveges végpont kötegelt módban

A /v1/responses és a /v1/chat/completions végpontok kezelik a szöveges kötegek nagy részét. A jogosult modelleken mindkettő részesül a 20%-os kedvezményben. Az xAI azonban nem tekinti őket egyenrangúnak: a Responses a javasolt API, míg a Chat Completions egy meglévő kódok miatt fenntartott örökölt végpont. Ez a lecke részletezi sajátosságaikat kötegelt környezetben.

Responses kötegelt módban

Kötegelt módban a Responses API ugyanazokat a paramétereket fogadja el, mint a szinkron módban; csak a JSONL burkoló változik:

{"custom_id": "sum-1", "method": "POST", "url": "/v1/responses", "body": {"model": "grok-4.3", "instructions": "You are a summarization expert.", "input": "Summarize this financial report in five key points: ...", "temperature": 0.3, "max_output_tokens": 500}}

Hozzáférést biztosít a Grok szerveroldali eszközeihez – webes keresés, X keresés, kódvégrehajtás, MCP –, amelyek a kötegelt feldolgozás során hajtódnak végre:

{"custom_id": "research-1", "method": "POST", "url": "/v1/responses", "body": {"model": "grok-4.3", "input": [{"role": "user", "content": "What are the latest trends in generative AI?"}], "tools": [{"type": "web_search"}]}}

Tipikus használati esetek

  • Szövegosztályozás (érzelemelemzés, kategória, sürgősség)
  • Strukturált információk kinyerése (entitások, dátumok, összegek)
  • Összefoglalók, átfogalmazások és fordítások nagy léptékben
  • Adatgazdagítás webes keresés révén

Chat Completions kötegelt módban

A Chat Completions továbbra is elfogadott a saját messages formátumával:

{"custom_id": "sum-2", "method": "POST", "url": "/v1/chat/completions", "body": {"model": "grok-4.3", "messages": [{"role": "system", "content": "You are a summarization expert."}, {"role": "user", "content": "Summarize this financial report in five key points: ..."}], "temperature": 0.3, "max_completion_tokens": 500}}

A hosszkorlát neve max_completion_tokens; a régi max_tokens elavult. Ezt a végpontot csak olyan kérésekhez tartsd fenn, amelyeket már erre írtak meg: az új funkciók először a Responses-on jelennek meg.

Különbségek kötegelt módban

FunkcióResponsesChat Completions
Státusz az xAI-nálJavasoltÖrökölt
Bemeneti formátuminput (szöveg vagy üzenetlista), instructionsmessages
Szerveroldali eszközökIgen (web, X, kód, MCP)Nem dokumentált
FüggvényhívásIgenIgen
Strukturált kimenetektext.formatresponse_format
Kimeneti korlátmax_output_tokensmax_completion_tokens
Kötegelt kedvezmény (jogosult modellek)20%20%

Gyakori haladó paraméterek

A temperature az xAI-nál 0 és 2 között mozog, az 1 feletti értékeket 1-en mintavételezik. Az xAI ajánlott gyakorlatai azonban azt javasolják, hogy állítsd 0,7-re, a top_p értékét pedig 0,95-re, és ne térj el jelentősen ettől: a kötegelt konzisztencia elsősorban a pontos utasításokból és a strukturált kimenetekből fakad.

A kimeneti korlátot (max_output_tokens vagy max_completion_tokens) explicit módon be kell állítani: enélkül egy kérés nagyon hosszú választ generálhat, és feleslegesen fogyaszt tokeneket. Ez csak a látható szövegre vonatkozik, a gondolkodási tokenekre nem.

A strukturált kimenetek JSON sémát kényszerítenek ki a válaszra, így az eredmények programozottan felhasználhatók válogatás nélküli elemzés nélkül. A Responses esetén a séma a text.format mezőbe kerül:

{"custom_id": "classify-1", "method": "POST", "url": "/v1/responses", "body": {"model": "grok-4.3", "input": "Classify this comment: « Delivery fast, product as described. »", "text": {"format": {"type": "json_schema", "name": "classification", "schema": {"type": "object", "properties": {"sentiment": {"type": "string", "enum": ["positive", "neutral", "negative"]}}, "required": ["sentiment"], "additionalProperties": false}, "strict": true}}}}

Chat Completions esetén a megfelelő mező a response_format, amelynek típusa json_schema (vagy json_object érvényes JSON-hoz, előírt séma nélkül).

A két végpont vegyes használata

Kombinálhatod a Responses és a Chat Completions végpontokat ugyanabban a kötegben, ahol minden sor a url mezőben jelöli ki a saját végpontját:

{"custom_id": "simple-1", "method": "POST", "url": "/v1/chat/completions", "body": {"model": "grok-4.3", "messages": [{"role": "user", "content": "Summarize in one sentence: ..."}]}}
{"custom_id": "search-1", "method": "POST", "url": "/v1/responses", "body": {"model": "grok-4.3", "input": "AI news this week", "tools": [{"type": "web_search"}]}}

Ez a rugalmasság lehetővé teszi, hogy a régi Chat Completions kérések és az új Responses kérések együtt létezzenek egy migráció során.

Főbb megállapítások

  • A Responses a javasolt végpont, a Chat Completions egy örökölt végpont; mindkettő részesül a 20%-os kedvezményben a jogosult modelleken
  • A Responses szükséges a szerveroldali eszközökhöz (web, X, kód, MCP)
  • Állítsd a temperature értékét 0,7-re, a top_p értékét 0,95-re az xAI ajánlása szerint, és adj meg egy megfelelő kimeneti korlátot
  • A strukturált kimenetek a text.format (Responses) vagy a response_format (Chat Completions) útvonalon valósulnak meg
  • Mindkét végpont együtt létezhet ugyanabban a kötegben