Completazzjonijiet taċ-Chat u Risposti f'Lotti
F'din il-paġna
Aġġornat fit-3 ta’ Novembru, 2026. Ibbażat fuq l-aħjar prattiki ta’ xAI:
temperaturerakkomandata f’0.7 utop_pf’0.95 minflok temperatura baxxa. Sors: Best practices.
Aġġornat fit-2 ta’ Novembru, 2026. Ibbażat fuq id-dokumentazzjoni ta’ xAI: l-iskont għal-lotti huwa 20% fuq mudelli tat-test eliġibbli (mhux 50%), l-eżempji jsegwu l-API REST u l-
xai-sdkuffiċjali (client.batch.*; l-API tal-Lotti ta’ xAI ma tużax il-format ta’ OpenAI, l-SDK ta’ OpenAI ma japplikax), u l-API tar-Risposti tieħu preċedenza fuq il-Completazzjonijiet taċ-Chat, li huwa endpoint antik f’xAI. Sorsi: Batch API · REST Reference · Batch Pricing.
Iż-żewġ endpoints tat-test f’modalità ta’ lott
L-endpoints /v1/responses u /v1/chat/completions jimmaniġġjaw il-biċċa l-kbira tal-lotti tat-test. Fuq mudelli eliġibbli, it-tnejn jibbenefikaw mill-iskont ta’ 20%. Iżda xAI ma tpoġġihomx fl-istess livell: Risposti hija l-API rakkomandata, filwaqt li Completazzjonijiet taċ-Chat huwa endpoint antik miżmum għall-kodiċi eżistenti. Din il-lezzjoni tiddettalja l-ispeċifiċitajiet tagħhom f’kuntest ta’ lott.
Risposti f’lott
F’modalità ta’ lott, l-API tar-Risposti taċċetta l-istess parametri bħal f’modalità sinkrona; biss l-invilupp JSONL jinbidel:
{"custom_id": "sum-1", "method": "POST", "url": "/v1/responses", "body": {"model": "grok-4.3", "instructions": "You are a summarization expert.", "input": "Summarize this financial report in five key points: ...", "temperature": 0.3, "max_output_tokens": 500}}
Din tipprovdi aċċess għall-għodod tas-server ta’ Grok—tiftix fuq il-web, tiftix fuq X, eżekuzzjoni tal-kodiċi, MCP—li jiġu eżegwiti waqt l-ipproċessar tal-lott:
{"custom_id": "research-1", "method": "POST", "url": "/v1/responses", "body": {"model": "grok-4.3", "input": [{"role": "user", "content": "What are the latest trends in generative AI?"}], "tools": [{"type": "web_search"}]}}
Każijiet ta’ użu tipiċi
- Klassifikazzjoni tat-test (sentiment, kategorija, urġenza)
- Estrazzjoni strutturata ta’ informazzjoni (entitajiet, dati, ammonti)
- Sommarji, riformulazzjonijiet u traduzzjonijiet fuq skala kbira
- Arrikkiment tad-dejta permezz tat-tiftix fuq il-web
Completazzjonijiet taċ-Chat f’lott
Completazzjonijiet taċ-Chat jibqa’ aċċettat, bil-format messages tiegħu:
{"custom_id": "sum-2", "method": "POST", "url": "/v1/chat/completions", "body": {"model": "grok-4.3", "messages": [{"role": "system", "content": "You are a summarization expert."}, {"role": "user", "content": "Summarize this financial report in five key points: ..."}], "temperature": 0.3, "max_completion_tokens": 500}}
Il-limitu tat-tul jissejjaħ max_completion_tokens; il-max_tokens antik huwa skadut. Irriżerva dan l-endpoint għal talbiet minn kodiċi diġà miktub għalih: il-karatteristiċi l-ġodda jaslu l-ewwel fuq Risposti.
Differenzi fil-lott
| Karatteristika | Risposti | Completazzjonijiet taċ-Chat |
|---|---|---|
| Status f’xAI | Rakkomandat | Antik |
| Format tal-input | input (test jew lista ta’ messaġġi), instructions | messages |
| Għodod tas-server | Iva (web, X, kodiċi, MCP) | Mhux iddokumentat |
| Sejħa tal-funzjoni | Iva | Iva |
| Outputs strutturati | text.format | response_format |
| Limitu tal-output | max_output_tokens | max_completion_tokens |
| Skont tal-lott (mudelli eliġibbli) | 20% | 20% |
Parametri avvanzati komuni
temperature tvarja minn 0 sa 2 f’xAI, b’valuri lil hinn minn 1 li jiġu kkampjunati f’1. Madankollu, l-aħjar prattiki ta’ xAI jirrakkomandaw li tissettjah għal 0.7, b’top_p f’0.95, u ma tiddevjax wisq minn dan: il-konsistenza tal-lott tiġi l-ewwel minn istruzzjonijiet preċiżi u outputs strutturati.
Il-limitu tal-output (max_output_tokens jew max_completion_tokens) irid jiġi stabbilit b’mod espliċitu: mingħajru, talba tista’ tipproduċi tweġiba twila ħafna u tikkonsma tokens mingħajr bżonn. Dan japplika biss għat-test viżibbli, mhux għat-tokens tar-raġunament.
Outputs strutturati jimponu skema JSON fuq ir-risposta, u jagħmlu r-riżultati użabbli programmatikament mingħajr parsing fraġli. Ma’ Risposti, l-iskema tmur f’text.format:
{"custom_id": "classify-1", "method": "POST", "url": "/v1/responses", "body": {"model": "grok-4.3", "input": "Classify this comment: « Delivery fast, product as described. »", "text": {"format": {"type": "json_schema", "name": "classification", "schema": {"type": "object", "properties": {"sentiment": {"type": "string", "enum": ["positive", "neutral", "negative"]}}, "required": ["sentiment"], "additionalProperties": false}, "strict": true}}}}
Ma’ Completazzjonijiet taċ-Chat, l-ekwivalenti huwa response_format, tat-tip json_schema (jew json_object għal JSON validu mingħajr skema imposta).
Taħlit taż-żewġ endpoints
Tista’ tgħaqqad Risposti u Completazzjonijiet taċ-Chat fl-istess lott, b’kull linja li tiddeżinja l-endpoint tagħha fil-qasam url:
{"custom_id": "simple-1", "method": "POST", "url": "/v1/chat/completions", "body": {"model": "grok-4.3", "messages": [{"role": "user", "content": "Summarize in one sentence: ..."}]}}
{"custom_id": "search-1", "method": "POST", "url": "/v1/responses", "body": {"model": "grok-4.3", "input": "AI news this week", "tools": [{"type": "web_search"}]}}
Din il-flessibbiltà tippermetti li talbiet antiki ta’ Completazzjonijiet taċ-Chat u talbiet ġodda ta’ Risposti jikkoegżistu waqt migrazzjoni.
Punti Ewlenin
- Risposti huwa l-endpoint rakkomandat, Completazzjonijiet taċ-Chat huwa endpoint antik; it-tnejn jibbenefikaw mill-iskont ta’ 20% fuq mudelli eliġibbli
- Risposti huwa meħtieġ għall-għodod tas-server (web, X, kodiċi, MCP)
- Ipprova
temperaturegħal 0.7 utop_pgħal 0.95, kif jirrakkomanda xAI, u limitu xieraq tal-output - Outputs strutturati jgħaddu minn
text.format(Risposti) jewresponse_format(Completazzjonijiet taċ-Chat) - Iż-żewġ endpoints jistgħu jikkoegżistu fl-istess lott