Pabeigtas sarunas un atbildes partijās
Šajā lapā
Atjaunināts 2026. gada 3. novembrī. Pamatojoties uz xAI labākajām praksēm:
temperatureieteicams iestatīt uz 0,7 untop_puz 0,95, nevis izmantot zemu temperatūru. Avots: Labākās prakses.
Atjaunināts 2026. gada 2. novembrī. Pamatojoties uz xAI dokumentāciju: atlaide partijām ir 20% atbilstošajiem teksta modeļiem (nevis 50%), piemēri atbilst REST API un oficiālajam
xai-sdk(client.batch.*; xAI Batch API neizmanto OpenAI formātu, OpenAI SDK nav piemērojams), un Responses API ir prioritārs pār Chat Completions, kas xAI ir novecojis galapunkts. Avoti: Batch API · REST atsauce · Batch cenu politika.
Divi teksta galapunkti partijas režīmā
Galapunkti /v1/responses un /v1/chat/completions apstrādā lielāko daļu teksta partiju. Atbilstošajos modeļos abi saņem 20% atlaidi. Taču xAI tos nevērtē vienlīdzīgi: Responses ir ieteicamais API, bet Chat Completions ir novecojis galapunkts, kas uzturēts esošā koda vajadzībām. Šī nodarbība detalizēti aplūko to specifiku partijas kontekstā.
Atbildes partijā
Partijas režīmā Responses API pieņem tos pašus parametrus kā sinhronajā režīmā; mainās tikai JSONL apvalks:
{"custom_id": "sum-1", "method": "POST", "url": "/v1/responses", "body": {"model": "grok-4.3", "instructions": "You are a summarization expert.", "input": "Summarize this financial report in five key points: ...", "temperature": 0.3, "max_output_tokens": 500}}
Tas nodrošina piekļuvi Grok servera rīkiem — tīmekļa meklēšanai, X meklēšanai, koda izpildei, MCP — kurus izpilda partijas apstrādes laikā:
{"custom_id": "research-1", "method": "POST", "url": "/v1/responses", "body": {"model": "grok-4.3", "input": [{"role": "user", "content": "What are the latest trends in generative AI?"}], "tools": [{"type": "web_search"}]}}
Tipiski lietojumi
- Teksta klasifikācija (noskaņojums, kategorija, steidzamība)
- Strukturētas informācijas ieguve (entītijas, datumi, summas)
- Kopsavilkumi, pārrakstīšana un tulkošana lielos apjomos
- Datu bagātināšana, izmantojot tīmekļa meklēšanu
Pabeigtas sarunas partijā
Chat Completions joprojām tiek pieņemts, izmantojot savu messages formātu:
{"custom_id": "sum-2", "method": "POST", "url": "/v1/chat/completions", "body": {"model": "grok-4.3", "messages": [{"role": "system", "content": "You are a summarization expert."}, {"role": "user", "content": "Summarize this financial report in five key points: ..."}], "temperature": 0.3, "max_completion_tokens": 500}}
Garuma limits ir nosaukts par max_completion_tokens; vecais max_tokens ir novecojis. Rezervē šo galapunktu pieprasījumiem no koda, kas jau ir rakstīts tam: jaunas funkcijas vispirms parādās Responses.
Atšķirības partijā
| Iezīme | Responses | Chat Completions |
|---|---|---|
| Statuss pie xAI | Ieteicams | Novecojis |
| Ievades formāts | input (teksts vai ziņojumu saraksts), instructions | messages |
| Servera rīki | Jā (tīmeklis, X, kods, MCP) | Nav dokumentēts |
| Funkciju izsaukšana | Jā | Jā |
| Strukturētas izejas | text.format | response_format |
| Izejas limits | max_output_tokens | max_completion_tokens |
| Atlaide partijām (atbilstoši modeļi) | 20% | 20% |
Kopīgi papildu parametri
temperature xAI svārstās no 0 līdz 2, kur vērtības virs 1 tiek paraugotas kā 1. Tomēr xAI labākās prakses iesaka to iestatīt uz 0,7, bet top_p uz 0,95, un no tā daudz nenovirzīties: partijas konsekvence vispirms izriet no precīzām instrukcijām un strukturētām izejām.
Izejas limits (max_output_tokens vai max_completion_tokens) ir jāiestata eksplicīti: bez tā pieprasījums var ģenerēt ļoti garu atbildi un lieki patērēt tokenus. Tas attiecas tikai uz redzamo tekstu, nevis spriešanas tokeniem.
Strukturētas izejas uzliek atbildei JSON shēmu, padarot rezultātus programmējami izmantojamus bez trauslas parsēšanas. Izmantojot Responses, shēma nonāk laukā text.format:
{"custom_id": "classify-1", "method": "POST", "url": "/v1/responses", "body": {"model": "grok-4.3", "input": "Classify this comment: « Delivery fast, product as described. »", "text": {"format": {"type": "json_schema", "name": "classification", "schema": {"type": "object", "properties": {"sentiment": {"type": "string", "enum": ["positive", "neutral", "negative"]}}, "required": ["sentiment"], "additionalProperties": false}, "strict": true}}}}
Izmantojot Chat Completions, ekvivalents ir response_format ar tipu json_schema (vai json_object derīgam JSON bez uzliktas shēmas).
Abu galapunktu sajaukšana
Tu vari apvienot Responses un Chat Completions vienā un tajā pašā partijā, kur katra rinda norāda savu galapunktu laukā url:
{"custom_id": "simple-1", "method": "POST", "url": "/v1/chat/completions", "body": {"model": "grok-4.3", "messages": [{"role": "user", "content": "Summarize in one sentence: ..."}]}}
{"custom_id": "search-1", "method": "POST", "url": "/v1/responses", "body": {"model": "grok-4.3", "input": "AI news this week", "tools": [{"type": "web_search"}]}}
Šī elastība ļauj veciem Chat Completions pieprasījumiem un jauniem Responses pieprasījumiem līdzāspastāvēt migrācijas laikā.
Galvenās atziņas
- Responses ir ieteicamais galapunkts, Chat Completions ir novecojis galapunkts; abi saņem 20% atlaidi atbilstošajos modeļos
- Responses ir obligāts servera rīkiem (tīmeklis, X, kods, MCP)
- Iestati
temperatureuz 0,7 untop_puz 0,95, kā iesaka xAI, un piemērotu izejas limitu - Strukturētas izejas izmanto
text.format(Responses) vairesponse_format(Chat Completions) - Abi galapunkti var līdzāspastāvēt vienā partijā