Pāriet uz galveno saturu
Latviešu— Izvēlēties valodu
Izvēlne

Pabeigtas sarunas un atbildes partijās

Nodarbība 8 no 12 Atjaunota 2026. gada 3. novembris Programmētājs
Šajā lapā
  1. Divi teksta galapunkti partijas režīmā
  2. Atbildes partijā
  3. Pabeigtas sarunas partijā
  4. Atšķirības partijā
  5. Kopīgi papildu parametri
  6. Abu galapunktu sajaukšana
  7. Galvenās atziņas

Atjaunināts 2026. gada 3. novembrī. Pamatojoties uz xAI labākajām praksēm: temperature ieteicams iestatīt uz 0,7 un top_p uz 0,95, nevis izmantot zemu temperatūru. Avots: Labākās prakses.

Atjaunināts 2026. gada 2. novembrī. Pamatojoties uz xAI dokumentāciju: atlaide partijām ir 20% atbilstošajiem teksta modeļiem (nevis 50%), piemēri atbilst REST API un oficiālajam xai-sdk (client.batch.*; xAI Batch API neizmanto OpenAI formātu, OpenAI SDK nav piemērojams), un Responses API ir prioritārs pār Chat Completions, kas xAI ir novecojis galapunkts. Avoti: Batch API · REST atsauce · Batch cenu politika.

Divi teksta galapunkti partijas režīmā

Galapunkti /v1/responses un /v1/chat/completions apstrādā lielāko daļu teksta partiju. Atbilstošajos modeļos abi saņem 20% atlaidi. Taču xAI tos nevērtē vienlīdzīgi: Responses ir ieteicamais API, bet Chat Completions ir novecojis galapunkts, kas uzturēts esošā koda vajadzībām. Šī nodarbība detalizēti aplūko to specifiku partijas kontekstā.

Atbildes partijā

Partijas režīmā Responses API pieņem tos pašus parametrus kā sinhronajā režīmā; mainās tikai JSONL apvalks:

{"custom_id": "sum-1", "method": "POST", "url": "/v1/responses", "body": {"model": "grok-4.3", "instructions": "You are a summarization expert.", "input": "Summarize this financial report in five key points: ...", "temperature": 0.3, "max_output_tokens": 500}}

Tas nodrošina piekļuvi Grok servera rīkiem — tīmekļa meklēšanai, X meklēšanai, koda izpildei, MCP — kurus izpilda partijas apstrādes laikā:

{"custom_id": "research-1", "method": "POST", "url": "/v1/responses", "body": {"model": "grok-4.3", "input": [{"role": "user", "content": "What are the latest trends in generative AI?"}], "tools": [{"type": "web_search"}]}}

Tipiski lietojumi

  • Teksta klasifikācija (noskaņojums, kategorija, steidzamība)
  • Strukturētas informācijas ieguve (entītijas, datumi, summas)
  • Kopsavilkumi, pārrakstīšana un tulkošana lielos apjomos
  • Datu bagātināšana, izmantojot tīmekļa meklēšanu

Pabeigtas sarunas partijā

Chat Completions joprojām tiek pieņemts, izmantojot savu messages formātu:

{"custom_id": "sum-2", "method": "POST", "url": "/v1/chat/completions", "body": {"model": "grok-4.3", "messages": [{"role": "system", "content": "You are a summarization expert."}, {"role": "user", "content": "Summarize this financial report in five key points: ..."}], "temperature": 0.3, "max_completion_tokens": 500}}

Garuma limits ir nosaukts par max_completion_tokens; vecais max_tokens ir novecojis. Rezervē šo galapunktu pieprasījumiem no koda, kas jau ir rakstīts tam: jaunas funkcijas vispirms parādās Responses.

Atšķirības partijā

IezīmeResponsesChat Completions
Statuss pie xAIIeteicamsNovecojis
Ievades formātsinput (teksts vai ziņojumu saraksts), instructionsmessages
Servera rīkiJā (tīmeklis, X, kods, MCP)Nav dokumentēts
Funkciju izsaukšanaJāJā
Strukturētas izejastext.formatresponse_format
Izejas limitsmax_output_tokensmax_completion_tokens
Atlaide partijām (atbilstoši modeļi)20%20%

Kopīgi papildu parametri

temperature xAI svārstās no 0 līdz 2, kur vērtības virs 1 tiek paraugotas kā 1. Tomēr xAI labākās prakses iesaka to iestatīt uz 0,7, bet top_p uz 0,95, un no tā daudz nenovirzīties: partijas konsekvence vispirms izriet no precīzām instrukcijām un strukturētām izejām.

Izejas limits (max_output_tokens vai max_completion_tokens) ir jāiestata eksplicīti: bez tā pieprasījums var ģenerēt ļoti garu atbildi un lieki patērēt tokenus. Tas attiecas tikai uz redzamo tekstu, nevis spriešanas tokeniem.

Strukturētas izejas uzliek atbildei JSON shēmu, padarot rezultātus programmējami izmantojamus bez trauslas parsēšanas. Izmantojot Responses, shēma nonāk laukā text.format:

{"custom_id": "classify-1", "method": "POST", "url": "/v1/responses", "body": {"model": "grok-4.3", "input": "Classify this comment: « Delivery fast, product as described. »", "text": {"format": {"type": "json_schema", "name": "classification", "schema": {"type": "object", "properties": {"sentiment": {"type": "string", "enum": ["positive", "neutral", "negative"]}}, "required": ["sentiment"], "additionalProperties": false}, "strict": true}}}}

Izmantojot Chat Completions, ekvivalents ir response_format ar tipu json_schema (vai json_object derīgam JSON bez uzliktas shēmas).

Abu galapunktu sajaukšana

Tu vari apvienot Responses un Chat Completions vienā un tajā pašā partijā, kur katra rinda norāda savu galapunktu laukā url:

{"custom_id": "simple-1", "method": "POST", "url": "/v1/chat/completions", "body": {"model": "grok-4.3", "messages": [{"role": "user", "content": "Summarize in one sentence: ..."}]}}
{"custom_id": "search-1", "method": "POST", "url": "/v1/responses", "body": {"model": "grok-4.3", "input": "AI news this week", "tools": [{"type": "web_search"}]}}

Šī elastība ļauj veciem Chat Completions pieprasījumiem un jauniem Responses pieprasījumiem līdzāspastāvēt migrācijas laikā.

Galvenās atziņas

  • Responses ir ieteicamais galapunkts, Chat Completions ir novecojis galapunkts; abi saņem 20% atlaidi atbilstošajos modeļos
  • Responses ir obligāts servera rīkiem (tīmeklis, X, kods, MCP)
  • Iestati temperature uz 0,7 un top_p uz 0,95, kā iesaka xAI, un piemērotu izejas limitu
  • Strukturētas izejas izmanto text.format (Responses) vai response_format (Chat Completions)
  • Abi galapunkti var līdzāspastāvēt vienā partijā