Премини към основното съдържание
Български— Изберете език
Меню

Завършени чатове и отговори в пакети

Урок 8 от 12 Обновен 3 ноември 2026 г. Програмист
На тази страница
  1. Двете текстови крайни точки в пакетeн режим
  2. Отговори в пакет
  3. Завършени чатове в пакет
  4. Разлики в пакетeн режим
  5. Чести разширени параметри
  6. Смесване на двете крайни точки
  7. Ключови изводи

Обновено на 3 ноември 2026 г. Въз основа на най-добрите практики на xAI: препоръчва се temperature да бъде 0.7, а top_p – 0.95, вместо ниска температура. Източник: Най-добри практики.

Обновено на 2 ноември 2026 г. Въз основа на документацията на xAI: отстъпката за пакети е 20% за допустимите текстови модели (не 50%), примерите следват REST API и официалния xai-sdk (client.batch.*; Batch API на xAI не използва формата на OpenAI, SDK на OpenAI не се прилага), а API за отговори (Responses API) има предимство пред завършените чатове (Chat Completions), който е остаряла крайна точка в xAI. Източници: Batch API · REST справка · Цени за пакети.

Двете текстови крайни точки в пакетeн режим

Крайните точки /v1/responses и /v1/chat/completions обработват повечето текстови пакети. При допустимите модели и двете се възползват от 20% отстъпка. Но xAI не ги поставя наравно: Responses е препоръчителното API, докато Chat Completions е остаряла крайна точка, поддържана за съществуващ код. Този урок разглежда техните специфики в контекста на пакети.

Отговори в пакет

В пакетeн режим API за отговори (Responses API) приема същите параметри като в синхронен режим; променя се само JSONL обвивката:

{"custom_id": "sum-1", "method": "POST", "url": "/v1/responses", "body": {"model": "grok-4.3", "instructions": "You are a summarization expert.", "input": "Summarize this financial report in five key points: ...", "temperature": 0.3, "max_output_tokens": 500}}

Той осигурява достъп до сървърните инструменти на Grok – уеб търсене, търсене в X, изпълнение на код, MCP – които се изпълняват по време на обработката на пакета:

{"custom_id": "research-1", "method": "POST", "url": "/v1/responses", "body": {"model": "grok-4.3", "input": [{"role": "user", "content": "What are the latest trends in generative AI?"}], "tools": [{"type": "web_search"}]}}

Типични случаи на употреба

  • Класификация на текст (настроение, категория, спешност)
  • Структурирано извличане на информация (ентитети, дати, суми)
  • Обобщения, преформулировки и преводи в мащаб
  • Обогатяване на данни чрез уеб търсене

Завършени чатове в пакет

Chat Completions остава приемлив, със своя формат messages:

{"custom_id": "sum-2", "method": "POST", "url": "/v1/chat/completions", "body": {"model": "grok-4.3", "messages": [{"role": "system", "content": "You are a summarization expert."}, {"role": "user", "content": "Summarize this financial report in five key points: ..."}], "temperature": 0.3, "max_completion_tokens": 500}}

Ограничението за дължина се нарича max_completion_tokens; старият параметър max_tokens е остарял. Запазете тази крайна точка за заявки от вече написан за нея код: новите функции се появяват първо в Responses.

Разлики в пакетeн режим

ФункцияResponsesChat Completions
Статус в xAIПрепоръчителноОстаряло
Формат на входаinput (текст или списък със съобщения), instructionsmessages
Сървърни инструментиДа (уеб, X, код, MCP)Недокументирано
Извикване на функцииДаДа
Структурирани изходиtext.formatresponse_format
Лимит на изходаmax_output_tokensmax_completion_tokens
Отстъпка за пакети (допустими модели)20%20%

Чести разширени параметри

temperature варира от 0 до 2 в xAI, като стойности над 1 се семплират като 1. Въпреки това, най-добрите практики на xAI препоръчват задаването ѝ на 0.7, с top_p на 0.95, и значително отклонение от това не се препоръчва: последователността в пакетите идва преди всичко от точни инструкции и структурирани изходи.

Лимитът на изхода (max_output_tokens или max_completion_tokens) трябва да бъде зададен изрично: без него една заявка може да генерира много дълъг отговор и да консумира токени ненужно. Той се прилага само за видимия текст, а не за токените за разсъждение.

Структурираните изходи налагат JSON схема на отговора, правейки резултатите програмно използваеми без крехко парсиране. При Responses схемата отива в text.format:

{"custom_id": "classify-1", "method": "POST", "url": "/v1/responses", "body": {"model": "grok-4.3", "input": "Classify this comment: « Delivery fast, product as described. »", "text": {"format": {"type": "json_schema", "name": "classification", "schema": {"type": "object", "properties": {"sentiment": {"type": "string", "enum": ["positive", "neutral", "negative"]}}, "required": ["sentiment"], "additionalProperties": false}, "strict": true}}}}

При Chat Completions еквивалентът е response_format, от тип json_schema (или json_object за валиден JSON без наложена схема).

Смесване на двете крайни точки

Можете да комбинирате Responses и Chat Completions в един и същи пакет, като всеки ред определя своята крайна точка в полето url:

{"custom_id": "simple-1", "method": "POST", "url": "/v1/chat/completions", "body": {"model": "grok-4.3", "messages": [{"role": "user", "content": "Summarize in one sentence: ..."}]}}
{"custom_id": "search-1", "method": "POST", "url": "/v1/responses", "body": {"model": "grok-4.3", "input": "AI news this week", "tools": [{"type": "web_search"}]}}

Тази гъвкавост позволява старите заявки за Chat Completions и новите заявки за Responses да съществуват едновременно по време на миграция.

Ключови изводи

  • Responses е препоръчителната крайна точка, докато Chat Completions е остаряла; и двете се възползват от 20% отстъпка за допустимите модели
  • Responses е задължителен за сървърни инструменти (уеб, X, код, MCP)
  • Задайте temperature на 0.7 и top_p на 0.95, както препоръчва xAI, и подходящ лимит на изхода
  • Структурираните изходи минават през text.format (Responses) или response_format (Chat Completions)
  • И двете крайни точки могат да съществуват в един и същи пакет