Завършени чатове и отговори в пакети
На тази страница
Обновено на 3 ноември 2026 г. Въз основа на най-добрите практики на xAI: препоръчва се
temperatureда бъде 0.7, аtop_p– 0.95, вместо ниска температура. Източник: Най-добри практики.
Обновено на 2 ноември 2026 г. Въз основа на документацията на xAI: отстъпката за пакети е 20% за допустимите текстови модели (не 50%), примерите следват REST API и официалния
xai-sdk(client.batch.*; Batch API на xAI не използва формата на OpenAI, SDK на OpenAI не се прилага), а API за отговори (Responses API) има предимство пред завършените чатове (Chat Completions), който е остаряла крайна точка в xAI. Източници: Batch API · REST справка · Цени за пакети.
Двете текстови крайни точки в пакетeн режим
Крайните точки /v1/responses и /v1/chat/completions обработват повечето текстови пакети. При допустимите модели и двете се възползват от 20% отстъпка. Но xAI не ги поставя наравно: Responses е препоръчителното API, докато Chat Completions е остаряла крайна точка, поддържана за съществуващ код. Този урок разглежда техните специфики в контекста на пакети.
Отговори в пакет
В пакетeн режим API за отговори (Responses API) приема същите параметри като в синхронен режим; променя се само JSONL обвивката:
{"custom_id": "sum-1", "method": "POST", "url": "/v1/responses", "body": {"model": "grok-4.3", "instructions": "You are a summarization expert.", "input": "Summarize this financial report in five key points: ...", "temperature": 0.3, "max_output_tokens": 500}}
Той осигурява достъп до сървърните инструменти на Grok – уеб търсене, търсене в X, изпълнение на код, MCP – които се изпълняват по време на обработката на пакета:
{"custom_id": "research-1", "method": "POST", "url": "/v1/responses", "body": {"model": "grok-4.3", "input": [{"role": "user", "content": "What are the latest trends in generative AI?"}], "tools": [{"type": "web_search"}]}}
Типични случаи на употреба
- Класификация на текст (настроение, категория, спешност)
- Структурирано извличане на информация (ентитети, дати, суми)
- Обобщения, преформулировки и преводи в мащаб
- Обогатяване на данни чрез уеб търсене
Завършени чатове в пакет
Chat Completions остава приемлив, със своя формат messages:
{"custom_id": "sum-2", "method": "POST", "url": "/v1/chat/completions", "body": {"model": "grok-4.3", "messages": [{"role": "system", "content": "You are a summarization expert."}, {"role": "user", "content": "Summarize this financial report in five key points: ..."}], "temperature": 0.3, "max_completion_tokens": 500}}
Ограничението за дължина се нарича max_completion_tokens; старият параметър max_tokens е остарял. Запазете тази крайна точка за заявки от вече написан за нея код: новите функции се появяват първо в Responses.
Разлики в пакетeн режим
| Функция | Responses | Chat Completions |
|---|---|---|
| Статус в xAI | Препоръчително | Остаряло |
| Формат на входа | input (текст или списък със съобщения), instructions | messages |
| Сървърни инструменти | Да (уеб, X, код, MCP) | Недокументирано |
| Извикване на функции | Да | Да |
| Структурирани изходи | text.format | response_format |
| Лимит на изхода | max_output_tokens | max_completion_tokens |
| Отстъпка за пакети (допустими модели) | 20% | 20% |
Чести разширени параметри
temperature варира от 0 до 2 в xAI, като стойности над 1 се семплират като 1. Въпреки това, най-добрите практики на xAI препоръчват задаването ѝ на 0.7, с top_p на 0.95, и значително отклонение от това не се препоръчва: последователността в пакетите идва преди всичко от точни инструкции и структурирани изходи.
Лимитът на изхода (max_output_tokens или max_completion_tokens) трябва да бъде зададен изрично: без него една заявка може да генерира много дълъг отговор и да консумира токени ненужно. Той се прилага само за видимия текст, а не за токените за разсъждение.
Структурираните изходи налагат JSON схема на отговора, правейки резултатите програмно използваеми без крехко парсиране. При Responses схемата отива в text.format:
{"custom_id": "classify-1", "method": "POST", "url": "/v1/responses", "body": {"model": "grok-4.3", "input": "Classify this comment: « Delivery fast, product as described. »", "text": {"format": {"type": "json_schema", "name": "classification", "schema": {"type": "object", "properties": {"sentiment": {"type": "string", "enum": ["positive", "neutral", "negative"]}}, "required": ["sentiment"], "additionalProperties": false}, "strict": true}}}}
При Chat Completions еквивалентът е response_format, от тип json_schema (или json_object за валиден JSON без наложена схема).
Смесване на двете крайни точки
Можете да комбинирате Responses и Chat Completions в един и същи пакет, като всеки ред определя своята крайна точка в полето url:
{"custom_id": "simple-1", "method": "POST", "url": "/v1/chat/completions", "body": {"model": "grok-4.3", "messages": [{"role": "user", "content": "Summarize in one sentence: ..."}]}}
{"custom_id": "search-1", "method": "POST", "url": "/v1/responses", "body": {"model": "grok-4.3", "input": "AI news this week", "tools": [{"type": "web_search"}]}}
Тази гъвкавост позволява старите заявки за Chat Completions и новите заявки за Responses да съществуват едновременно по време на миграция.
Ключови изводи
- Responses е препоръчителната крайна точка, докато Chat Completions е остаряла; и двете се възползват от 20% отстъпка за допустимите модели
- Responses е задължителен за сървърни инструменти (уеб, X, код, MCP)
- Задайте
temperatureна 0.7 иtop_pна 0.95, както препоръчва xAI, и подходящ лимит на изхода - Структурираните изходи минават през
text.format(Responses) илиresponse_format(Chat Completions) - И двете крайни точки могат да съществуват в един и същи пакет