Ukończone czaty i odpowiedzi w trybie wsadowym
Na tej stronie
Zaktualizowano 3 listopada 2026 r. Zgodnie z najlepszymi praktykami xAI: zaleca się ustawienie parametru
temperaturena 0,7, atop_pna 0,95, zamiast stosować niską wartość temperatury. Źródło: Najlepsze praktyki.
Zaktualizowano 2 listopada 2026 r. Zgodnie z dokumentacją xAI: rabat wsadowy wynosi 20% dla kwalifikujących się modeli tekstowych (a nie 50%), przykłady odnoszą się do interfejsu REST API oraz oficjalnego pakietu
xai-sdk(client.batch.*; interfejs Batch API od xAI nie korzysta z formatu OpenAI, więc SDK OpenAI nie ma tu zastosowania), a interfejs Responses API ma pierwszeństwo przed Chat Completions, który jest punktem końcowym typu legacy w xAI. Źródła: Batch API · Dokumentacja REST · Cennik wsadowy.
Dwa punkty końcowe dla tekstu w trybie wsadowym
Punkty końcowe /v1/responses oraz /v1/chat/completions obsługują większość zadań wsadowych dotyczących tekstu. W przypadku kwalifikujących się modeli oba korzystają z 20-procentowego rabatu. xAI nie traktuje ich jednak równorzędnie: Responses to zalecany interfejs API, natomiast Chat Completions to punkt końcowy typu legacy, utrzymywany ze względu na istniejący kod. Lekcja ta szczegółowo omawia ich specyfikę w kontekście przetwarzania wsadowego.
Odpowiedzi (Responses) w trybie wsadowym
W trybie wsadowym interfejs Responses API przyjmuje te same parametry co w trybie synchronicznym; zmienia się jedynie koperta JSONL:
{"custom_id": "sum-1", "method": "POST", "url": "/v1/responses", "body": {"model": "grok-4.3", "instructions": "You are a summarization expert.", "input": "Summarize this financial report in five key points: ...", "temperature": 0.3, "max_output_tokens": 500}}
Umożliwia to dostęp do narzędzi serwerowych Groka – wyszukiwania w sieci, wyszukiwania w serwisie X, wykonywania kodu, MCP – które są uruchamiane podczas przetwarzania wsadowego:
{"custom_id": "research-1", "method": "POST", "url": "/v1/responses", "body": {"model": "grok-4.3", "input": [{"role": "user", "content": "What are the latest trends in generative AI?"}], "tools": [{"type": "web_search"}]}}
Typowe przypadki użycia
- Klasyfikacja tekstu (analiza sentymentu, kategoryzacja, określanie pilności)
- Strukturalne wydobywanie informacji (encje, daty, kwoty)
- Podsumowania, parafrazy i tłumaczenia na dużą skalę
- Wzbogacanie danych poprzez wyszukiwanie w sieci
Ukończone czaty (Chat Completions) w trybie wsadowym
Interfejs Chat Completions nadal jest obsługiwany i korzysta z formatu messages:
{"custom_id": "sum-2", "method": "POST", "url": "/v1/chat/completions", "body": {"model": "grok-4.3", "messages": [{"role": "system", "content": "You are a summarization expert."}, {"role": "user", "content": "Summarize this financial report in five key points: ..."}], "temperature": 0.3, "max_completion_tokens": 500}}
Limit długości nosi nazwę max_completion_tokens; przestarzały parametr max_tokens jest wycofany. Przeznacz ten punkt końcowy wyłącznie dla żądań pochodzących z kodu, który został już pod niego napisany: nowe funkcje pojawiają się najpierw w interfejsie Responses.
Różnice w trybie wsadowym
| Funkcja | Responses | Chat Completions |
|---|---|---|
| Status w xAI | Zalecany | Legacy |
| Format wejścia | input (tekst lub lista wiadomości), instructions | messages |
| Narzędzia serwerowe | Tak (sieć, X, kod, MCP) | Nieudokumentowane |
| Wywoływanie funkcji | Tak | Tak |
| Strukturalne wyjścia | text.format | response_format |
| Limit wyjścia | max_output_tokens | max_completion_tokens |
| Rabat wsadowy (kwalifikujące się modele) | 20% | 20% |
Wspólne zaawansowane parametry
temperature w xAI przyjmuje wartości od 0 do 2, przy czym wartości powyżej 1 są próbkowane jak 1. Jednakże najlepsze praktyki xAI zalecają ustawienie tego parametru na 0,7, a top_p na 0,95, i niezbyt duże odchodzenie od tych wartości: spójność w przetwarzaniu wsadowym wynika przede wszystkim z precyzyjnych instrukcji i strukturalnych wyjść.
Limit wyjścia (max_output_tokens lub max_completion_tokens) musi być ustawiony jawnie: bez niego żądanie może wygenerować bardzo długą odpowiedź i niepotrzebnie zużyć tokeny. Ograniczenie to dotyczy wyłącznie widocznego tekstu, a nie tokenów rozumowania.
Strukturalne wyjścia narzucają schemat JSON na odpowiedź, dzięki czemu wyniki można wykorzystywać programistycznie bez konieczności stosowania kruchej analizy składniowej. W przypadku Responses schemat umieszcza się w polu text.format:
{"custom_id": "classify-1", "method": "POST", "url": "/v1/responses", "body": {"model": "grok-4.3", "input": "Classify this comment: « Delivery fast, product as described. »", "text": {"format": {"type": "json_schema", "name": "classification", "schema": {"type": "object", "properties": {"sentiment": {"type": "string", "enum": ["positive", "neutral", "negative"]}}, "required": ["sentiment"], "additionalProperties": false}, "strict": true}}}}
W przypadku Chat Completions odpowiednikiem jest parametr response_format typu json_schema (lub json_object dla poprawnego JSON-a bez narzuconego schematu).
Łączenie obu punktów końcowych
Możesz łączyć Requests do Responses i Chat Completions w ramach tego samego zadania wsadowego, gdzie każda linia wskazuje swój punkt końcowy w polu url:
{"custom_id": "simple-1", "method": "POST", "url": "/v1/chat/completions", "body": {"model": "grok-4.3", "messages": [{"role": "user", "content": "Summarize in one sentence: ..."}]}}
{"custom_id": "search-1", "method": "POST", "url": "/v1/responses", "body": {"model": "grok-4.3", "input": "AI news this week", "tools": [{"type": "web_search"}]}}
Elastyczność ta pozwala na współistnienie starych żądań Chat Completions i nowych żądań Responses podczas migracji.
Kluczowe wnioski
- Responses to zalecany punkt końcowy, Chat Completions to punkt typu legacy; oba korzystają z 20-procentowego rabatu dla kwalifikujących się modeli
- Responses jest wymagany do korzystania z narzędzi serwerowych (sieć, X, kod, MCP)
- Ustaw
temperaturena 0,7 itop_pna 0,95, zgodnie z zaleceniami xAI, oraz określ odpowiedni limit wyjścia - Strukturalne wyjścia konfiguruje się przez
text.format(Responses) lubresponse_format(Chat Completions) - Oba punkty końcowe mogą współistnieć w tym samym zadaniu wsadowym