Przejdź do głównej treści
Polski— Wybierz język
Menu

Ukończone czaty i odpowiedzi w trybie wsadowym

Lekcja 8 z 12 Zaktualizowano 3 listopada 2026 Programista
Na tej stronie
  1. Dwa punkty końcowe dla tekstu w trybie wsadowym
  2. Odpowiedzi (Responses) w trybie wsadowym
  3. Ukończone czaty (Chat Completions) w trybie wsadowym
  4. Różnice w trybie wsadowym
  5. Wspólne zaawansowane parametry
  6. Łączenie obu punktów końcowych
  7. Kluczowe wnioski

Zaktualizowano 3 listopada 2026 r. Zgodnie z najlepszymi praktykami xAI: zaleca się ustawienie parametru temperature na 0,7, a top_p na 0,95, zamiast stosować niską wartość temperatury. Źródło: Najlepsze praktyki.

Zaktualizowano 2 listopada 2026 r. Zgodnie z dokumentacją xAI: rabat wsadowy wynosi 20% dla kwalifikujących się modeli tekstowych (a nie 50%), przykłady odnoszą się do interfejsu REST API oraz oficjalnego pakietu xai-sdk (client.batch.*; interfejs Batch API od xAI nie korzysta z formatu OpenAI, więc SDK OpenAI nie ma tu zastosowania), a interfejs Responses API ma pierwszeństwo przed Chat Completions, który jest punktem końcowym typu legacy w xAI. Źródła: Batch API · Dokumentacja REST · Cennik wsadowy.

Dwa punkty końcowe dla tekstu w trybie wsadowym

Punkty końcowe /v1/responses oraz /v1/chat/completions obsługują większość zadań wsadowych dotyczących tekstu. W przypadku kwalifikujących się modeli oba korzystają z 20-procentowego rabatu. xAI nie traktuje ich jednak równorzędnie: Responses to zalecany interfejs API, natomiast Chat Completions to punkt końcowy typu legacy, utrzymywany ze względu na istniejący kod. Lekcja ta szczegółowo omawia ich specyfikę w kontekście przetwarzania wsadowego.

Odpowiedzi (Responses) w trybie wsadowym

W trybie wsadowym interfejs Responses API przyjmuje te same parametry co w trybie synchronicznym; zmienia się jedynie koperta JSONL:

{"custom_id": "sum-1", "method": "POST", "url": "/v1/responses", "body": {"model": "grok-4.3", "instructions": "You are a summarization expert.", "input": "Summarize this financial report in five key points: ...", "temperature": 0.3, "max_output_tokens": 500}}

Umożliwia to dostęp do narzędzi serwerowych Groka – wyszukiwania w sieci, wyszukiwania w serwisie X, wykonywania kodu, MCP – które są uruchamiane podczas przetwarzania wsadowego:

{"custom_id": "research-1", "method": "POST", "url": "/v1/responses", "body": {"model": "grok-4.3", "input": [{"role": "user", "content": "What are the latest trends in generative AI?"}], "tools": [{"type": "web_search"}]}}

Typowe przypadki użycia

  • Klasyfikacja tekstu (analiza sentymentu, kategoryzacja, określanie pilności)
  • Strukturalne wydobywanie informacji (encje, daty, kwoty)
  • Podsumowania, parafrazy i tłumaczenia na dużą skalę
  • Wzbogacanie danych poprzez wyszukiwanie w sieci

Ukończone czaty (Chat Completions) w trybie wsadowym

Interfejs Chat Completions nadal jest obsługiwany i korzysta z formatu messages:

{"custom_id": "sum-2", "method": "POST", "url": "/v1/chat/completions", "body": {"model": "grok-4.3", "messages": [{"role": "system", "content": "You are a summarization expert."}, {"role": "user", "content": "Summarize this financial report in five key points: ..."}], "temperature": 0.3, "max_completion_tokens": 500}}

Limit długości nosi nazwę max_completion_tokens; przestarzały parametr max_tokens jest wycofany. Przeznacz ten punkt końcowy wyłącznie dla żądań pochodzących z kodu, który został już pod niego napisany: nowe funkcje pojawiają się najpierw w interfejsie Responses.

Różnice w trybie wsadowym

FunkcjaResponsesChat Completions
Status w xAIZalecanyLegacy
Format wejściainput (tekst lub lista wiadomości), instructionsmessages
Narzędzia serweroweTak (sieć, X, kod, MCP)Nieudokumentowane
Wywoływanie funkcjiTakTak
Strukturalne wyjściatext.formatresponse_format
Limit wyjściamax_output_tokensmax_completion_tokens
Rabat wsadowy (kwalifikujące się modele)20%20%

Wspólne zaawansowane parametry

temperature w xAI przyjmuje wartości od 0 do 2, przy czym wartości powyżej 1 są próbkowane jak 1. Jednakże najlepsze praktyki xAI zalecają ustawienie tego parametru na 0,7, a top_p na 0,95, i niezbyt duże odchodzenie od tych wartości: spójność w przetwarzaniu wsadowym wynika przede wszystkim z precyzyjnych instrukcji i strukturalnych wyjść.

Limit wyjścia (max_output_tokens lub max_completion_tokens) musi być ustawiony jawnie: bez niego żądanie może wygenerować bardzo długą odpowiedź i niepotrzebnie zużyć tokeny. Ograniczenie to dotyczy wyłącznie widocznego tekstu, a nie tokenów rozumowania.

Strukturalne wyjścia narzucają schemat JSON na odpowiedź, dzięki czemu wyniki można wykorzystywać programistycznie bez konieczności stosowania kruchej analizy składniowej. W przypadku Responses schemat umieszcza się w polu text.format:

{"custom_id": "classify-1", "method": "POST", "url": "/v1/responses", "body": {"model": "grok-4.3", "input": "Classify this comment: « Delivery fast, product as described. »", "text": {"format": {"type": "json_schema", "name": "classification", "schema": {"type": "object", "properties": {"sentiment": {"type": "string", "enum": ["positive", "neutral", "negative"]}}, "required": ["sentiment"], "additionalProperties": false}, "strict": true}}}}

W przypadku Chat Completions odpowiednikiem jest parametr response_format typu json_schema (lub json_object dla poprawnego JSON-a bez narzuconego schematu).

Łączenie obu punktów końcowych

Możesz łączyć Requests do Responses i Chat Completions w ramach tego samego zadania wsadowego, gdzie każda linia wskazuje swój punkt końcowy w polu url:

{"custom_id": "simple-1", "method": "POST", "url": "/v1/chat/completions", "body": {"model": "grok-4.3", "messages": [{"role": "user", "content": "Summarize in one sentence: ..."}]}}
{"custom_id": "search-1", "method": "POST", "url": "/v1/responses", "body": {"model": "grok-4.3", "input": "AI news this week", "tools": [{"type": "web_search"}]}}

Elastyczność ta pozwala na współistnienie starych żądań Chat Completions i nowych żądań Responses podczas migracji.

Kluczowe wnioski

  • Responses to zalecany punkt końcowy, Chat Completions to punkt typu legacy; oba korzystają z 20-procentowego rabatu dla kwalifikujących się modeli
  • Responses jest wymagany do korzystania z narzędzi serwerowych (sieć, X, kod, MCP)
  • Ustaw temperature na 0,7 i top_p na 0,95, zgodnie z zaleceniami xAI, oraz określ odpowiedni limit wyjścia
  • Strukturalne wyjścia konfiguruje się przez text.format (Responses) lub response_format (Chat Completions)
  • Oba punkty końcowe mogą współistnieć w tym samym zadaniu wsadowym