Przejdź do głównej treści
Polski— Wybierz język
Menu

Koncepcja Batch API

Lekcja 1 z 12 Zaktualizowano 2 listopada 2026 Programista
Na tej stronie
  1. Asynchroniczne przetwarzanie wsadowe
  2. Rabat 20% na kwalifikujące się modele
  3. Czteroetapowy przepływ pracy
  4. Obsługiwane punkty końcowe
  5. Kiedy używać Batch API
  6. Kluczowe wnioski

Zaktualizowano 2 listopada 2026 r. na podstawie dokumentacji xAI: rabat na wsady (batch) wynosi 20% dla kwalifikujących się modeli tekstowych (a nie 50%), przykłady opierają się na REST API oraz oficjalnym xai-sdk (client.batch.*; Batch API od xAI nie używa formatu OpenAI, więc SDK OpenAI tu nie działa), a API Responses jest preferowane przed Chat Completions, które w xAI są punktem końcowym typu legacy. Źródła: Batch API · Referencje REST · Cennik Batch.

Asynchroniczne przetwarzanie wsadowe

Batch API od xAI pozwala wysłać tysiące żądań w jednej operacji, a następnie pobrać wyniki po zakończeniu przetwarzania. W przeciwieństwie do wywołań synchronicznych, gdzie czekasz na każdą odpowiedź z osobna, tryb wsadowy działa asynchronicznie: wysyłasz wsad, pracujesz dalej i wracasz po wyniki później.

To podejście odpowiada na realną potrzebę. Gdy musisz podsumować 10 000 artykułów, sklasyfikować 50 000 zgłoszeń wsparcia lub napisać opisy do katalogu, wysyłanie żądań pojedynczo byłoby wolne, kosztowne i szybko doprowadziłoby do przekroczenia limitów przepustowości (rate limits). Żądania wsadowe nie są wliczane do tych limitów.

Rabat 20% na kwalifikujące się modele

Korzyść ekonomiczna jest realna, choć skromniejsza, niż sugerują niektóre źródła. xAI stosuje rabat 20% do żądań wsadowych dla swoich kwalifikujących się modeli tekstowych – stan na 2 listopada 2026 r.: grok-4.7, grok-4.6, grok-4.5, grok-4.3 oraz trzy warianty grok-4.20-0309 – obejmujący wszystkie typy tokenów: wejściowe, wyjściowe, cache i rozumowanie. Modele niewymienione na tej liście nie otrzymują rabatu, nawet jeśli akceptują tryb wsadowy.

Generowanie obrazów i wideo działa w trybie wsadowym, ale według standardowych stawek. Nie każdy model obsługuje wsady: strona każdego modelu informuje, czy jest to możliwe, a żądanie skierowane do modelu niekwalifikującego się zostanie odrzucone z komunikatem not supported for batch processing.

-20%
Tokeny dla modeli kwalifikujących się
24h
Typowy czas realizacji, bez gwarancji
50K
Żądań na plik
200 MB
Maksymalny rozmiar JSONL

Czteroetapowy przepływ pracy

Batch API podlega prostemu i przewidywalnemu schematowi:

  1. Utwórz nazwany wsad za pomocą POST /v1/batches
  2. Dodaj żądania,要么 poprzez kolejne wywołania, albo wszystkie naraz w pliku JSONL
  3. Monitoruj postęp, korzystając z liczników wsadu
  4. Pobierz wyniki, gdy będą dostępne, lub na samym końcu

Ten przepływ pracy oddziela zgłaszanie od przetwarzania: nie musisz utrzymywać otwartego połączenia, podczas gdy Grok pracuje. Większość wsadów jest przetwarzana w czasie krótszym niż 24 godziny, ale xAI tego nie gwarantuje: czas realizacji zależy od obciążenia i wielkości wsadu.

Obsługiwane punkty końcowe

Batch API nie ogranicza się tylko do tekstu. Pojedynczy wsad może mieszać żądania do:

  • /v1/responses — API Responses, z narzędziami po stronie serwera (wyszukiwanie w sieci, wyszukiwanie w X, wykonywanie kodu, MCP)
  • /v1/chat/completions — API Chat Completions, punkt końcowy typu legacy w xAI
  • /v1/images/generations i /v1/images/edits — generowanie i edycja obrazów
  • /v1/videos/generations (lub /v1/videos), /v1/videos/edits oraz /v1/videos/extensions — generowanie, edycja i rozszerzanie wideo

Możesz na przykład napisać opisy produktów i wygenerować do nich wizualizacje w ramach tego samego wsadu.

Kiedy używać Batch API

Batch API sprawdza się zawsze, gdy na wynik możesz poczekać:

  • Przetwarzanie dużych zbiorów danych: klasyfikacja, ekstrakcja i podsumowywanie tysięcy dokumentów
  • Ewaluacje: uruchamianie tysięcy testowych promptów przez model
  • Potoki danych: wzbogacanie baz danych, moderacja zaległości treści i raporty przygotowywane w nocy

Jeśli Twój przypadek użycia wymaga natychmiastowej odpowiedzi (chatbot, asystent czasu rzeczywistego), Batch API nie jest właściwym wyborem: służy ono obciążeniom, w których opóźnienie rzędu kilku godzin jest akceptowalne.

Kluczowe wnioski

  • Batch API przetwarza żądania asynchronicznie, większość w czasie poniżej 24 godzin, bez gwarancji
  • Rabat 20% na wszystkie tokeny dla kwalifikujących się modeli tekstowych; obrazy i wideo w standardowych cenach
  • Przepływ pracy składa się z czterech kroków: utwórz, dodaj, monitoruj, pobierz
  • Tekst, obrazy i wideo mogą współistnieć w tym samym wsadzie
  • Żądania wsadowe nie wliczają się do limitów przepustowości, ale nie nadają się do zastosowań czasu rzeczywistego