Wersja polska
Produkcja, ewaluacje i optymalizacja
Obejmuje opóźnienia, buforowanie promptów, Batch API, ewaluacje, kompresję oraz kompletną architekturę produkcyjną.
20 lekcji ok. 2 h Zaawansowany
Czego się nauczysz
- Pomiar opóźnienia end-to-end wywołania i identyfikacja priorytetowych dźwigni optymalizacji
- Redukcja kosztów na skalę dzięki buforowaniu promptów, Predicted Outputs oraz Batch API
- Projektowanie architektury asynchronicznej opartej na kolejkach, równoległości i trybie tła
- Opanowanie długich rozmów poprzez kompresję, liczenie tokenów i budżetowanie
- Automatyzacja ewaluacji za pomocą frameworka Evals i integracja ich z potokiem CI/CD
Karta kursu
- Dla kogo
- Deweloperzy, inżynierowie i integratorzy chcący wykorzystać ChatGPT poprzez API w swoich aplikacjach.
- Wymagania wstępne
- Potwierdzone doświadczenie w tworzeniu aplikacji i ich wdrażaniu do środowiska produkcyjnego.
- Czas trwania
- 2 h — 20 lekcji
- Forma
- Kurs online w 100% we własnym tempie, dostępny 24/7 z poziomu przeglądarki. Postępy są zapisywane, co pozwala na wznowienie nauki w dowolnym momencie. Szacowany czas trwania: 2 h.
- Weryfikacja wiedzy
- Samoocena w oparciu o kluczowe wnioski kończące każdą lekcję oraz bezpośrednie wdrożenie przykładów na własnych danych. Końcowy quiz składający się z 5 pytań z odpowiedziami na końcu ostatniej lekcji potwierdza przyswojenie wiedzy.
- Dostępność
- Kurs we własnym tempie dostępny dla osób z niepełnosprawnościami: treść tekstowa kompatybilna z czytnikami ekranu, nawigacja klawiaturowa i zgodne kontrasty. W przypadku potrzeb dostosowania prosimy o kontakt pod adresem [email protected].
- Cena
- Bezpłatnie
Program kursu
- 01 Mierzenie i analiza opóźnień
- 02 Optymalizacja end-to-end: od promptu do sieci
- 03 Buforowanie promptów: Ponowne wykorzystanie obliczeń
- 04 Wyjścia przewidywane: szybsze odpowiedzi
- 05 Strumieniowanie zoptymalizowane
- 06 Batch API: Przetwarzanie asynchroniczne na dużą skalę
- 07 Architektura asynchroniczna i kolejki zadań
- 08 Równoległość i współbieżność
- 09 Tryb asynchroniczny (background)
- 10 Optymalizacja kosztów na dużą skalę
- 11 Kompaktowanie: kompresja długich rozmów
- 12 Liczenie tokenów i zarządzanie budżetem
- 13 Zaawansowane buforowanie promptów
- 14 Strategie kontekstu dla agentów
- 15 Oceniaj swoje prompty: metody, oceniające i migracja do Promptfoo
- 16 Twórz własne ewaluacje
- 17 Metryki i punkty odniesienia
- 18 CI/CD dla AI: Automatyczne Ewaluacje
- 19 Moderacja treści na dużą skalę
- 20 Architektura produkcyjna: monitorowanie, alerty, skalowanie