Przejdź do głównej treści
Polski— Wybierz język
Menu

Wersja polska

Produkcja, ewaluacje i optymalizacja

Obejmuje opóźnienia, buforowanie promptów, Batch API, ewaluacje, kompresję oraz kompletną architekturę produkcyjną.

20 lekcji ok. 2 h Zaawansowany

Czego się nauczysz

  • Pomiar opóźnienia end-to-end wywołania i identyfikacja priorytetowych dźwigni optymalizacji
  • Redukcja kosztów na skalę dzięki buforowaniu promptów, Predicted Outputs oraz Batch API
  • Projektowanie architektury asynchronicznej opartej na kolejkach, równoległości i trybie tła
  • Opanowanie długich rozmów poprzez kompresję, liczenie tokenów i budżetowanie
  • Automatyzacja ewaluacji za pomocą frameworka Evals i integracja ich z potokiem CI/CD

Karta kursu

Dla kogo
Deweloperzy, inżynierowie i integratorzy chcący wykorzystać ChatGPT poprzez API w swoich aplikacjach.
Wymagania wstępne
Potwierdzone doświadczenie w tworzeniu aplikacji i ich wdrażaniu do środowiska produkcyjnego.
Czas trwania
2 h — 20 lekcji
Forma
Kurs online w 100% we własnym tempie, dostępny 24/7 z poziomu przeglądarki. Postępy są zapisywane, co pozwala na wznowienie nauki w dowolnym momencie. Szacowany czas trwania: 2 h.
Weryfikacja wiedzy
Samoocena w oparciu o kluczowe wnioski kończące każdą lekcję oraz bezpośrednie wdrożenie przykładów na własnych danych. Końcowy quiz składający się z 5 pytań z odpowiedziami na końcu ostatniej lekcji potwierdza przyswojenie wiedzy.
Dostępność
Kurs we własnym tempie dostępny dla osób z niepełnosprawnościami: treść tekstowa kompatybilna z czytnikami ekranu, nawigacja klawiaturowa i zgodne kontrasty. W przypadku potrzeb dostosowania prosimy o kontakt pod adresem [email protected].
Cena
Bezpłatnie

Program kursu

  1. 01 Mierzenie i analiza opóźnień
  2. 02 Optymalizacja end-to-end: od promptu do sieci
  3. 03 Buforowanie promptów: Ponowne wykorzystanie obliczeń
  4. 04 Wyjścia przewidywane: szybsze odpowiedzi
  5. 05 Strumieniowanie zoptymalizowane
  6. 06 Batch API: Przetwarzanie asynchroniczne na dużą skalę
  7. 07 Architektura asynchroniczna i kolejki zadań
  8. 08 Równoległość i współbieżność
  9. 09 Tryb asynchroniczny (background)
  10. 10 Optymalizacja kosztów na dużą skalę
  11. 11 Kompaktowanie: kompresja długich rozmów
  12. 12 Liczenie tokenów i zarządzanie budżetem
  13. 13 Zaawansowane buforowanie promptów
  14. 14 Strategie kontekstu dla agentów
  15. 15 Oceniaj swoje prompty: metody, oceniające i migracja do Promptfoo
  16. 16 Twórz własne ewaluacje
  17. 17 Metryki i punkty odniesienia
  18. 18 CI/CD dla AI: Automatyczne Ewaluacje
  19. 19 Moderacja treści na dużą skalę
  20. 20 Architektura produkcyjna: monitorowanie, alerty, skalowanie