Preskok na glavno vsebino
Slovenščina— Izberite jezik
Meni

Slovenska izdaja

Produkcija, evalvacije in optimizacija

Pokriva zakasnitev, predpomnjenje pozivov, Batch API, evalvacije, stiskanje in popolno produkcijsko arhitekturo.

20 lekcij pribl. 2 h Napredni

Kaj se boste naučili

  • Izmerite zakasnitev od konca do konca pri klicu in identificirajte prednostne vzvode za optimizacijo
  • Zmanjšajte stroške v merilu s predpomnjenjem pozivov, predvidenimi izpisi in Batch API-jem
  • Načrtujte asinhrono arhitekturo, ki temelji na čakalnih vrstah, vzporednosti in ozadinskem načinu
  • Obvladajte dolge pogovore s stiskanjem, štetjem žetonov in določanjem proračuna
  • Avtomatizirajte evalvacije z ogrodjem Evals in jih integrirajte v cevovod CI/CD

Podatki o tečaju

Za kogo je namenjeno
Razvijalci, inženirji in integratorji, ki želijo izkoristiti ChatGPT prek API-ja v svojih aplikacijah.
Predpogoji
Potrjene izkušnje z razvojem aplikacij in njihovo uvedbo v produkcijo.
Trajanje
2 h — 20 lekcij
Oblika izvedbe
100 % spletni tečaj v lastnem tempu, dostopen 24/7 iz brskalnika. Napredek je shranjen, kar vam omogoča nadaljevanje kadarkoli. Predvideno trajanje: 2 h.
Preverjanje znanja
Samooценjevanje na podlagi ključnih spoznanj, ki zaključujejo vsako lekcijo, in neposredna implementacija primerov na vaših lastnih primerih. Končni kviz s 5 popravljenimi vprašanji na koncu zadnje lekcije potrdi usvojeno znanje.
Dostopnost
Tečaj v lastnem tempu, dostopen osebam s posebnimi potrebami: besedilna vsebina združljiva z bralniki zaslona, navigacijo s tipkovnico in skladnimi kontrasti. Za morebitne potrebe po prilagoditvah pišite na [email protected].
Cena
Gratis

Vsebina tečaja

  1. 01 Merjenje in analiza zakasnitve
  2. 02 Optimizacija od konca do konca: od poziva do omrežja
  3. 03 Predpomnjenje pozivov: Ponovna uporaba izračunov
  4. 04 Izhodi napovedi: hitrejši odzivi
  5. 05 Optimizirano pretakanje
  6. 06 Batch API: obdelava velikih količin podatkov asinhrono
  7. 07 Asinhrona arhitektura in čakalne vrste
  8. 08 Vzporednost in sočasnost
  9. 09 Način delovanja v ozadju
  10. 10 Optimizacija stroškov v velikem obsegu
  11. 11 Kompaktiranje: Stiskanje dolgih pogovorov
  12. 12 Štetje žetonov in načrtovanje proračuna
  13. 13 Napredno predpomnjenje pozivov
  14. 14 Strategije konteksta za agente
  15. 15 Oceni svoje pozive: metode, ocenjevalci in selitev na Promptfoo
  16. 16 Ustvari prilagojena vrednotenja
  17. 17 Metrike in merila uspešnosti
  18. 18 CI/CD za AI: Avtomatizirane evalvacije
  19. 19 Moderiranje vsebine v velikem obsegu
  20. 20 Arhitektura za produkcijo: nadzor, opozarjanje, skaliranje