Slovenska izdaja
Produkcija, evalvacije in optimizacija
Pokriva zakasnitev, predpomnjenje pozivov, Batch API, evalvacije, stiskanje in popolno produkcijsko arhitekturo.
20 lekcij pribl. 2 h Napredni
Kaj se boste naučili
- Izmerite zakasnitev od konca do konca pri klicu in identificirajte prednostne vzvode za optimizacijo
- Zmanjšajte stroške v merilu s predpomnjenjem pozivov, predvidenimi izpisi in Batch API-jem
- Načrtujte asinhrono arhitekturo, ki temelji na čakalnih vrstah, vzporednosti in ozadinskem načinu
- Obvladajte dolge pogovore s stiskanjem, štetjem žetonov in določanjem proračuna
- Avtomatizirajte evalvacije z ogrodjem Evals in jih integrirajte v cevovod CI/CD
Podatki o tečaju
- Za kogo je namenjeno
- Razvijalci, inženirji in integratorji, ki želijo izkoristiti ChatGPT prek API-ja v svojih aplikacijah.
- Predpogoji
- Potrjene izkušnje z razvojem aplikacij in njihovo uvedbo v produkcijo.
- Trajanje
- 2 h — 20 lekcij
- Oblika izvedbe
- 100 % spletni tečaj v lastnem tempu, dostopen 24/7 iz brskalnika. Napredek je shranjen, kar vam omogoča nadaljevanje kadarkoli. Predvideno trajanje: 2 h.
- Preverjanje znanja
- Samooценjevanje na podlagi ključnih spoznanj, ki zaključujejo vsako lekcijo, in neposredna implementacija primerov na vaših lastnih primerih. Končni kviz s 5 popravljenimi vprašanji na koncu zadnje lekcije potrdi usvojeno znanje.
- Dostopnost
- Tečaj v lastnem tempu, dostopen osebam s posebnimi potrebami: besedilna vsebina združljiva z bralniki zaslona, navigacijo s tipkovnico in skladnimi kontrasti. Za morebitne potrebe po prilagoditvah pišite na [email protected].
- Cena
- Gratis
Vsebina tečaja
- 01 Merjenje in analiza zakasnitve
- 02 Optimizacija od konca do konca: od poziva do omrežja
- 03 Predpomnjenje pozivov: Ponovna uporaba izračunov
- 04 Izhodi napovedi: hitrejši odzivi
- 05 Optimizirano pretakanje
- 06 Batch API: obdelava velikih količin podatkov asinhrono
- 07 Asinhrona arhitektura in čakalne vrste
- 08 Vzporednost in sočasnost
- 09 Način delovanja v ozadju
- 10 Optimizacija stroškov v velikem obsegu
- 11 Kompaktiranje: Stiskanje dolgih pogovorov
- 12 Štetje žetonov in načrtovanje proračuna
- 13 Napredno predpomnjenje pozivov
- 14 Strategije konteksta za agente
- 15 Oceni svoje pozive: metode, ocenjevalci in selitev na Promptfoo
- 16 Ustvari prilagojena vrednotenja
- 17 Metrike in merila uspešnosti
- 18 CI/CD za AI: Avtomatizirane evalvacije
- 19 Moderiranje vsebine v velikem obsegu
- 20 Arhitektura za produkcijo: nadzor, opozarjanje, skaliranje