Hrvatsko izdanje
Produkcija, evaluacije i optimizacija
Obuhvaća latenciju, predmemoriranje upita, Batch API, evaluacije, kompresiju i kompletnu produkcijsku arhitekturu.
20 lekcija oko 2 h Napredno
Što ćete naučiti
- Izmjeriti latenciju poziva od kraja do kraja i identificirati prioritetne poluge za optimizaciju
- Smanjiti troškove u velikom opsegu korištenjem predmemoriranja upita, predviđenih izlaza i Batch API-ja
- Dizajnirati asinkronu arhitekturu temeljenu na redovima, paralelizmu i pozadinskom načinu rada
- Savladati duge razgovore kroz kompresiju, brojanje tokena i planiranje proračuna
- Automatizirati evaluacije pomoću okvira Evals i integrirati ih u CI/CD pipeline
O tečaju
- Za koga je namijenjen
- Programeri, inženjeri i integratori koji žele iskoristiti ChatGPT putem API-ja u svojim aplikacijama.
- Preduvjeti
- Potvrđeno iskustvo u razvoju aplikacija i njihovom uvođenju u produkciju.
- Trajanje
- 2 h — 20 lekcija
- Format
- Tečaj koji se odvija 100 % online u vlastitom tempu, dostupan 24/7 putem preglednika. Napredak se sprema, što vam omogućuje nastavak u bilo kojem trenutku. Procijenjeno trajanje: 2 h.
- Način ocjenjivanja
- Samoprocjena na temelju ključnih poruka koje zaključuju svaku lekciju i izravna implementacija primjera na vlastitim slučajevima. Završni kviz od 5 ispravljenih pitanja na kraju posljednje lekcije validira usvojeno znanje.
- Pristupačnost
- Tečaj u vlastitom tempu dostupan osobama s invaliditetom: tekstualni sadržaj kompatibilan s čitačima zaslona, navigacija tipkovnicom i usklađeni kontrasti. Za bilo kakve potrebe prilagodbe, pošaljite e-mail na [email protected].
- Cijena
- Besplatno
Sadržaj tečaja
- 01 Mjerenje i analiza latencije
- 02 Optimizacija od kraja do kraja: od upita do mreže
- 03 Međuspremnik upita: Ponovna uporaba izračuna
- 04 Izlazi predviđanja: Brži odgovori
- 05 Optimizirano strujanje
- 06 Batch API: Masovna asinkrona obrada
- 07 Asinkrona arhitektura i redovi
- 08 Paralelizam i konkurentnost
- 09 Način rada u pozadini
- 10 Optimizacija troškova u velikom obujmu
- 11 Kompakcija: Sažimanje dugih razgovora
- 12 Brojanje tokena i upravljanje proračunom
- 13 Napredno keširanje upita
- 14 Strategije konteksta za agente
- 15 Procijeni svoje upite: metode, ocjenjivači i migracija na Promptfoo
- 16 Créer des évaluations personnalisées
- 17 Metrike i mjerila
- 18 CI/CD za AI: Evaluacije automatizirane
- 19 Moderacija sadržaja u velikom obujmu
- 20 Arhitektura za produkciju: nadzor, upozorenja, skaliranje