Preskoči na glavni sadržaj
Hrvatski— Odaberite jezik
Izbornik

Hrvatsko izdanje

Produkcija, evaluacije i optimizacija

Obuhvaća latenciju, predmemoriranje upita, Batch API, evaluacije, kompresiju i kompletnu produkcijsku arhitekturu.

20 lekcija oko 2 h Napredno

Što ćete naučiti

  • Izmjeriti latenciju poziva od kraja do kraja i identificirati prioritetne poluge za optimizaciju
  • Smanjiti troškove u velikom opsegu korištenjem predmemoriranja upita, predviđenih izlaza i Batch API-ja
  • Dizajnirati asinkronu arhitekturu temeljenu na redovima, paralelizmu i pozadinskom načinu rada
  • Savladati duge razgovore kroz kompresiju, brojanje tokena i planiranje proračuna
  • Automatizirati evaluacije pomoću okvira Evals i integrirati ih u CI/CD pipeline

O tečaju

Za koga je namijenjen
Programeri, inženjeri i integratori koji žele iskoristiti ChatGPT putem API-ja u svojim aplikacijama.
Preduvjeti
Potvrđeno iskustvo u razvoju aplikacija i njihovom uvođenju u produkciju.
Trajanje
2 h — 20 lekcija
Format
Tečaj koji se odvija 100 % online u vlastitom tempu, dostupan 24/7 putem preglednika. Napredak se sprema, što vam omogućuje nastavak u bilo kojem trenutku. Procijenjeno trajanje: 2 h.
Način ocjenjivanja
Samoprocjena na temelju ključnih poruka koje zaključuju svaku lekciju i izravna implementacija primjera na vlastitim slučajevima. Završni kviz od 5 ispravljenih pitanja na kraju posljednje lekcije validira usvojeno znanje.
Pristupačnost
Tečaj u vlastitom tempu dostupan osobama s invaliditetom: tekstualni sadržaj kompatibilan s čitačima zaslona, navigacija tipkovnicom i usklađeni kontrasti. Za bilo kakve potrebe prilagodbe, pošaljite e-mail na [email protected].
Cijena
Besplatno

Sadržaj tečaja

  1. 01 Mjerenje i analiza latencije
  2. 02 Optimizacija od kraja do kraja: od upita do mreže
  3. 03 Međuspremnik upita: Ponovna uporaba izračuna
  4. 04 Izlazi predviđanja: Brži odgovori
  5. 05 Optimizirano strujanje
  6. 06 Batch API: Masovna asinkrona obrada
  7. 07 Asinkrona arhitektura i redovi
  8. 08 Paralelizam i konkurentnost
  9. 09 Način rada u pozadini
  10. 10 Optimizacija troškova u velikom obujmu
  11. 11 Kompakcija: Sažimanje dugih razgovora
  12. 12 Brojanje tokena i upravljanje proračunom
  13. 13 Napredno keširanje upita
  14. 14 Strategije konteksta za agente
  15. 15 Procijeni svoje upite: metode, ocjenjivači i migracija na Promptfoo
  16. 16 Créer des évaluations personnalisées
  17. 17 Metrike i mjerila
  18. 18 CI/CD za AI: Evaluacije automatizirane
  19. 19 Moderacija sadržaja u velikom obujmu
  20. 20 Arhitektura za produkciju: nadzor, upozorenja, skaliranje