Ediția în limba română
Producție, Evaluări și Optimizare
Acoperă latența, stocarea în cache a prompturilor, API-ul Batch, evaluările, compactarea și arhitectura completă de producție.
20 lecții cca. 2 h Avansat
Ce veți învăța
- Măsurați latența end-to-end a unui apel și identificați pârghiile de optimizare prioritare
- Reduceți costurile la scară largă prin stocarea în cache a prompturilor, ieșirile predictibile și API-ul Batch
- Proiectați o arhitectură asincronă bazată pe cozi, paralelism și mod background
- Stăpâniți conversațiile lungi prin compactare, numărarea tokenilor și bugetare
- Automatizați evaluările cu framework-ul Evals și integrați-le într-un pipeline CI/CD
Fișa cursului
- Cui se adresează
- Dezvoltatori, ingineri și integratori care doresc să utilizeze ChatGPT prin API în aplicațiile lor.
- Prerechizite
- Experiență confirmată în dezvoltarea și implementarea aplicațiilor în producție.
- Durată
- 2 h — 20 lecții
- Format
- Curs online 100% în ritm propriu, accesibil 24/7 dintr-un browser. Progresul este salvat, permițându-vă să reluați cursul în orice moment. Durată estimată: 2 h.
- Evaluare
- Autoevaluare bazată pe punctele cheie care concluzionează fiecare lecție și implementarea directă a exemplelor pe propriile cazuri. Un quiz final de 5 întrebări corectate la sfârșitul ultimei lecții validează învățarea.
- Accesibilitate
- Curs în ritm propriu accesibil persoanelor cu dizabilități: conținut text compatibil cu cititoarele de ecran, navigare prin tastatură și contraste conforme. Pentru orice nevoi de adaptare, trimiteți un e-mail la [email protected].
- Preț
- Gratis
Conținutul cursului
- 01 Măsurarea și analiza latenței
- 02 Optimizare end-to-end: de la prompt la rețea
- 03 Cache de prompt: Reutilizarea calculelor
- 04 Rezultate previzionate: răspunsuri mai rapide
- 05 Streaming optimizat
- 06 API Batch: Procesare Asincronă Masivă
- 07 Arhitectură asincronă și cozi de așteptare
- 08 Paralelism și concurență
- 09 Modul de fundal
- 10 Optimizarea costurilor la scară largă
- 11 Compaction: Compresarea conversațiilor lungi
- 12 Numărarea și bugetarea tokenilor
- 13 Cache avansat pentru prompturi
- 14 Stratégii de context pentru agenți
- 15 Evaluați-vă prompturile: metode, evaluatori și migrarea către Promptfoo
- 16 Crearea evaluărilor personalizate
- 17 Metrici și repere de performanță
- 18 CI/CD pentru AI: Evaluări automate
- 19 Moderarea conținutului la scară largă
- 20 Arhitectură de producție: monitorizare, alertare, scalare