Salt la conținutul principal
Română— Alege o limbă
Meniu

Ediția în limba română

Producție, Evaluări și Optimizare

Acoperă latența, stocarea în cache a prompturilor, API-ul Batch, evaluările, compactarea și arhitectura completă de producție.

20 lecții cca. 2 h Avansat

Ce veți învăța

  • Măsurați latența end-to-end a unui apel și identificați pârghiile de optimizare prioritare
  • Reduceți costurile la scară largă prin stocarea în cache a prompturilor, ieșirile predictibile și API-ul Batch
  • Proiectați o arhitectură asincronă bazată pe cozi, paralelism și mod background
  • Stăpâniți conversațiile lungi prin compactare, numărarea tokenilor și bugetare
  • Automatizați evaluările cu framework-ul Evals și integrați-le într-un pipeline CI/CD

Fișa cursului

Cui se adresează
Dezvoltatori, ingineri și integratori care doresc să utilizeze ChatGPT prin API în aplicațiile lor.
Prerechizite
Experiență confirmată în dezvoltarea și implementarea aplicațiilor în producție.
Durată
2 h — 20 lecții
Format
Curs online 100% în ritm propriu, accesibil 24/7 dintr-un browser. Progresul este salvat, permițându-vă să reluați cursul în orice moment. Durată estimată: 2 h.
Evaluare
Autoevaluare bazată pe punctele cheie care concluzionează fiecare lecție și implementarea directă a exemplelor pe propriile cazuri. Un quiz final de 5 întrebări corectate la sfârșitul ultimei lecții validează învățarea.
Accesibilitate
Curs în ritm propriu accesibil persoanelor cu dizabilități: conținut text compatibil cu cititoarele de ecran, navigare prin tastatură și contraste conforme. Pentru orice nevoi de adaptare, trimiteți un e-mail la [email protected].
Preț
Gratis

Conținutul cursului

  1. 01 Măsurarea și analiza latenței
  2. 02 Optimizare end-to-end: de la prompt la rețea
  3. 03 Cache de prompt: Reutilizarea calculelor
  4. 04 Rezultate previzionate: răspunsuri mai rapide
  5. 05 Streaming optimizat
  6. 06 API Batch: Procesare Asincronă Masivă
  7. 07 Arhitectură asincronă și cozi de așteptare
  8. 08 Paralelism și concurență
  9. 09 Modul de fundal
  10. 10 Optimizarea costurilor la scară largă
  11. 11 Compaction: Compresarea conversațiilor lungi
  12. 12 Numărarea și bugetarea tokenilor
  13. 13 Cache avansat pentru prompturi
  14. 14 Stratégii de context pentru agenți
  15. 15 Evaluați-vă prompturile: metode, evaluatori și migrarea către Promptfoo
  16. 16 Crearea evaluărilor personalizate
  17. 17 Metrici și repere de performanță
  18. 18 CI/CD pentru AI: Evaluări automate
  19. 19 Moderarea conținutului la scară largă
  20. 20 Arhitectură de producție: monitorizare, alertare, scalare