Pāriet uz galveno saturu
Latviešu— Izvēlēties valodu
Izvēlne

Latvijas izdevums

Ražošana, novērtējumi un optimizācija

Aptver latentumu, uzvedņu kešatmiņu, Batch API, novērtējumus, kompaktizāciju un pilnīgu ražošanas arhitektūru.

20 nodarbību ca. 2 h Augstākais

Ko jūs apgūsiet

  • Izmērīt zvana kopējo latentumu un identificēt prioritāros optimizācijas sviras
  • Samazināt izmaksas lielos mērogos, izmantojot uzvedņu kešatmiņu, prognozētās izvades un Batch API
  • Izstrādot asinhronu arhitektūru, kas balstīta uz rindām, paralēlismu un fona režīmu
  • Apgūt garas sarunas, izmantojot kompaktizāciju, tokenu skaitīšanu un budžeta plānošanu
  • Automatizēt novērtējumus, izmantojot Evals ietvaru, un integrēt tos CI/CD cauruļvadā

Kursa kartīte

Kam paredzēts
Izstrādātāji, inženieri un integrētāji, kas vēlas izmantot ChatGPT, izmantojot API, savās lietotnēs.
Priekšnosacījumi
Apstiprināta pieredze lietotņu izstrādē un izvietošanā ražošanā.
Ilgums
2 h — 20 nodarbību
Formāti
100% tiešsaistes pašmācības kurss, pieejams 24/7 no pārlūka. Progress tiek saglabāts, ļaujot jums atsākt jebkurā laikā. Paredzamais ilgums: 2 h.
Novērtējums
Pašnovērtējums, balstīts uz galvenajiem secinājumiem, kas noslēdz katru nodarbību, un piemēru tieša ieviešana, izmantojot savus piemērus. Noslēguma tests ar 5 labotiem jautājumiem pēdējās nodarbības beigās apstiprina mācīšanās rezultātus.
Pieejamība
Pašmācības kurss, kas pieejams cilvēkiem ar invaliditāti: teksta saturs saderīgs ar ekrāna lasītājiem, navigācija ar tastatūru un atbilstoši kontrasti. Jebkuru pielāgošanas vajadzību gadījumā rakstiet uz [email protected].
Cena
Gratis

Kursa saturs

  1. 01 Mērīt un analizēt latentumu
  2. 02 Optimisation de bout en bout : du prompt au réseau
  3. 03 Kešatmiņa pieprasījumiem: aprēķinu atkārtota izmantošana
  4. 04 Sorties prédites : des réponses plus rapides
  5. 05 Straumēšanas optimizācija
  6. 06 Batch API: apstrāde masveidā asinhroni
  7. 07 Arhitektūra asinhronai un rindas
  8. 08 Paralēlisms un vienlaicīgums
  9. 09 Režīms fonā
  10. 10 Izmaksu optimizēšana mērogā
  11. 11 Kompakcija: Garu sarunu saspiešana
  12. 12 Tokenu skaitīšana un budžeta plānošana
  13. 13 Izvērstā pieprasījumu kešošana
  14. 14 Stratēģijas aģentu konteksta pārvaldībai
  15. 15 Novērtē savus uzdevumus: metodes, vērtētāji un pāreja uz Promptfoo
  16. 16 Izveido pielāgotus novērtējumus
  17. 17 Rādītāji un etaloni
  18. 18 CI/CD priekš AI: Automatizēti vērtējumi
  19. 19 Satura moderācija lielos apjomos
  20. 20 Arhitektūra ražošanai: uzraudzība, brīdinājumi, mērogošana