Latvijas izdevums
Ražošana, novērtējumi un optimizācija
Aptver latentumu, uzvedņu kešatmiņu, Batch API, novērtējumus, kompaktizāciju un pilnīgu ražošanas arhitektūru.
20 nodarbību ca. 2 h Augstākais
Ko jūs apgūsiet
- Izmērīt zvana kopējo latentumu un identificēt prioritāros optimizācijas sviras
- Samazināt izmaksas lielos mērogos, izmantojot uzvedņu kešatmiņu, prognozētās izvades un Batch API
- Izstrādot asinhronu arhitektūru, kas balstīta uz rindām, paralēlismu un fona režīmu
- Apgūt garas sarunas, izmantojot kompaktizāciju, tokenu skaitīšanu un budžeta plānošanu
- Automatizēt novērtējumus, izmantojot Evals ietvaru, un integrēt tos CI/CD cauruļvadā
Kursa kartīte
- Kam paredzēts
- Izstrādātāji, inženieri un integrētāji, kas vēlas izmantot ChatGPT, izmantojot API, savās lietotnēs.
- Priekšnosacījumi
- Apstiprināta pieredze lietotņu izstrādē un izvietošanā ražošanā.
- Ilgums
- 2 h — 20 nodarbību
- Formāti
- 100% tiešsaistes pašmācības kurss, pieejams 24/7 no pārlūka. Progress tiek saglabāts, ļaujot jums atsākt jebkurā laikā. Paredzamais ilgums: 2 h.
- Novērtējums
- Pašnovērtējums, balstīts uz galvenajiem secinājumiem, kas noslēdz katru nodarbību, un piemēru tieša ieviešana, izmantojot savus piemērus. Noslēguma tests ar 5 labotiem jautājumiem pēdējās nodarbības beigās apstiprina mācīšanās rezultātus.
- Pieejamība
- Pašmācības kurss, kas pieejams cilvēkiem ar invaliditāti: teksta saturs saderīgs ar ekrāna lasītājiem, navigācija ar tastatūru un atbilstoši kontrasti. Jebkuru pielāgošanas vajadzību gadījumā rakstiet uz [email protected].
- Cena
- Gratis
Kursa saturs
- 01 Mērīt un analizēt latentumu
- 02 Optimisation de bout en bout : du prompt au réseau
- 03 Kešatmiņa pieprasījumiem: aprēķinu atkārtota izmantošana
- 04 Sorties prédites : des réponses plus rapides
- 05 Straumēšanas optimizācija
- 06 Batch API: apstrāde masveidā asinhroni
- 07 Arhitektūra asinhronai un rindas
- 08 Paralēlisms un vienlaicīgums
- 09 Režīms fonā
- 10 Izmaksu optimizēšana mērogā
- 11 Kompakcija: Garu sarunu saspiešana
- 12 Tokenu skaitīšana un budžeta plānošana
- 13 Izvērstā pieprasījumu kešošana
- 14 Stratēģijas aģentu konteksta pārvaldībai
- 15 Novērtē savus uzdevumus: metodes, vērtētāji un pāreja uz Promptfoo
- 16 Izveido pielāgotus novērtējumus
- 17 Rādītāji un etaloni
- 18 CI/CD priekš AI: Automatizēti vērtējumi
- 19 Satura moderācija lielos apjomos
- 20 Arhitektūra ražošanai: uzraudzība, brīdinājumi, mērogošana