Lietuviška laida
Gamybinė aplinka, vertinimai ir optimizavimas
Nagrinėjami vėlavimas, prompt'ų saugojimas talpykloje, Batch API, vertinimai, konteksto suspaudimas ir pilna gamybinės aplinkos architektūra.
20 paskaitų maždaug 2 val. Pažengusiems
Ko išmoksite
- Matuoti viso proceso (end-to-end) vėlavimą ir nustatyti pirmiausia taikytinas optimizavimo priemones
- Mažinti kaštus išaugus apimtims: prompt caching, Predicted Outputs ir Batch API
- Suprojektuoti asinchroninę architektūrą su eilėmis, lygiagrečiu vykdymu ir foniniu režimu
- Valdyti ilgus pokalbius naudojant kompaktiškumą, žetonų skaičiavimą ir biudžetavimą
- Automatizuoti vertinimus su Evals sistema ir integruoti juos į CI/CD grandinę
Kurso kortelė
- Kam skirta
- Kūrėjai, inžinieriai ir integratoriai, norintys naudoti ChatGPT per API savo programose.
- Būtinos žinios
- Tvirta programų kūrimo ir diegimo gamybinėje aplinkoje patirtis.
- Trukmė
- 2 val. — 20 paskaitų
- Formatas
- 100 % nuotolinis savarankiško mokymosi kursas, prieinamas 24/7 per naršyklę. Eiga išsaugoma, galima tęsti bet kada. Numatoma trukmė: 2 val..
- Vertinimas
- Savęs vertinimas pagal kiekvieną pamoką užbaigiančias pagrindines įžvalgas ir tiesioginis pavyzdžių diegimas savo naudojimo atvejais. Paskutinės pamokos pabaigoje pateikiamas baigiamasis 5 klausimų testas su atsakymais, leidžiantis patvirtinti įgytus įgūdžius.
- Prieinamumas
- Savarankiško mokymosi kursas, prieinamas žmonėms su negalia: teksto turinys suderinamas su ekrano skaitytuvais, navigacija klaviatūra ir kontrastai atitinka reikalavimus. Dėl bet kokių pritaikymo poreikių kreipkitės el. paštu [email protected].
- Kaina
- Nemokama
Kurso turinys
- 01 Išmatuokite ir analizuokite delsą
- 02 Optimisation de bout en bout : du prompt au réseau
- 03 Promptų kešavimas: skaičiavimų pakartotinis naudojimas
- 04 Išvesties prognozavimas: greitesni atsakymai
- 05 Optimizuotas srautinis perdavimas
- 06 Batch API: masinis asinchroninis apdorojimas
- 07 Asinchroninė architektūra ir eilės
- 08 Lygiagretumas ir konkurencija
- 09 Veikimas foniniame režime
- 10 Išlaidų optimizavimas dideliu mastu
- 11 Kompaktavimas: ilgų pokalbių suspaudimas
- 12 Skaičiavimas ir biudžeto planavimas pagal tokenus
- 13 Išplėstinis užklausų talpinimas į podėlį
- 14 Stratégijos kontekstui valdyti agentuose
- 15 Įvertinkite savo užklausas: metodai, vertintojai ir migracija į Promptfoo
- 16 Kurkite individualius vertinimus
- 17 Rodikliai ir lyginamieji testai
- 18 CI/CD pour l'IA : Évaluations automatisées
- 19 Turinio moderavimas dideliu mastu
- 20 Architektūra gamybai: stebėjimas, įspėjimai, mastelio keitimas