Pereiti prie pagrindinio turinio
Lietuvių— Pasirinkite kalbą
Meniu

Lietuviška laida

Gamybinė aplinka, vertinimai ir optimizavimas

Nagrinėjami vėlavimas, prompt'ų saugojimas talpykloje, Batch API, vertinimai, konteksto suspaudimas ir pilna gamybinės aplinkos architektūra.

20 paskaitų maždaug 2 val. Pažengusiems

Ko išmoksite

  • Matuoti viso proceso (end-to-end) vėlavimą ir nustatyti pirmiausia taikytinas optimizavimo priemones
  • Mažinti kaštus išaugus apimtims: prompt caching, Predicted Outputs ir Batch API
  • Suprojektuoti asinchroninę architektūrą su eilėmis, lygiagrečiu vykdymu ir foniniu režimu
  • Valdyti ilgus pokalbius naudojant kompaktiškumą, žetonų skaičiavimą ir biudžetavimą
  • Automatizuoti vertinimus su Evals sistema ir integruoti juos į CI/CD grandinę

Kurso kortelė

Kam skirta
Kūrėjai, inžinieriai ir integratoriai, norintys naudoti ChatGPT per API savo programose.
Būtinos žinios
Tvirta programų kūrimo ir diegimo gamybinėje aplinkoje patirtis.
Trukmė
2 val. — 20 paskaitų
Formatas
100 % nuotolinis savarankiško mokymosi kursas, prieinamas 24/7 per naršyklę. Eiga išsaugoma, galima tęsti bet kada. Numatoma trukmė: 2 val..
Vertinimas
Savęs vertinimas pagal kiekvieną pamoką užbaigiančias pagrindines įžvalgas ir tiesioginis pavyzdžių diegimas savo naudojimo atvejais. Paskutinės pamokos pabaigoje pateikiamas baigiamasis 5 klausimų testas su atsakymais, leidžiantis patvirtinti įgytus įgūdžius.
Prieinamumas
Savarankiško mokymosi kursas, prieinamas žmonėms su negalia: teksto turinys suderinamas su ekrano skaitytuvais, navigacija klaviatūra ir kontrastai atitinka reikalavimus. Dėl bet kokių pritaikymo poreikių kreipkitės el. paštu [email protected].
Kaina
Nemokama

Kurso turinys

  1. 01 Išmatuokite ir analizuokite delsą
  2. 02 Optimisation de bout en bout : du prompt au réseau
  3. 03 Promptų kešavimas: skaičiavimų pakartotinis naudojimas
  4. 04 Išvesties prognozavimas: greitesni atsakymai
  5. 05 Optimizuotas srautinis perdavimas
  6. 06 Batch API: masinis asinchroninis apdorojimas
  7. 07 Asinchroninė architektūra ir eilės
  8. 08 Lygiagretumas ir konkurencija
  9. 09 Veikimas foniniame režime
  10. 10 Išlaidų optimizavimas dideliu mastu
  11. 11 Kompaktavimas: ilgų pokalbių suspaudimas
  12. 12 Skaičiavimas ir biudžeto planavimas pagal tokenus
  13. 13 Išplėstinis užklausų talpinimas į podėlį
  14. 14 Stratégijos kontekstui valdyti agentuose
  15. 15 Įvertinkite savo užklausas: metodai, vertintojai ir migracija į Promptfoo
  16. 16 Kurkite individualius vertinimus
  17. 17 Rodikliai ir lyginamieji testai
  18. 18 CI/CD pour l'IA : Évaluations automatisées
  19. 19 Turinio moderavimas dideliu mastu
  20. 20 Architektūra gamybai: stebėjimas, įspėjimai, mastelio keitimas