Lähe põhisisu juurde
Eesti— Vali keel
Menüü

Eestikeelne versioon

Tootmine, hindamine ja optimeerimine

Käsitleb latentsust, vihjete vahemällu salvestamist, Batch API-t, hindamist, komprimeerimist ja täielikku tootmisarhitektuuri.

20 õppetundi ca. 2 h Edasijõudnutele

Mida te õpite

  • Mõõta kõne otsest latentsust ja tuvastada esmatähtsad optimeerimishoovad
  • Vähendada kulusid suurel skaalal, kasutades vihjete vahemällu salvestamist, ennustatud väljundeid ja Batch API-t
  • Kujundada asünkroonne arhitektuur, mis põhineb järjekordadel, paralleelsusel ja taustrežiimil
  • Valdada pikki vestlusi komprimeerimise, tokenite lugemise ja eelarvestamise kaudu
  • Automatiseerida hindamist Evals raamistikuga ja integreerida see CI/CD torustikku

Kursuse andmed

Kellele mõeldud
Arendajad, insenerid ja integraatorid, kes soovivad rakendustes ära kasutada ChatGPT-d API kaudu.
Eeltingimused
Kinnitatud kogemus rakenduste arendamisel ja tootmisse juurutamisel.
Kestus
2 h — 20 õppetundi
Õppevormid
100% veebipõhine iseseisev kursus, mis on ööpäevaringselt brauserist kättesaadav. Edu salvestatakse, võimaldades teil igal ajal jätkata. Hinnanguline kestus: 2 h.
Hindamine
Enesehindamine, mis põhineb iga õppetunni lõpus esitatud põhitulemustel, ja näidete otsene rakendamine oma näidistel. Viimase õppetunni lõpus olev 5 parandatud küsimusest koosnev lõppviktoriin kinnitab õpitu omandamist.
Kättesaadavus
Iseseisev kursus, mis on ligipääsetav puuetega inimestele: tekstisisu ühildub ekraanilugeritega, toetab klaviatuuril navigeerimist ja vastab kontrastinõuetele. Kohandamisvajaduse korral saatke e-kiri aadressil [email protected].
Hind
Tasuta

Kursuse sisu

  1. 01 Mõõda ja analüüsi latentsust
  2. 02 End-to-end optimiseerimine: vihjest võrguni
  3. 03 Prompti vahemällu salvestamine: arvutuste taaskasutamine
  4. 04 Väljundite ennustamine: kiiremad vastused
  5. 05 Optimeeritud voogedastus
  6. 06 Batch API: massiline asünkroonne töötlemine
  7. 07 Asünkroonne arhitektuur ja järjekorrad
  8. 08 Paralleelsus ja samaaegsus
  9. 09 Taustrežiim
  10. 10 Kulude optimeerimine suurel skaalal
  11. 11 Kompaktimine: pikkade vestluste tihendamine
  12. 12 Tokenite loendamine ja eelarvestamine
  13. 13 Täiustatud vihjekätkimine
  14. 14 Agentide kontekstistrateegiad
  15. 15 Hinda oma vihjeid: meetodid, hindajad ja üleminek Promptfoole
  16. 16 Loo kohandatud hindamisi
  17. 17 Mõõdikud ja võrdlusalused
  18. 18 CI/CD AI jaoks: automatiseeritud hindamised
  19. 19 Sisu mõõdukas ulatuses
  20. 20 Tootmisarhitektuur: jälgimine, hoiatused, skaleerimine