Eestikeelne versioon
Tootmine, hindamine ja optimeerimine
Käsitleb latentsust, vihjete vahemällu salvestamist, Batch API-t, hindamist, komprimeerimist ja täielikku tootmisarhitektuuri.
20 õppetundi ca. 2 h Edasijõudnutele
Mida te õpite
- Mõõta kõne otsest latentsust ja tuvastada esmatähtsad optimeerimishoovad
- Vähendada kulusid suurel skaalal, kasutades vihjete vahemällu salvestamist, ennustatud väljundeid ja Batch API-t
- Kujundada asünkroonne arhitektuur, mis põhineb järjekordadel, paralleelsusel ja taustrežiimil
- Valdada pikki vestlusi komprimeerimise, tokenite lugemise ja eelarvestamise kaudu
- Automatiseerida hindamist Evals raamistikuga ja integreerida see CI/CD torustikku
Kursuse andmed
- Kellele mõeldud
- Arendajad, insenerid ja integraatorid, kes soovivad rakendustes ära kasutada ChatGPT-d API kaudu.
- Eeltingimused
- Kinnitatud kogemus rakenduste arendamisel ja tootmisse juurutamisel.
- Kestus
- 2 h — 20 õppetundi
- Õppevormid
- 100% veebipõhine iseseisev kursus, mis on ööpäevaringselt brauserist kättesaadav. Edu salvestatakse, võimaldades teil igal ajal jätkata. Hinnanguline kestus: 2 h.
- Hindamine
- Enesehindamine, mis põhineb iga õppetunni lõpus esitatud põhitulemustel, ja näidete otsene rakendamine oma näidistel. Viimase õppetunni lõpus olev 5 parandatud küsimusest koosnev lõppviktoriin kinnitab õpitu omandamist.
- Kättesaadavus
- Iseseisev kursus, mis on ligipääsetav puuetega inimestele: tekstisisu ühildub ekraanilugeritega, toetab klaviatuuril navigeerimist ja vastab kontrastinõuetele. Kohandamisvajaduse korral saatke e-kiri aadressil [email protected].
- Hind
- Tasuta
Kursuse sisu
- 01 Mõõda ja analüüsi latentsust
- 02 End-to-end optimiseerimine: vihjest võrguni
- 03 Prompti vahemällu salvestamine: arvutuste taaskasutamine
- 04 Väljundite ennustamine: kiiremad vastused
- 05 Optimeeritud voogedastus
- 06 Batch API: massiline asünkroonne töötlemine
- 07 Asünkroonne arhitektuur ja järjekorrad
- 08 Paralleelsus ja samaaegsus
- 09 Taustrežiim
- 10 Kulude optimeerimine suurel skaalal
- 11 Kompaktimine: pikkade vestluste tihendamine
- 12 Tokenite loendamine ja eelarvestamine
- 13 Täiustatud vihjekätkimine
- 14 Agentide kontekstistrateegiad
- 15 Hinda oma vihjeid: meetodid, hindajad ja üleminek Promptfoole
- 16 Loo kohandatud hindamisi
- 17 Mõõdikud ja võrdlusalused
- 18 CI/CD AI jaoks: automatiseeritud hindamised
- 19 Sisu mõõdukas ulatuses
- 20 Tootmisarhitektuur: jälgimine, hoiatused, skaleerimine