Suomenkielinen versio
Tuotanto, arvioinnit ja optimointi
Käsittelee viivettä, kehotevälimuistia, Batch API:a, arviointeja, tiivistämistä ja koko tuotantoarkkitehtuuria.
20 oppituntia noin 2 h Edistynyt
Mitä opit
- Mittaa puhelun päästä päähän -viive ja tunnista ensisijaiset optimointivivut
- Vähennä kustannuksia laajassa mittakaavassa kehotevälimuistin, ennustettujen tulosteiden ja Batch API:n avulla
- Suunnittele asynkroninen arkkitehtuuri, joka perustuu jonoihin, rinnakkaisuuteen ja taustatilaan
- Hallitse pitkiä keskusteluja tiivistämisen, token-laskennan ja budjetoinnin avulla
- Automatisoi arvioinnit Evals-kehyksen avulla ja integroi ne CI/CD-putkeen
Kurssin tiedot
- Kenelle
- Kehittäjät, insinöörit ja integraattorit, jotka haluavat hyödyntää ChatGPT:tä API:n kautta sovelluksissaan.
- Esitiedot
- Vahvistettu kokemus sovelluskehityksestä ja käyttöönotosta tuotantoympäristöön.
- Kesto
- 2 h — 20 oppituntia
- Toteutustavat
- 100 % verkkopohjainen itseohjautuva kurssi, joka on käytettävissä 24/7 selaimesta. Edistyminen tallentuu, joten voit jatkaa milloin tahansa. Arvioitu kesto: 2 h.
- Arviointi
- Itsearviointi, joka perustuu kunkin oppitunnin päättäviin keskeisiin oppeihin, ja esimerkkien suora toteutus omilla esimerkeilläsi. Viimeisen oppitunnin lopussa oleva 5 korjatun kysymyksen loppukoe vahvistaa oppimisen.
- Esteettömyys
- Itseohjautuva kurssi, joka on esteettömästi vammaisten henkilöiden saatavilla: tekstisisältö yhteensopiva näytönlukijoiden kanssa, näppäimistönavigointi ja vaatimusten mukaiset kontrastit. Ota yhteyttä sähköpostitse osoitteeseen [email protected], jos tarvitset mukautuksia.
- Hinta
- Ilmainen
Kurssin sisältö
- 01 Mittaa ja analysoi latenssia
- 02 Optimointi kokonaisuutena: kehotteesta verkkoon
- 03 Prompt-välimuisti: Laskentojen uudelleenkäyttö
- 04 Ennustetut tulosteet: nopeampia vastauksia
- 05 Optimoitu suoratoisto
- 06 Batch API: Massiivinen asynkroninen käsittely
- 07 Asynkroninen arkkitehtuuri ja jonot
- 08 Rinnakkaisuus ja samanaikaisuus
- 09 Taustatila
- 10 Kustannusten optimointi laajassa mittakaavassa
- 11 Kompaktointi: Pitkien keskustelujen tiivistäminen
- 12 Tokenien laskeminen ja budjetointi
- 13 Kehittynyt kehotevälimuisti
- 14 Kontekstistrategiat agenteille
- 15 Arvioi kehotteitasi: menetelmät, arvostelijat ja siirtyminen Promptfoohon
- 16 Luo mukautettuja arviointeja
- 17 Mittarit ja vertailuarvot
- 18 CI/CD pour l'IA : Évaluations automatisées
- 19 Sisällön moderointi laajassa mittakaavassa
- 20 Tuotantoarkkitehtuuri: valvonta, hälytykset, skaalaus