Siirry pääsisältöön
Suomi— Valitse kieli
Valikko

Suomenkielinen versio

Tuotanto, arvioinnit ja optimointi

Käsittelee viivettä, kehotevälimuistia, Batch API:a, arviointeja, tiivistämistä ja koko tuotantoarkkitehtuuria.

20 oppituntia noin 2 h Edistynyt

Mitä opit

  • Mittaa puhelun päästä päähän -viive ja tunnista ensisijaiset optimointivivut
  • Vähennä kustannuksia laajassa mittakaavassa kehotevälimuistin, ennustettujen tulosteiden ja Batch API:n avulla
  • Suunnittele asynkroninen arkkitehtuuri, joka perustuu jonoihin, rinnakkaisuuteen ja taustatilaan
  • Hallitse pitkiä keskusteluja tiivistämisen, token-laskennan ja budjetoinnin avulla
  • Automatisoi arvioinnit Evals-kehyksen avulla ja integroi ne CI/CD-putkeen

Kurssin tiedot

Kenelle
Kehittäjät, insinöörit ja integraattorit, jotka haluavat hyödyntää ChatGPT:tä API:n kautta sovelluksissaan.
Esitiedot
Vahvistettu kokemus sovelluskehityksestä ja käyttöönotosta tuotantoympäristöön.
Kesto
2 h — 20 oppituntia
Toteutustavat
100 % verkkopohjainen itseohjautuva kurssi, joka on käytettävissä 24/7 selaimesta. Edistyminen tallentuu, joten voit jatkaa milloin tahansa. Arvioitu kesto: 2 h.
Arviointi
Itsearviointi, joka perustuu kunkin oppitunnin päättäviin keskeisiin oppeihin, ja esimerkkien suora toteutus omilla esimerkeilläsi. Viimeisen oppitunnin lopussa oleva 5 korjatun kysymyksen loppukoe vahvistaa oppimisen.
Esteettömyys
Itseohjautuva kurssi, joka on esteettömästi vammaisten henkilöiden saatavilla: tekstisisältö yhteensopiva näytönlukijoiden kanssa, näppäimistönavigointi ja vaatimusten mukaiset kontrastit. Ota yhteyttä sähköpostitse osoitteeseen [email protected], jos tarvitset mukautuksia.
Hinta
Ilmainen

Kurssin sisältö

  1. 01 Mittaa ja analysoi latenssia
  2. 02 Optimointi kokonaisuutena: kehotteesta verkkoon
  3. 03 Prompt-välimuisti: Laskentojen uudelleenkäyttö
  4. 04 Ennustetut tulosteet: nopeampia vastauksia
  5. 05 Optimoitu suoratoisto
  6. 06 Batch API: Massiivinen asynkroninen käsittely
  7. 07 Asynkroninen arkkitehtuuri ja jonot
  8. 08 Rinnakkaisuus ja samanaikaisuus
  9. 09 Taustatila
  10. 10 Kustannusten optimointi laajassa mittakaavassa
  11. 11 Kompaktointi: Pitkien keskustelujen tiivistäminen
  12. 12 Tokenien laskeminen ja budjetointi
  13. 13 Kehittynyt kehotevälimuisti
  14. 14 Kontekstistrategiat agenteille
  15. 15 Arvioi kehotteitasi: menetelmät, arvostelijat ja siirtyminen Promptfoohon
  16. 16 Luo mukautettuja arviointeja
  17. 17 Mittarit ja vertailuarvot
  18. 18 CI/CD pour l'IA : Évaluations automatisées
  19. 19 Sisällön moderointi laajassa mittakaavassa
  20. 20 Tuotantoarkkitehtuuri: valvonta, hälytykset, skaalaus