Suomenkielinen versio
Tuotanto: Eräajo, optimointi ja havainnollistaminen
Siirry tuotantoon: eräpäätelmät jopa 1 miljoonaan pyyntöön, ennustetut tulosteet, lähdeviitteet ja havainnollistaminen (jäljitykset, arvioijat, offline-arvioinnit).
16 oppituntia noin 1 h 15 min Edistynyt
Mitä opit
- Valmistele eräpäätelmätyö JSONL-muodossa, seuraa sen tilaa ja nouda tulokset
- Vähennä vasteen viivettä ennustetuilla tulosteilla uudelleenkirjoitustehtävissä
- Toteuta viitteet viiteobjektilla perustaaksesi vastaukset lähteisiinsä
- Jäljitä sovellus OpenTelemetryllä, tutki tuotantojäljityksiä ja automatisoi arviointi LLM-arvioijilla
- Rakenna aineistoja jäljityksistä ja mittaa jokaista versiota offline-arvioinneilla
Kurssin tiedot
- Kenelle
- Kehittäjät, insinöörit ja integraattorit, jotka haluavat käyttää Mistral AI:ta sovelluksissaan API:n kautta.
- Esitiedot
- Näytetty kokemus sovellusten kehittämisestä ja niiden käyttöönotosta tuotantoympäristössä.
- Kesto
- 1 h 15 min — 16 oppituntia
- Toteutustavat
- 100 % verkkokurssi, itseohjautuva, käytettävissä 24/7 selaimesta. Edistyminen tallentuu, ja voit jatkaa milloin tahansa. Arvioitu kesto: 1 h 15 min.
- Arviointi
- Itsearviointi, joka perustuu kunkin oppitunnin päättäviin keskeisiin oppeihin, sekä esimerkkien suora harjoittelu omilla aineistoillasi. Viimeisen oppitunnin lopussa oleva 5 arvostellun kysymyksen loppukoe vahvistaa oppimisesi.
- Esteettömyys
- Kurssi on saavutettavissa vammaisille henkilöille: tekstisisältö yhteensopiva ruudunlukijoiden kanssa, näppäimistönavigointi ja värikontrasti vaatimusten mukainen. Ota yhteyttä sähköpostitse [email protected], jos tarvitset mukautuksia.
- Hinta
- Ilmainen
Kurssin sisältö
- 01 Päättely eräajona: miksi, milloin ja kustannussäästöt
- 02 Formaat JSONL, custom_id ja tiedoston lataus
- 03 Luo eräajo, seuraa tilaa ja lataa tulokset
- 04 Inline Batching: jopa 10 000 pyyntöä ilman tiedostoa
- 05 Vähennä viivettä ennustettujen tulosteiden avulla
- 06 Käytännön käyttötapaukset ennustetuille tulosteille
- 07 Toteuta ennustetut tulosteet Pythonilla
- 08 Lainaukset lähteineen: Viiteobjekti ja RAG
- 09 Toteuta viittaukset Pythonilla
- 10 Perustele vastaukset lähteisiin ja vähennä hallusinaatioita
- 11 Johdanto havainnoitavuuteen: jäljitykset, tuomarit ja arvioinnit
- 12 Tutustu: Tuotantoseurantojen haku ja tarkastelu
- 13 Tuomarit: LLM-arvioinnin automatisointi
- 14 Évaluations hors ligne : mesurer avant de déployer
- 15 Datasets: Rakenna arviointijoukkoja ja iteroi
- 16 Putki päästä päähän: jäljet, arvioijat, aineistot, arvioinnit