Eestikeelne versioon
Tootmine: Partii, optimeerimine ja jälgitavus
Liikuge tootmisse: partii järeldused kuni 1 miljoni päringuni, ennustatud väljundid, tsiteeringud allikatega ja jälgitavus (jäljed, hindajad, võrguühenduseta hindamised).
16 õppetundi ca. 1 h 15 min Edasijõudnutele
Mida te õpite
- Valmistage ette partii järelduste töö JSONL-vormingus, jälgige selle olekut ja hankige tulemused
- Vähendage vastuse latentsust ennustatud väljundite abil ümberkirjutamisülesannetes
- Rakendage tsiteeringuid viiteobjektiga, et põhjendada vastuseid nende allikates
- Jälgige rakendust OpenTelemetry abil, uurige tootmisjälgi ja automatiseerige hindamist LLM-hindajatega
- Koostage andmestikud jälgede põhjal ja mõõtke iga versiooni võrguühenduseta hindamistega
Kursuse andmed
- Kellele mõeldud
- Arendajad, insenerid ja integraatorid, kes soovivad kasutada Mistral AI API-d oma rakendustes.
- Eeltingimused
- Tõendatud kogemus rakenduste väljatöötamisel ja nende tootmisse kasutuselevõtmisel.
- Kestus
- 1 h 15 min — 16 õppetundi
- Õppevormid
- 100% veebipõhine, iseseisvas tempos kursus, mis on saadaval 24/7 brauseri kaudu. Edu salvestatakse ja saate seda igal ajal jätkata. Hinnanguline kestus: 1 h 15 min.
- Hindamine
- Enesehindamine, mis põhineb iga õppetundi lõpetavatel põhipunktidel, ja näidete otsene harjutamine oma näidetel. Lõplik 5 hinnatud küsimusega test viimase õppetundi lõpus kinnitab teie omandatud teadmisi.
- Kättesaadavus
- Kursus on ligipääsetav puuetega inimestele: tekstisisu on ühilduv ekraanilugeritega, klaviatuuril navigeerimine ja värvikontrast on nõuetega kooskõlas. Kohandamisvajaduse korral saatke e-kiri aadressil [email protected].
- Hind
- Tasuta
Kursuse sisu
- 01 Järelduste partii töötlemine: miks, millal ja kulude kokkuhoid
- 02 JSONL-vorming, custom_id ja faili üleslaadimine
- 03 Loo partiiülesanne, jälgi olekut ja laadi tulemused alla
- 04 Rühmtöötlus reasisese sisendiga: kuni 10 000 päringut ilma failita
- 05 Vähenda latentsust ennustatud väljunditega
- 06 Reaalsed kasutusjuhtumid ennustatud väljundite jaoks
- 07 Implementeeri ennustatud väljundid Pythonis
- 08 Tsiteerimine allikatega: viiteobjekt ja RAG
- 09 Teosta tsiteerimine Pythonis
- 10 Maanda vastuseid allikates ja vähenda hallutsinatsioone
- 11 Sissejuhatus jälgitavusse: jäljed, hindajad ja hindamised
- 12 Uuri: otsi ja kontrolli tootmise jälgi
- 13 Hindajad: LLM-i automaatne hindamine
- 14 Évaluations hors ligne : mesurez avant de déployer
- 15 Andmestikud: hindamiskomplektide koostamine ja iteratsioon
- 16 End-to-end pipeline: jäljed, hindajad, andmestikud, hindamised