Lähe põhisisu juurde
Eesti— Vali keel
Menüü

Eestikeelne versioon

Tootmine: Partii, optimeerimine ja jälgitavus

Liikuge tootmisse: partii järeldused kuni 1 miljoni päringuni, ennustatud väljundid, tsiteeringud allikatega ja jälgitavus (jäljed, hindajad, võrguühenduseta hindamised).

16 õppetundi ca. 1 h 15 min Edasijõudnutele

Mida te õpite

  • Valmistage ette partii järelduste töö JSONL-vormingus, jälgige selle olekut ja hankige tulemused
  • Vähendage vastuse latentsust ennustatud väljundite abil ümberkirjutamisülesannetes
  • Rakendage tsiteeringuid viiteobjektiga, et põhjendada vastuseid nende allikates
  • Jälgige rakendust OpenTelemetry abil, uurige tootmisjälgi ja automatiseerige hindamist LLM-hindajatega
  • Koostage andmestikud jälgede põhjal ja mõõtke iga versiooni võrguühenduseta hindamistega

Kursuse andmed

Kellele mõeldud
Arendajad, insenerid ja integraatorid, kes soovivad kasutada Mistral AI API-d oma rakendustes.
Eeltingimused
Tõendatud kogemus rakenduste väljatöötamisel ja nende tootmisse kasutuselevõtmisel.
Kestus
1 h 15 min — 16 õppetundi
Õppevormid
100% veebipõhine, iseseisvas tempos kursus, mis on saadaval 24/7 brauseri kaudu. Edu salvestatakse ja saate seda igal ajal jätkata. Hinnanguline kestus: 1 h 15 min.
Hindamine
Enesehindamine, mis põhineb iga õppetundi lõpetavatel põhipunktidel, ja näidete otsene harjutamine oma näidetel. Lõplik 5 hinnatud küsimusega test viimase õppetundi lõpus kinnitab teie omandatud teadmisi.
Kättesaadavus
Kursus on ligipääsetav puuetega inimestele: tekstisisu on ühilduv ekraanilugeritega, klaviatuuril navigeerimine ja värvikontrast on nõuetega kooskõlas. Kohandamisvajaduse korral saatke e-kiri aadressil [email protected].
Hind
Tasuta

Kursuse sisu

  1. 01 Järelduste partii töötlemine: miks, millal ja kulude kokkuhoid
  2. 02 JSONL-vorming, custom_id ja faili üleslaadimine
  3. 03 Loo partiiülesanne, jälgi olekut ja laadi tulemused alla
  4. 04 Rühmtöötlus reasisese sisendiga: kuni 10 000 päringut ilma failita
  5. 05 Vähenda latentsust ennustatud väljunditega
  6. 06 Reaalsed kasutusjuhtumid ennustatud väljundite jaoks
  7. 07 Implementeeri ennustatud väljundid Pythonis
  8. 08 Tsiteerimine allikatega: viiteobjekt ja RAG
  9. 09 Teosta tsiteerimine Pythonis
  10. 10 Maanda vastuseid allikates ja vähenda hallutsinatsioone
  11. 11 Sissejuhatus jälgitavusse: jäljed, hindajad ja hindamised
  12. 12 Uuri: otsi ja kontrolli tootmise jälgi
  13. 13 Hindajad: LLM-i automaatne hindamine
  14. 14 Évaluations hors ligne : mesurez avant de déployer
  15. 15 Andmestikud: hindamiskomplektide koostamine ja iteratsioon
  16. 16 End-to-end pipeline: jäljed, hindajad, andmestikud, hindamised