Pāriet uz galveno saturu
Latviešu— Izvēlēties valodu
Izvēlne

Latvijas izdevums

Ražošana: Partijas, optimizācija un novērojamība

Pāreja uz ražošanu: partijas secinājumi līdz 1 miljonom pieprasījumu, prognozētās izvades, citāti ar avotiem un novērojamība (izsekošana, vērtētāji, bezsaistes novērtējumi).

16 nodarbību ca. 1 h 15 min Augstākais

Ko jūs apgūsiet

  • Sagatavot partijas secinājumu uzdevumu formātā JSONL, izsekot tā statusu un iegūt rezultātus
  • Samazināt atbildes latentumu, izmantojot prognozētās izvades pārrakstīšanas uzdevumos
  • Ieviest citātus ar atsauces objektu, lai pamatotu atbildes ar to avotiem
  • Izsekot lietotni, izmantojot OpenTelemetry, izpētīt ražošanas izsekošanas datus un automatizēt novērtēšanu ar LLM vērtētājiem
  • Veidot datu kopas no izsekošanas datiem un novērtēt katru versiju, izmantojot bezsaistes novērtējumus

Kursa kartīte

Kam paredzēts
Izstrādātāji, inženieri un integrētāji, kas vēlas izmantot Mistral AI, izmantojot API, savās lietotnēs.
Priekšnosacījumi
Pierādīta pieredze lietotņu izstrādē un to izvietošanā ražošanā.
Ilgums
1 h 15 min — 16 nodarbību
Formāti
100% tiešsaistes kurss pašmācības režīmā, pieejams 24/7 no pārlūkprogrammas. Progress tiek saglabāts, un varat turpināt jebkurā laikā. Paredzamais ilgums: 1 h 15 min.
Novērtējums
Pašnovērtējums, balstīts uz galvenajiem secinājumiem, kas noslēdz katru nodarbību, un piemēru tieša praktizēšana ar jūsu pašu piemēriem. Noslēguma tests ar 5 vērtētiem jautājumiem pēdējās nodarbības beigās apstiprina apgūto.
Pieejamība
Kurss pieejams cilvēkiem ar invaliditāti: teksta saturs saderīgs ar ekrāna lasītājiem, navigācija ar tastatūru un atbilstošs krāsu kontrasts. Jebkuru pielāgošanas vajadzību gadījumā rakstiet uz [email protected].
Cena
Gratis

Kursa saturs

  1. 01 Secinājumu izveide partijās: kāpēc, kad un izmaksu ietaupījumi
  2. 02 Formāts JSONL, custom_id un failu augšupielāde
  3. 03 Izveidot paketes uzdevumu, izsekot tā statusam un lejupielādēt rezultātus
  4. 04 Apvienošana tiešsaistē: līdz 10 000 pieprasījumiem bez faila
  5. 05 Samaziniet latentumu ar prognozēto izvadi
  6. 06 Cas d'usage concrets des sorties prédites
  7. 07 Implementēt prognozētās izvades Python valodā
  8. 08 Citāti ar avotiem: atsauces objekts un RAG
  9. 09 Implementēt citēšanu Python valodā
  10. 10 Pamatot atbildes avotos un mazināt halucinācijas
  11. 11 Ievads novērojamībā: izsekošana, vērtētāji un novērtējumi
  12. 12 Izpēte: Ražošanas pēdu meklēšana un inspekcija
  13. 13 Tiesneši: automatizēta LLM novērtēšana
  14. 14 Évaluations hors ligne : mesurer avant de déployer
  15. 15 Datu kopas: izveido novērtēšanas kopas un iterē
  16. 16 Pabeigts novērojamības cikls: izsekošana, vērtētāji, datu kopas, novērtējumi