Latvijas izdevums
Ražošana: Partijas, optimizācija un novērojamība
Pāreja uz ražošanu: partijas secinājumi līdz 1 miljonom pieprasījumu, prognozētās izvades, citāti ar avotiem un novērojamība (izsekošana, vērtētāji, bezsaistes novērtējumi).
16 nodarbību ca. 1 h 15 min Augstākais
Ko jūs apgūsiet
- Sagatavot partijas secinājumu uzdevumu formātā JSONL, izsekot tā statusu un iegūt rezultātus
- Samazināt atbildes latentumu, izmantojot prognozētās izvades pārrakstīšanas uzdevumos
- Ieviest citātus ar atsauces objektu, lai pamatotu atbildes ar to avotiem
- Izsekot lietotni, izmantojot OpenTelemetry, izpētīt ražošanas izsekošanas datus un automatizēt novērtēšanu ar LLM vērtētājiem
- Veidot datu kopas no izsekošanas datiem un novērtēt katru versiju, izmantojot bezsaistes novērtējumus
Kursa kartīte
- Kam paredzēts
- Izstrādātāji, inženieri un integrētāji, kas vēlas izmantot Mistral AI, izmantojot API, savās lietotnēs.
- Priekšnosacījumi
- Pierādīta pieredze lietotņu izstrādē un to izvietošanā ražošanā.
- Ilgums
- 1 h 15 min — 16 nodarbību
- Formāti
- 100% tiešsaistes kurss pašmācības režīmā, pieejams 24/7 no pārlūkprogrammas. Progress tiek saglabāts, un varat turpināt jebkurā laikā. Paredzamais ilgums: 1 h 15 min.
- Novērtējums
- Pašnovērtējums, balstīts uz galvenajiem secinājumiem, kas noslēdz katru nodarbību, un piemēru tieša praktizēšana ar jūsu pašu piemēriem. Noslēguma tests ar 5 vērtētiem jautājumiem pēdējās nodarbības beigās apstiprina apgūto.
- Pieejamība
- Kurss pieejams cilvēkiem ar invaliditāti: teksta saturs saderīgs ar ekrāna lasītājiem, navigācija ar tastatūru un atbilstošs krāsu kontrasts. Jebkuru pielāgošanas vajadzību gadījumā rakstiet uz [email protected].
- Cena
- Gratis
Kursa saturs
- 01 Secinājumu izveide partijās: kāpēc, kad un izmaksu ietaupījumi
- 02 Formāts JSONL, custom_id un failu augšupielāde
- 03 Izveidot paketes uzdevumu, izsekot tā statusam un lejupielādēt rezultātus
- 04 Apvienošana tiešsaistē: līdz 10 000 pieprasījumiem bez faila
- 05 Samaziniet latentumu ar prognozēto izvadi
- 06 Cas d'usage concrets des sorties prédites
- 07 Implementēt prognozētās izvades Python valodā
- 08 Citāti ar avotiem: atsauces objekts un RAG
- 09 Implementēt citēšanu Python valodā
- 10 Pamatot atbildes avotos un mazināt halucinācijas
- 11 Ievads novērojamībā: izsekošana, vērtētāji un novērtējumi
- 12 Izpēte: Ražošanas pēdu meklēšana un inspekcija
- 13 Tiesneši: automatizēta LLM novērtēšana
- 14 Évaluations hors ligne : mesurer avant de déployer
- 15 Datu kopas: izveido novērtēšanas kopas un iterē
- 16 Pabeigts novērojamības cikls: izsekošana, vērtētāji, datu kopas, novērtējumi