Česká edice
Produkce: Dávkové zpracování, optimalizace a pozorovatelnost
Přechod do produkce: dávková inference až pro 1 milion požadavků, předpovídané výstupy, citace se zdroji a pozorovatelnost (stopy, hodnotitelé, offline evaluace).
16 lekcí cca 1 h 15 min Pokročilý
Co se naučíte
- Připravit úlohu dávkové inference ve formátu JSONL, sledovat její stav a získat výsledky
- Snížit latenci odpovědí pomocí předpovídaných výstupů u úloh přepisování
- Implementovat citace s objektem reference pro ukotvení odpovědí ve zdrojích
- Stopovat aplikaci pomocí OpenTelemetry, prozkoumat produkční stopy a automatizovat evaluaci pomocí LLM hodnotitelů
- Vytvářet datové sady ze stop a měřit každou verzi pomocí offline evaluací
Informace o kurzu
- Komu je kurz určen
- Vývojáři, inženýři a integrátoři, kteří chtějí využívat Mistral AI přes API ve svých aplikacích.
- Předpoklady
- Ověřené zkušenosti s vývojem aplikací a jejich nasazováním do produkce.
- Doba trvání
- 1 h 15 min — 16 lekcí
- Forma výuky
- 100 % online, kurz vlastním tempem, dostupný 24/7 z prohlížeče. Postup se ukládá a můžeš kdykoli pokračovat. Odhadovaná délka: 1 h 15 min.
- Hodnocení
- Sebehodnocení na základě klíčových poznatků, které uzavírají každou lekci, a přímé procvičování příkladů na vlastních datech. Závěrečný kvíz s 5 hodnocenými otázkami na konci poslední lekce ověří, co ses naučil.
- Přístupnost
- Kurz je přístupný lidem se zdravotním postižením: textový obsah kompatibilní se čtečkami obrazovky, navigace pomocí klávesnice a vyhovující barevný kontrast. Pro jakékoli potřeby úprav napiš na [email protected].
- Cena
- Zdarma
Obsah kurzu
- 01 Dávková inference: Proč, kdy a úspora nákladů
- 02 Formát JSONL, custom_id a nahrávání souborů
- 03 Vytvoření dávkové úlohy, sledování stavu a stažení výsledků
- 04 Dávkové zpracování inline: až 10 000 požadavků bez souboru
- 05 Snižte latenci pomocí předpovězených výstupů
- 06 Příklady využití předpovězených výstupů v praxi
- 07 Implementace předpovězených výstupů v Pythonu
- 08 Citace se zdroji: Objekt odkazu a RAG
- 09 Implementace citací v Pythonu
- 10 Zakotvení odpovědí ve zdrojích a omezení halucinací
- 11 Úvod do pozorovatelnosti: stopy, hodnotitelé a evaluace
- 12 Průzkumník: Vyhledávání a inspekce produkčních stop
- 13 Soudci: Automatizované hodnocení LLM
- 14 Évaluations hors ligne : mesurez avant de déployer
- 15 Datasety: Tvorba evaluačních sad a iterace
- 16 Kompletní pipeline: stopy, hodnotitelé, datové sady, evaluace