Přejít na hlavní obsah
Čeština— Vyberte jazyk
Menu

Česká edice

Produkce: Dávkové zpracování, optimalizace a pozorovatelnost

Přechod do produkce: dávková inference až pro 1 milion požadavků, předpovídané výstupy, citace se zdroji a pozorovatelnost (stopy, hodnotitelé, offline evaluace).

16 lekcí cca 1 h 15 min Pokročilý

Co se naučíte

  • Připravit úlohu dávkové inference ve formátu JSONL, sledovat její stav a získat výsledky
  • Snížit latenci odpovědí pomocí předpovídaných výstupů u úloh přepisování
  • Implementovat citace s objektem reference pro ukotvení odpovědí ve zdrojích
  • Stopovat aplikaci pomocí OpenTelemetry, prozkoumat produkční stopy a automatizovat evaluaci pomocí LLM hodnotitelů
  • Vytvářet datové sady ze stop a měřit každou verzi pomocí offline evaluací

Informace o kurzu

Komu je kurz určen
Vývojáři, inženýři a integrátoři, kteří chtějí využívat Mistral AI přes API ve svých aplikacích.
Předpoklady
Ověřené zkušenosti s vývojem aplikací a jejich nasazováním do produkce.
Doba trvání
1 h 15 min — 16 lekcí
Forma výuky
100 % online, kurz vlastním tempem, dostupný 24/7 z prohlížeče. Postup se ukládá a můžeš kdykoli pokračovat. Odhadovaná délka: 1 h 15 min.
Hodnocení
Sebehodnocení na základě klíčových poznatků, které uzavírají každou lekci, a přímé procvičování příkladů na vlastních datech. Závěrečný kvíz s 5 hodnocenými otázkami na konci poslední lekce ověří, co ses naučil.
Přístupnost
Kurz je přístupný lidem se zdravotním postižením: textový obsah kompatibilní se čtečkami obrazovky, navigace pomocí klávesnice a vyhovující barevný kontrast. Pro jakékoli potřeby úprav napiš na [email protected].
Cena
Zdarma

Obsah kurzu

  1. 01 Dávková inference: Proč, kdy a úspora nákladů
  2. 02 Formát JSONL, custom_id a nahrávání souborů
  3. 03 Vytvoření dávkové úlohy, sledování stavu a stažení výsledků
  4. 04 Dávkové zpracování inline: až 10 000 požadavků bez souboru
  5. 05 Snižte latenci pomocí předpovězených výstupů
  6. 06 Příklady využití předpovězených výstupů v praxi
  7. 07 Implementace předpovězených výstupů v Pythonu
  8. 08 Citace se zdroji: Objekt odkazu a RAG
  9. 09 Implementace citací v Pythonu
  10. 10 Zakotvení odpovědí ve zdrojích a omezení halucinací
  11. 11 Úvod do pozorovatelnosti: stopy, hodnotitelé a evaluace
  12. 12 Průzkumník: Vyhledávání a inspekce produkčních stop
  13. 13 Soudci: Automatizované hodnocení LLM
  14. 14 Évaluations hors ligne : mesurez avant de déployer
  15. 15 Datasety: Tvorba evaluačních sad a iterace
  16. 16 Kompletní pipeline: stopy, hodnotitelé, datové sady, evaluace