Slovenska izdaja
Produkcija: Serije, optimizacija in opazovanje
Prehod v produkcijo: sklepanje v serijah do 1 milijon zahtev, predvideni izhodi, citati z viri in opazovanje (sledi, sodniki, offline evalvacije).
16 lekcij pribl. 1 h 15 min Napredni
Kaj se boste naučili
- Priprava opravila sklepanja v serijah v formatu JSONL, sledenje njegovemu stanju in pridobivanje rezultatov
- Zmanjšanje zakasnitve odzivov s predvidenimi izhodi pri nalogah prepisovanja
- Implementacija citatov z referenčnim objektom za utemeljitev odgovorov v njihovih virih
- Sledenje aplikaciji z OpenTelemetry, raziskovanje produkcijskih sledi in avtomatizacija evalvacije s sodniki LLM
- Izgradnja podatkovnih nizov iz sledi in merjenje vsake različice z offline evalvacijami
Podatki o tečaju
- Za kogo je namenjeno
- Razvijalci, inženirji in integratorji, ki želijo uporabljati Mistral AI prek API-ja v svojih aplikacijah.
- Predpogoji
- Dokazane izkušnje z razvojem aplikacij in njihovo uvedbo v produkcijo.
- Trajanje
- 1 h 15 min — 16 lekcij
- Oblika izvedbe
- 100 % spletni tečaj v lastnem tempu, dostopen 24/7 iz brskalnika. Napredek je shranjen in lahko ga kadar koli nadaljujete. Predvideno trajanje: 1 h 15 min.
- Preverjanje znanja
- Samoocenjevanje na podlagi ključnih spoznanj, ki zaključujejo vsako lekcijo, in neposredna vaja primerov na vaših lastnih primerih. Končni kviz s 5 ocenjenimi vprašanji na koncu zadnje lekcije potrdi vaše znanje.
- Dostopnost
- Tečaj je dostopen osebam z invalidnostjo: besedilna vsebina je združljiva z bralniki zaslona, navigacijo s tipkovnico in skladnim barvnim kontrastom. Za morebitne potrebe po prilagoditvah pišite na [email protected].
- Cena
- Gratis
Vsebina tečaja
- 01 Sklepanje v serijah: zakaj, kdaj in prihranki
- 02 Format JSONL, custom_id in nalaganje datotek
- 03 Ustvari paketno opravilo, spremljaj stanje in prenesi rezultate
- 04 Paketno obdelovanje v kodi: do 10.000 zahtevkov brez datoteke
- 05 Zmanjšanje zakasnitve s predvidenimi izpisi
- 06 Primeri uporabe napovedanih izhodov v praksi
- 07 Implementacija napovedanih izhodov v Pythonu
- 08 Citati z viri: predmet reference in RAG
- 09 Implementacija citatov v Pythonu
- 10 Utemeljitev odgovorov v virih in zmanjšanje halucinacij
- 11 Uvod v opazljivost: sledi, sodniki in evalvacije
- 12 Raziskovanje: Iskanje in pregled sledi v proizvodnji
- 13 Sodniki: Avtomatizirano vrednotenje LLM
- 14 Évaluations hors ligne : mesurez avant de déployer
- 15 Nabori podatkov: izgradnja evalvacijskih nizov in iteracije
- 16 Cevovod od začetka do konca: sledi, ocenjevalci, nabori podatkov, evalvacije