Hrvatsko izdanje
Proizvodnja: Serijska obrada, optimizacija i opservabilnost
Prijelaz u proizvodnju: serijsko zaključivanje do 1 milijun zahtjeva, predviđeni izlazi, citati s izvorima i opservabilnost (praćenje, procjenitelji, izvanmrežne evaluacije).
16 lekcija oko 1 h 15 min Napredno
Što ćete naučiti
- Pripremiti posao serijskog zaključivanja u JSONL formatu, pratiti njegov status i dohvatiti rezultate
- Smanjiti kašnjenje odgovora korištenjem predviđenih izlaza za zadatke prepisivanja
- Implementirati cite s objektom reference kako bi se odgovori utemeljili na izvorima
- Pratiti aplikaciju pomoću OpenTelemetryja, istražiti proizvodne tragove i automatizirati evaluaciju s LLM procjeniteljima
- Izgraditi skupove podataka iz tragova i izmjeriti svaku verziju izvanmrežnim evaluacijama
O tečaju
- Za koga je namijenjen
- Programeri, inženjeri i integratori koji žele koristiti Mistral AI putem API-ja u svojim aplikacijama.
- Preduvjeti
- Dokazano iskustvo u razvoju aplikacija i njihovom deployanju u proizvodnju.
- Trajanje
- 1 h 15 min — 16 lekcija
- Format
- 100 % online, tečaj vlastitim tempom, dostupan 24/7 iz preglednika. Napredak se sprema i možete nastaviti u bilo kojem trenutku. Procijenjeno trajanje: 1 h 15 min.
- Način ocjenjivanja
- Samoprocjena na temelju ključnih poruka koje zaključuju svaku lekciju i izravna praksa primjera na vlastitim podacima. Završni kviz od 5 ocijenjenih pitanja na kraju posljednje lekcije validira naučeno.
- Pristupačnost
- Tečaj dostupan osobama s invaliditetom: tekstualni sadržaj kompatibilan s čitačima zaslona, navigacija tipkovnicom i usklađen kontrast boja. Za potrebe prilagodbe pošaljite e-mail na [email protected].
- Cijena
- Besplatno
Sadržaj tečaja
- 01 Zaključno zaključivanje: Zašto, kada i uštede troškova
- 02 Format JSONL, custom_id i prijenos datoteka
- 03 Stvori batch posao, prati status i preuzmi rezultate
- 04 Inline Batching: do 10 000 zahtjeva bez datoteke
- 05 Smanji kašnjenje pomoću predviđenih izlaza
- 06 Cas d'usage concrets pour les sorties prédites
- 07 Implementacija predviđenih izlaza u Pythonu
- 08 Citati s izvorima: objekt referenci i RAG
- 09 Implementiraj citate u Pythonu
- 10 Utemeljenje odgovora u izvorima i smanjenje halucinacija
- 11 Uvod u opservabilnost: tragovi, suci i evaluacije
- 12 Istraži: Pretraživanje i inspekcija produkcijskih tragova
- 13 Suci: Automatizirana evaluacija LLM-ova
- 14 Évaluations hors ligne : mesurez avant de déployer
- 15 Skupovi podataka: Izrada skupova za evaluaciju i iteracija
- 16 Cjevovod od kraja do kraja: tragovi, suci, skupovi podataka, evaluacije