Magyar kiadás
Gyártás: Kötegelt feldolgozás, optimalizálás és megfigyelhetőség
Állás át gyártásba: kötegelt következtetés akár 1 millió kérésig, előre jelzett kimenetek, forrásmegjelölésekkel ellátott idézetek, valamint megfigyelhetőség (nyomkövetés, értékelők, offline értékelések).
16 lecke kb. 1 h 15 min Haladó
Tanulási célok
- Kötegelt következtetési feladat előkészítése JSONL formátumban, állapotának nyomon követése és az eredmények lekérése
- A válaszok késleltetésének csökkentése előre jelzett kimenetekkel átfogalmazási feladatok esetén
- Idézetek megvalósítása hivatkozási objektummal, hogy a válaszokat forrásaikra alapozzák
- Alkalmazás nyomkövetése OpenTelemetry segítségével, gyártási nyomok vizsgálata és értékelés automatizálása LLM értékelőkkel
- Adatkészletek építése nyomokból és az egyes verziók mérése offline értékelésekkel
Tanfolyam-adatlap
- Kinek szól
- Fejlesztők, mérnökök és integrátorok, akik a Mistral AI-t szeretnék API-n keresztül alkalmazni az alkalmazásaikban.
- Előfeltételek
- Igazolt tapasztalat alkalmazások fejlesztésében és gyártásba helyezésében.
- Időtartam
- 1 h 15 min — 16 lecke
- Formátum
- 100%-ban online, saját tempóban végezhető tanfolyam, amely böngészőből 0/24-ben elérhető. A haladás mentésre kerül, és bármikor folytatható. Becsült időtartam: 1 h 15 min.
- Értékelés
- Önértékelés az egyes leckéket lezáró fő tanulságok alapján, valamint a példák közvetlen gyakorlása saját példákon. Az utolsó lecke végén egy 5 kérdésből álló, osztályozott záróvizsga igazolja a megszerzett tudást.
- Akadálymentesség
- A tanfolyam fogyatékkal élők számára is hozzáférhető: a szöveges tartalom kompatibilis a képernyőolvasókkal, támogatja a billentyűzetes navigációt, és megfelel a színkontrasztra vonatkozó előírásoknak. Bármilyen testreszabási igény esetén írjon a [email protected] címre.
- Ár
- Ingyenes
A tanfolyam tartalma
- 01 Következtetés kötegben: Miért, mikor és költségmegtakarítás
- 02 JSONL formátum, custom_id és fájlfeltöltés
- 03 Batch feladat létrehozása, állapotának nyomon követése és az eredmények letöltése
- 04 Kötegelt lekérések fájl nélkül: akár 10 000 kérés inline módon
- 05 Csökkentsd a késleltetést előre jelzett kimenetekkel
- 06 Valós esetek a megjósolt kimenetekhez
- 07 A jósolt kimenetek implementálása Pythonban
- 08 Idézetek forrásokkal: Hivatkozási objektum és RAG
- 09 Idézetek implementálása Pythonban
- 10 A válaszok forrásokhoz kötése és a hallucinációk csökkentése
- 11 Bevezetés a megfigyelhetőségbe: nyomkövetés, bírák és értékelések
- 12 Felfedezés: Termelési nyomok keresése és vizsgálata
- 13 Bírák: Automatizált LLM-értékelés
- 14 Évaluations hors ligne : mesurez avant de déployer
- 15 Adathalmazok: Kiértékelési készletek összeállítása és iteráció
- 16 Teljes körű folyamat: nyomkövetések, értékelők, adathalmazok, kiértékelések