Verżjoni bil-Malti
Produzzjoni: Batch, Ottimizzazzjoni u Osservabbiltà
Mur f'produzzjoni: inferenza f'batch sa miljun talba, outputs imbassrin, ċitazzjonijiet bis-sorsi, u osservabbiltà (traces, ġudiki, evalwazzjonijiet offline).
16 lezzjonijiet madwar 1 h 15 min Avvanzat
X'se titgħallem
- Ħejji job ta' inferenza f'batch f'format JSONL, segwi l-istatus tiegħu u ikkupera r-riżultati
- Naqqas il-latency tat-tweġibiet b'outputs imbassrin fuq kompiti ta' riscrittura
- Implimenta ċitazzjonijiet b'oġġett ta' referenza biex it-tweġibiet ikunu mwaħħla mas-sorsi tagħhom
- Traċċa applikazzjoni b'OpenTelemetry, esplora t-traces tal-produzzjoni u awtomata l-evalwazzjoni b'ġudiki LLM
- Ibni datasets mit-traces u kejjel kull verżjoni b'evalwazzjonijiet offline
Detalji tal-kors
- Udjenza
- Żviluppaturi, inġiniera u integraturi li jixtiequ jużaw Mistral AI permezz tal-API fl-applikazzjonijiet tagħhom.
- Prerekwiżiti
- Esperjenza konfermata fl-iżvilupp ta' applikazzjonijiet u fl-implimentazzjoni f'ambjent ta' produzzjoni.
- Tul
- 1 h 15 min — 16 lezzjonijiet
- Modalitajiet
- Kors awtonomu 100% online, aċċessibbli 24/7 minn browser. Il-progress jiġi salvat u tista' tkompli kull ħin. Tul stmat: 1 h 15 min.
- Evalwazzjoni
- Awtovalutazzjoni bbażata fuq il-"Punti ewlenin" li jikkonkludu kull lezzjoni, u prattika diretta tal-eżempji fuq każijiet tiegħek. Quiz finali ta' 5 mistoqsijiet bil-tweġibiet, fit-tmiem tal-aħħar lezzjoni, jivverifika dak li tkun tgħallimt.
- Aċċessibbiltà
- Kors aċċessibbli għal persuni b'diżabilità: kontenut tat-test kompatibbli ma' qarrejja tal-iskrin, navigazzjoni bil-keyboard u kuntrasti tal-kulur konformi. Għal kwalunkwe bżonn ta' aġġustament, ibgħat email lil [email protected].
- Prezz
- B'xejn
Kontenut tal-kors
- 01 Inferenza Batch: Għaliex, Meta, u Tfaddil fl-Ispejjeż
- 02 Il-Format JSONL, custom_id, u t-Tlugħ tal-Fajls
- 03 Oħloq Impjieg Batch, Segwi l-Istat, u Nniżżel ir-Riżultati
- 04 Batching Inline: Sa' 10K Talba Mingħajr Fajl
- 05 Naqqas il-Latenza b'Outputs Imbassra
- 06 Każijiet ta' Użu fid-Dinja Reali għal Outputs Ibbassati
- 07 Implimenta l-Output Ippreditut f'Python
- 08 Ċitazzjonijiet b'Sorsi: Oġġett ta' Referenza u RAG
- 09 Implimenta Ċitazzjonijiet f'Python
- 10 Irrisposti Bbażati fuq Is-Sorsi u Tnaqqis tal-Alluċinazzjonijiet
- 11 Introduzzjoni għall-Osservabbiltà: Traċċi, Imħallfin u Evalwazzjonijiet
- 12 Esplora: Iftex u eżamina t-traċċi tal-produzzjoni
- 13 Imħallfin: Evalwazzjoni Awtomatizzata tal-LLM
- 14 Evalwazzjonijiet offline: kejjel qabel ma tiddispjega
- 15 Datasets: Ibni settijiet ta' evalwazzjoni u itera
- 16 Pajp end-to-end: traċċi, ġudikanti, datasets, evalwazzjonijiet