Aqbeż għall-kontenut ewlieni
Malti— Agħżel lingwa
Menu

Verżjoni bil-Malti

Produzzjoni: Batch, Ottimizzazzjoni u Osservabbiltà

Mur f'produzzjoni: inferenza f'batch sa miljun talba, outputs imbassrin, ċitazzjonijiet bis-sorsi, u osservabbiltà (traces, ġudiki, evalwazzjonijiet offline).

16 lezzjonijiet madwar 1 h 15 min Avvanzat

X'se titgħallem

  • Ħejji job ta' inferenza f'batch f'format JSONL, segwi l-istatus tiegħu u ikkupera r-riżultati
  • Naqqas il-latency tat-tweġibiet b'outputs imbassrin fuq kompiti ta' riscrittura
  • Implimenta ċitazzjonijiet b'oġġett ta' referenza biex it-tweġibiet ikunu mwaħħla mas-sorsi tagħhom
  • Traċċa applikazzjoni b'OpenTelemetry, esplora t-traces tal-produzzjoni u awtomata l-evalwazzjoni b'ġudiki LLM
  • Ibni datasets mit-traces u kejjel kull verżjoni b'evalwazzjonijiet offline

Detalji tal-kors

Udjenza
Żviluppaturi, inġiniera u integraturi li jixtiequ jużaw Mistral AI permezz tal-API fl-applikazzjonijiet tagħhom.
Prerekwiżiti
Esperjenza konfermata fl-iżvilupp ta' applikazzjonijiet u fl-implimentazzjoni f'ambjent ta' produzzjoni.
Tul
1 h 15 min — 16 lezzjonijiet
Modalitajiet
Kors awtonomu 100% online, aċċessibbli 24/7 minn browser. Il-progress jiġi salvat u tista' tkompli kull ħin. Tul stmat: 1 h 15 min.
Evalwazzjoni
Awtovalutazzjoni bbażata fuq il-"Punti ewlenin" li jikkonkludu kull lezzjoni, u prattika diretta tal-eżempji fuq każijiet tiegħek. Quiz finali ta' 5 mistoqsijiet bil-tweġibiet, fit-tmiem tal-aħħar lezzjoni, jivverifika dak li tkun tgħallimt.
Aċċessibbiltà
Kors aċċessibbli għal persuni b'diżabilità: kontenut tat-test kompatibbli ma' qarrejja tal-iskrin, navigazzjoni bil-keyboard u kuntrasti tal-kulur konformi. Għal kwalunkwe bżonn ta' aġġustament, ibgħat email lil [email protected].
Prezz
B'xejn

Kontenut tal-kors

  1. 01 Inferenza Batch: Għaliex, Meta, u Tfaddil fl-Ispejjeż
  2. 02 Il-Format JSONL, custom_id, u t-Tlugħ tal-Fajls
  3. 03 Oħloq Impjieg Batch, Segwi l-Istat, u Nniżżel ir-Riżultati
  4. 04 Batching Inline: Sa' 10K Talba Mingħajr Fajl
  5. 05 Naqqas il-Latenza b'Outputs Imbassra
  6. 06 Każijiet ta' Użu fid-Dinja Reali għal Outputs Ibbassati
  7. 07 Implimenta l-Output Ippreditut f'Python
  8. 08 Ċitazzjonijiet b'Sorsi: Oġġett ta' Referenza u RAG
  9. 09 Implimenta Ċitazzjonijiet f'Python
  10. 10 Irrisposti Bbażati fuq Is-Sorsi u Tnaqqis tal-Alluċinazzjonijiet
  11. 11 Introduzzjoni għall-Osservabbiltà: Traċċi, Imħallfin u Evalwazzjonijiet
  12. 12 Esplora: Iftex u eżamina t-traċċi tal-produzzjoni
  13. 13 Imħallfin: Evalwazzjoni Awtomatizzata tal-LLM
  14. 14 Evalwazzjonijiet offline: kejjel qabel ma tiddispjega
  15. 15 Datasets: Ibni settijiet ta' evalwazzjoni u itera
  16. 16 Pajp end-to-end: traċċi, ġudikanti, datasets, evalwazzjonijiet