Preskoči na glavni sadržaj
Hrvatski— Odaberite jezik
Izbornik

Hrvatsko izdanje

Proizvodnja: Serijska obrada, optimizacija i opservabilnost

Prijelaz u proizvodnju: serijsko zaključivanje do 1 milijun zahtjeva, predviđeni izlazi, citati s izvorima i opservabilnost (praćenje, procjenitelji, izvanmrežne evaluacije).

16 lekcija oko 1 h 15 min Napredno

Što ćete naučiti

  • Pripremiti posao serijskog zaključivanja u JSONL formatu, pratiti njegov status i dohvatiti rezultate
  • Smanjiti kašnjenje odgovora korištenjem predviđenih izlaza za zadatke prepisivanja
  • Implementirati cite s objektom reference kako bi se odgovori utemeljili na izvorima
  • Pratiti aplikaciju pomoću OpenTelemetryja, istražiti proizvodne tragove i automatizirati evaluaciju s LLM procjeniteljima
  • Izgraditi skupove podataka iz tragova i izmjeriti svaku verziju izvanmrežnim evaluacijama

O tečaju

Za koga je namijenjen
Programeri, inženjeri i integratori koji žele koristiti Mistral AI putem API-ja u svojim aplikacijama.
Preduvjeti
Dokazano iskustvo u razvoju aplikacija i njihovom deployanju u proizvodnju.
Trajanje
1 h 15 min — 16 lekcija
Format
100 % online, tečaj vlastitim tempom, dostupan 24/7 iz preglednika. Napredak se sprema i možete nastaviti u bilo kojem trenutku. Procijenjeno trajanje: 1 h 15 min.
Način ocjenjivanja
Samoprocjena na temelju ključnih poruka koje zaključuju svaku lekciju i izravna praksa primjera na vlastitim podacima. Završni kviz od 5 ocijenjenih pitanja na kraju posljednje lekcije validira naučeno.
Pristupačnost
Tečaj dostupan osobama s invaliditetom: tekstualni sadržaj kompatibilan s čitačima zaslona, navigacija tipkovnicom i usklađen kontrast boja. Za potrebe prilagodbe pošaljite e-mail na [email protected].
Cijena
Besplatno

Sadržaj tečaja

  1. 01 Zaključno zaključivanje: Zašto, kada i uštede troškova
  2. 02 Format JSONL, custom_id i prijenos datoteka
  3. 03 Stvori batch posao, prati status i preuzmi rezultate
  4. 04 Inline Batching: do 10 000 zahtjeva bez datoteke
  5. 05 Smanji kašnjenje pomoću predviđenih izlaza
  6. 06 Cas d'usage concrets pour les sorties prédites
  7. 07 Implementacija predviđenih izlaza u Pythonu
  8. 08 Citati s izvorima: objekt referenci i RAG
  9. 09 Implementiraj citate u Pythonu
  10. 10 Utemeljenje odgovora u izvorima i smanjenje halucinacija
  11. 11 Uvod u opservabilnost: tragovi, suci i evaluacije
  12. 12 Istraži: Pretraživanje i inspekcija produkcijskih tragova
  13. 13 Suci: Automatizirana evaluacija LLM-ova
  14. 14 Évaluations hors ligne : mesurez avant de déployer
  15. 15 Skupovi podataka: Izrada skupova za evaluaciju i iteracija
  16. 16 Cjevovod od kraja do kraja: tragovi, suci, skupovi podataka, evaluacije