Hrvatsko izdanje
Raspoređivanje Mistrala: oblak i samostalno hostiranje
Rasporedite Mistral svugdje: AI Studio, Azure AI, Google Vertex, AWS Bedrock, Snowflake te samostalno hostiranje s vLLM, TensorRT-LLM i TGI.
14 lekcija oko 1 h 45 min Napredno
Što ćete naučiti
- Usporediti AI Studio, Azure AI, Vertex, Bedrock i Snowflake za hostiranje modela Mistral
- Strukturirati organizacije, radne prostore i cjenovne razine unutar Mistral AI Studija
- Instancirati klijenta MistralAzure u Pythonu i rasporediti ga u proizvodnju
- Rasporediti model Mistral putem samostalnog hostiranja koristeći vLLM, TensorRT-LLM ili TGI
- Dimenzionirati GPU infrastrukturu i donijeti odluku između upravljanog API-ja i internog hostiranja
O tečaju
- Za koga je namijenjen
- Programeri, inženjeri i integratori koji žele iskoristiti Mistral AI putem API-ja u svojim aplikacijama.
- Preduvjeti
- Potvrđeno iskustvo u razvoju aplikacija i njihovom raspoređivanju u proizvodnju.
- Trajanje
- 1 h 45 min — 14 lekcija
- Format
- Tečaj na daljinu koji se odvija vlastitim tempom, dostupan 24/7 putem preglednika. Napredak se sprema, moguće je nastaviti u bilo kojem trenutku. Procijenjeno trajanje: 1 h 45 min.
- Način ocjenjivanja
- Samoprocjena na temelju ključnih poruka koje zaključuju svaku lekciju te izravna implementacija primjera na vlastitim podacima. Završni kviz od 5 ispravljenih pitanja na kraju posljednje lekcije validira stečeno znanje.
- Pristupačnost
- Tečaj vlastitim tempom dostupan osobama s invaliditetom: tekstualni sadržaj kompatibilan s čitačima zaslona, navigacija tipkovnicom i usklađeni kontrasti. Za bilo kakve potrebe prilagodbe, pošaljite e-poštu na [email protected].
- Cijena
- Besplatno
Sadržaj tečaja
- 01 Pregled Mistral AI Studija
- 02 Organizacije i radni prostori
- 03 Razine i cijene
- 04 Azure AI: Model kao usluga
- 05 Klijent MistralAzure u Pythonu
- 06 Azure u proizvodnji
- 07 Google Vertex AI
- 08 AWS Bedrock
- 09 Snowflake, IBM watsonx i Outscale
- 10 Uvod u samostalno hostiranje
- 11 Implementacija s vLLM-om
- 12 TensorRT-LLM i TGI
- 13 Infrastruktura i GPU-ovi
- 14 Odabir strategije implementacije