Slovenské vydanie
Nasadenie Mistral: Cloud a self-hosting
Nasaď Mistral všade: AI Studio, Azure AI, Google Vertex, AWS Bedrock, Snowflake a self-hosting s vLLM, TensorRT-LLM a TGI.
14 lekcií ca. 1 h 45 min Pokročilý
Čo sa naučíte
- Porovnať AI Studio, Azure AI, Vertex, Bedrock a Snowflake na hostovanie modelov Mistral
- Štruktúrovať organizácie, pracovné priestory a cenové úrovne v rámci Mistral AI Studio
- Inicializovať klienta MistralAzure v Pythone a nasadiť ho do produkcie
- Nasadiť model Mistral prostredníctvom self-hostingu s vLLM, TensorRT-LLM alebo TGI
- Navrhnúť GPU infraštruktúru a rozhodnúť medzi spravovaným API a interným hostovaním
Osnova kurzu
- Komu je kurz určený
- Vývojári, inžinieri a integrátori, ktorí chcú využiť Mistral AI cez API vo svojich aplikáciách.
- Predpoklady
- Overené skúsenosti s vývojom aplikácií a ich nasadzovaním do produkcie.
- Dĺžka
- 1 h 45 min — 14 lekcií
- Formát
- 100 % online kurz vo vlastnom tempe, dostupný 24/7 z prehliadača. Postup sa ukladá, môžeš pokračovať kedykoľvek. Odhadovaný čas: 1 h 45 min.
- Hodnotenie
- Samohodnotenie na základe kľúčových poznatkov, ktoré uzatvárajú každú lekciu, a priame implementovanie príkladov na tvojich vlastných dátach. Záverečný kvíz s 5 opravenými otázkami na konci poslednej lekcie overí získané vedomosti.
- Prístupnosť
- Kurz vo vlastnom tempe prístupný pre ľudí so zdravotným postihnutím: textový obsah kompatibilný so čítačkami obrazovky, navigácia pomocou klávesnice a kontrasty v súlade s normami. Pre akékoľvek potreby úprav napíš na [email protected].
- Cena
- Zadarmo
Obsah kurzu
- 01 Prehľad Mistral AI Studio
- 02 Organizácie a pracovné priestory
- 03 Úrovne a ceny
- 04 Azure AI: Model ako služba
- 05 Klient MistralAzure v Pythone
- 06 Azure v produkcii
- 07 Google Vertex AI
- 08 AWS Bedrock
- 09 Snowflake, IBM watsonx a Outscale
- 10 Úvod do self-hostingu
- 11 Nasadenie s vLLM
- 12 TensorRT-LLM a TGI
- 13 Infraštruktúra a GPU
- 14 Výber vašej stratégie nasadenia