Lietuviška laida
Mistral diegimas: debesis ir savo infrastruktūra
Diekite Mistral bet kur: AI Studio, Azure AI, Google Vertex, AWS Bedrock, Snowflake arba savo infrastruktūroje su vLLM, TensorRT-LLM ir TGI.
14 paskaitų maždaug 1 val. 45 min Pažengusiems
Ko išmoksite
- Palyginti AI Studio, Azure AI, Vertex, Bedrock ir Snowflake Mistral modelių globojimo atžvilgiu
- Struktūrizuoti organizacijas, darbo erdves ir kainų planus Mistral AI Studio viduje
- Sukurti MistralAzure kliento instanciją Python kalba ir perkelti programą į gamybinę aplinką
- Įdiegti Mistral modelį self-hosting būdu su vLLM, TensorRT-LLM arba TGI
- Suprojektuoti GPU infrastruktūros dydį ir įvertinti kompromisą tarp valdomo API bei nuosavo globimo
Kurso kortelė
- Kam skirta
- Kūrėjai, inžinieriai ir integratoriai, norintys naudoti Mistral AI per API savo programose.
- Būtinos žinios
- Tvirta programų kūrimo ir diegimo gamybinėje aplinkoje patirtis.
- Trukmė
- 1 val. 45 min — 14 paskaitų
- Formatas
- 100 % nuotolinis savarankiško mokymosi kursas, prieinamas 24/7 per naršyklę. Eiga išsaugoma, galima tęsti bet kada. Numatoma trukmė: 1 val. 45 min.
- Vertinimas
- Savęs vertinimas pagal kiekvieną pamoką užbaigiančias pagrindines įžvalgas ir tiesioginis pavyzdžių diegimas savo naudojimo atvejais. Paskutinės pamokos pabaigoje pateikiamas baigiamasis 5 klausimų testas su atsakymais, leidžiantis patvirtinti įgytus įgūdžius.
- Prieinamumas
- Savarankiško mokymosi kursas, prieinamas žmonėms su negalia: teksto turinys suderinamas su ekrano skaitytuvais, navigacija klaviatūra ir kontrastai atitinka reikalavimus. Dėl bet kokių pritaikymo poreikių kreipkitės el. paštu [email protected].
- Kaina
- Nemokama
Kurso turinys
- 01 Mistral AI Studio apžvalga
- 02 Organizacijos ir darbo sritys
- 03 Tarifai ir kainodara
- 04 Azure AI: Modelis kaip paslauga
- 05 Klientas „MistralAzure“ Python kalba
- 06 Azure gamyboje
- 07 Google Vertex AI
- 08 AWS Bedrock
- 09 Snowflake, IBM watsonx ir Outscale
- 10 Įvadas į savarankišką diegimą
- 11 Diegimas naudojant vLLM
- 12 TensorRT-LLM ir TGI
- 13 Infrastruktūra ir GPU
- 14 Pasirinkite savo diegimo strategiją