Deutsche Ausgabe
Mistral-Bereitstellung: Cloud und Self-Hosting
Bereitstellung von Mistral überall: AI Studio, Azure AI, Google Vertex, AWS Bedrock, Snowflake sowie Self-Hosting mit vLLM, TensorRT-LLM und TGI.
14 Lektionen ca. 1 h 45 min Fortgeschritten
Das lernen Sie
- Vergleich von AI Studio, Azure AI, Vertex, Bedrock und Snowflake für das Hosting von Mistral-Modellen
- Strukturierung von Organisationen, Arbeitsbereichen und Preismodellen innerhalb von Mistral AI Studio
- Instanziierung des MistralAzure-Clients in Python und Bereitstellung in der Produktion
- Bereitstellung eines Mistral-Modells durch Self-Hosting mit vLLM, TensorRT-LLM oder TGI
- Dimensionierung der GPU-Infrastruktur und Abwägung zwischen verwalteter API und internem Hosting
Kursübersicht
- Zielgruppe
- Entwickler, Ingenieure und Integratoren, die Mistral AI über API in ihren Anwendungen nutzen möchten.
- Voraussetzungen
- Nachgewiesene Erfahrung in der Anwendungsentwicklung und der Bereitstellung in Produktionsumgebungen.
- Dauer
- 1 h 45 min — 14 Lektionen
- Modalitäten
- 100 % onlineer Selbstlernkurs, rund um die Uhr über den Browser zugänglich. Der Fortschritt wird gespeichert und kann jederzeit fortgesetzt werden. Geschätzte Dauer: 1 h 45 min.
- Bewertung
- Selbsteinschätzung auf Basis der wichtigsten Erkenntnisse am Ende jeder Lektion sowie direkte Umsetzung der Beispiele an eigenen Anwendungsfällen. Ein abschließendes Quiz mit 5 korrigierten Fragen am Ende der letzten Lektion validiert das erworbene Wissen.
- Barrierefreiheit
- Selbstlernkurs, der für Menschen mit Behinderungen zugänglich ist: Textinhalte kompatibel mit Screenreadern, Tastaturnavigation und kontrastgerechte Darstellung. Bei Anpassungsbedarf wenden Sie sich bitte per E-Mail an [email protected].
- Preis
- Kostenlos
Kursinhalt
- 01 Übersicht über Mistral AI Studio
- 02 Organisationen und Arbeitsbereiche
- 03 Tarife und Preismodelle
- 04 Azure AI: Model as a Service
- 05 Der MistralAzure-Client in Python
- 06 Azure in Production
- 07 Google Vertex AI
- 08 AWS Bedrock
- 09 Snowflake, IBM watsonx und Outscale
- 10 Einführung in das Self-Hosting
- 11 Einsatz mit vLLM
- 12 TensorRT-LLM und TGI
- 13 Infrastruktur und GPUs
- 14 Ihre Bereitstellungsstrategie wählen