Zum Hauptinhalt springen
Deutsch— Sprache auswählen
Menü

AWS Bedrock

Lektion 8 von 14 Aktualisiert am 2. November 2026 Fortgeschritten
Auf dieser Seite
  1. Mistral auf Amazon Bedrock
  2. Voraussetzungen
  3. Aufruf über die Converse API
  4. Der native Mistral-SDK und warum man ihn hier vermeiden sollte
  5. Integration in das AWS-Ökosystem
  6. Unterschiede zur direkten Mistral API
  7. Kernaussagen

Mistral auf Amazon Bedrock

Amazon Bedrock ist der verwaltete Dienst von AWS für den Zugriff auf Foundation-Modelle über eine einheitliche API. Mistral AI bietet hier ein komplettes Portfolio an, das von dem leichtgewichtigen Mistral 7B bis zum leistungsstarken Mistral Large 3 reicht. Die Integration stützt sich auf den Standard-AWS-SDK, boto3. Dies macht es zu einer attraktiven Option für Teams, die bereits auf AWS etabliert sind: Keine zusätzlichen Vendor-Schlüssel zum Verteilen, keine neuen Verträge zur Genehmigung und ein Authentifizierungsmodell, das Ihre Administratoren bereits beherrschen.

Das Bedrock-Katalogangebot ist eines der umfangreichsten für Mistral. Sie finden Mistral Large 3 für fortgeschrittene Reasoning- und Multimodal-Aufgaben, die leichtgewichtige Ministral 3B / 8B / 14B-Reihe, frühere Versionen wie Mistral Large 24.07 und 24.02 (oft beibehalten, um kalibrierte Prompts nicht zu brechen), Mistral Small für schnelle und kosteneffiziente Verarbeitung, Mixtral 8x7B mit seiner Mixture-of-Experts-Architektur, das grundlegende offene Gewichtsmodell Mistral 7B und Pixtral Large für Vision- und Multimodal-Fähigkeiten. Diese Tiefe ermöglicht es Ihnen, innerhalb derselben Anwendung ein kostengünstiges Modell für die Massenklassifizierung neben einem High-End-Modell für sensible Zusammenfassungen einzusetzen.

Voraussetzungen

Vor dem ersten Aufruf müssen drei Bedingungen erfüllt sein. Erstens benötigen Sie ein AWS-Konto in einer Region, die Bedrock unterstützt. Zweitens benötigen Sie einen IAM-Prinzipal – Benutzer oder Rolle – mit den beiden erforderlichen Bedrock-Berechtigungen:

  • bedrock:InvokeModel
  • bedrock:InvokeModelWithResponseStream

Schließlich müssen Mistral-Modelle im Bedrock-Konsole für Ihre spezifische Region aktiviert sein. Dieser letzte Schritt fängt viele Teams unvorbereitet: Ihre IAM-Berechtigungen könnten perfekt sein, aber wenn das Modell in der Region, die Sie aufrufen, nicht aktiviert ist, bleibt es unerreichbar. Die Aktivierung erfolgt regionweise, was Fehler nach dem Wechsel von us-west-2 zu einer anderen Zone erklärt.

Auf der Arbeitsstationsseite beschränkt sich die Installation auf den AWS-SDK:

pip install boto3>=1.34.131

Konfigurieren Sie anschließend Ihre Credentials wie üblich:

aws configure
# AWS Access Key ID: your-access-key
# AWS Secret Access Key: your-secret-key
# Default region name: us-west-2
# Default output format: json

Aufruf über die Converse API

Bedrock vereinheitlicht den Zugriff auf verschiedene Anbieter hinter einer einzigen Methode: converse(). In der Praxis ruft derselbe Code ein Mistral-Modell oder jedes andere Modell im Katalog auf; nur die Identifikator ändert sich. Der Nachrichteninhalt ist kein einfacher String, sondern eine Liste von Blöcken, und Generierungseinstellungen sind unter inferenceConfig gruppiert, nicht auf der obersten Ebene ausgeflacht.

import boto3

client = boto3.client("bedrock-runtime", region_name="us-west-2")

response = client.converse(
    modelId="mistral.mistral-large-2512-v1:0",
    messages=[
        {
            "role": "user",
            "content": [{"text": "Erklären Sie das Konzept einer VPC in AWS in 5 Punkten."}]
        }
    ],
    inferenceConfig={
        "temperature": 0.3,
        "maxTokens": 1024
    }
)

# Extrahieren Sie die Antwort
output = response["output"]["message"]["content"][0]["text"]
print(output)

Identifikatoren folgen dem Format mistral.<model-name>-<version>:0. Da sie versioniert sind, ist es am besten, sie in einer Konstante zu zentralisieren, anstatt sie in jeden Aufruf zu kopieren:

# Häufige Modelle (versionierte Identifikatoren – überprüfen Sie die Bedrock-Konsole für die aktuelle Liste)
MODELS = {
    "large_3":  "mistral.mistral-large-2512-v1:0",
    "small":       "mistral.mistral-small-2402-v1:0",
    "mixtral":     "mistral.mixtral-8x7b-instruct-v0:1",
    "mistral_7b":  "mistral.mistral-7b-instruct-v0:2",
}

Bei langen Antworten gibt converse_stream einen Ereignisstrom zurück, den Sie während des Eintreffens iterieren. Dies ermöglicht es einer Schnittstelle, Text anzuzeigen, während er generiert wird, anstatt mehrere Sekunden mit einer eingefrorenen Bildschirm zu warten.

response = client.converse_stream(
    modelId="mistral.mistral-large-2512-v1:0",
    messages=[
        {
            "role": "user",
            "content": [{"text": "Erstellen Sie eine vollständige Anleitung zu Lambda-Funktionen."}]
        }
    ],
    inferenceConfig={"maxTokens": 2048}
)

for event in response["stream"]:
    if "contentBlockDelta" in event:
        text = event["contentBlockDelta"]["delta"].get("text", "")
        print(text, end="", flush=True)

Der native Mistral-SDK und warum man ihn hier vermeiden sollte

Wenn Sie den Standard-Mistral-Client bevorzugen, ermöglicht ein Adapter, diesen auf den Bedrock-Endpunkt zu zeigen:

import os
from mistralai.client import Mistral

# Konfiguration für Bedrock
client = Mistral(
    api_key=os.environ.get("AWS_SECRET_ACCESS_KEY", ""),
    server_url=f"https://bedrock-runtime.us-west-2.amazonaws.com"
)

Der Ansatz mit boto3 wird jedoch auf AWS empfohlen, da er sich nativ mit IAM, CloudWatch und anderen AWS-Diensten integriert. In der Praxis bietet die Wahl von boto3 automatische Credential-Rotation über Rollen und Observability, ohne dass Sie eine einzige zusätzliche Zeile Code schreiben müssen.

Integration in das AWS-Ökosystem

Bedrock sendet Metriken automatisch an CloudWatch: Invocations für die Anzahl der Aufrufe, InvocationLatency für die Anfrage-Latenz und InputTokenCount sowie OutputTokenCount für den Token-Verbrauch. Sie erhalten ein Dashboard für Kosten und Leistung, ohne Ihre Anwendung zu instrumentieren. Eine schnelle Überprüfung über die Kommandozeile reicht aus, um das Volumen für einen bestimmten Zeitraum zu verifizieren:

# Metriken über AWS CLI überprüfen
aws cloudwatch get-metric-statistics \
    --namespace "AWS/Bedrock" \
    --metric-name "Invocations" \
    --start-time 2026-04-01T00:00:00Z \
    --end-time 2026-04-03T23:59:59Z \
    --period 3600 \
    --statistics Sum

AWS bietet auch eigene Guardrails, die die von Mistral ergänzen. Diese werden auf Ebene des Aufrufs angehängt und ermöglichen es Ihnen, eine konsistente Filterrichtlinie über alle Modelle im Katalog hinweg anzuwenden, unabhängig von ihrem Anbieter:

response = client.converse(
    modelId="mistral.mistral-large-2512-v1:0",
    messages=[{"role": "user", "content": [{"text": "..."}]}],
    guardrailConfig={
        "guardrailIdentifier": "my-guardrail-id",
        "guardrailVersion": "1"
    }
)

Unterschiede zur direkten Mistral API

AspektMistral APIAWS Bedrock
SDKmistralaiboto3
AuthAPI KeyIAM (SigV4)
APIchat.complete()converse()
Streamingchat.stream()converse_stream()
MonitoringManuellNative CloudWatch
BillingMistralAWS

Diese Tabelle erklärt, warum das Portieren von der Mistral-API nie nur eine URL-Änderung ist: Das Nachrichtenformat, die aufgerufene Methode und der Authentifizierungsmechanismus ändern sich gleichzeitig. Planen Sie eine Abstraktionsschicht in Ihrem Code ein, wenn Sie beides bereitstellen möchten.

Kernaussagen

  • Bedrock verwendet boto3 und die converse() API – nicht den Standard-Mistral-Client
  • Authentifizierung erfolgt über IAM, nicht über einen Mistral-API-Schlüssel
  • CloudWatch-Metriken werden automatisch gesendet (Latenz, Tokens, Aufrufe)
  • Aktivieren Sie Modelle in der Bedrock-Konsole, bevor Sie sie verwenden
  • Bedrock-Identifikatoren sind versioniert (mistral.mistral-large-2512-v1:0) und ändern sich mit jeder Generation: Verifizieren Sie den exakten Wert in der Bedrock-Konsole vor dem Deployment
  • Streaming erfolgt über converse_stream() mit Ereignissen