Ga naar hoofdinhoud
Nederlands— Kies een taal
Menu

AWS Bedrock

Les 8 van 14 Bijgewerkt op 2 november 2026 Gevorderd
Op deze pagina
  1. Mistral op Amazon Bedrock
  2. Vereisten
  3. Aanroepen via de Converse-API
  4. De native Mistral SDK en waarom u deze hier beter kunt vermijden
  5. Integratie met het AWS-ecosysteem
  6. Verschillen met de directe Mistral-API
  7. Belangrijkste punten

Mistral op Amazon Bedrock

Amazon Bedrock is de beheerde service van AWS om via één enkele API toegang te krijgen tot foundation models. Mistral AI biedt hier een compleet assortiment aan, variërend van het lichtgewicht Mistral 7B tot het krachtige Mistral Large 3. De integratie steunt op de standaard AWS SDK, boto3. Dit maakt het een aantrekkelijke optie voor teams die al gevestigd zijn binnen AWS: geen extra leverancierssleutels die rondgedeeld moeten worden, geen nieuwe contracten die goedgekeurd hoeven te worden, en een authenticatiemodel dat uw beheerders al onder de knie hebben.

De Bedrock-catalogus is een van de meest uitgebreide voor Mistral. U vindt er Mistral Large 3 voor geavanceerde redenering en multimodale taken, het lichtgewicht assortiment Ministral 3B / 8B / 14B, eerdere versies zoals Mistral Large 24.07 en 24.02 (vaak behouden om gekalibreerde prompts niet te breken), Mistral Small voor snelle en kosteneffectieve verwerking, Mixtral 8x7B met zijn Mixture-of-Experts-architectuur, het fundamentele open-weight Mistral 7B-model, en Pixtral Large voor visie- en multimodale mogelijkheden. Deze diepgang stelt u in staat om binnen dezelfde applicatie een goedkoop model voor bulkclassificatie naast een hoogwaardig model voor delicate samenvattingen te draaien.

Vereisten

Er moeten drie voorwaarden vervuld zijn voordat u uw eerste oproep doet. Ten eerste heeft u een AWS-account nodig in een regio die Bedrock ondersteunt. Ten tweede heeft u een IAM-principal nodig—een gebruiker of rol—waaraan de twee vereiste Bedrock-machtigingen zijn toegekend:

  • bedrock:InvokeModel
  • bedrock:InvokeModelWithResponseStream

Tot slot moeten Mistral-modellen in de Bedrock-console voor uw specifieke regio ingeschakeld zijn. Deze laatste stap betrapt veel teams op een fout: uw IAM-machtigingen kunnen perfect zijn, maar als het model niet is ingeschakeld in de regio die u aanroept, blijft het onbereikbaar. Inschakeling gebeurt per regio, wat verklart waarom fouten optreden na het overschakelen van us-west-2 naar een andere zone.

Aan de kant van het werkstation beperkt de installatie zich tot de AWS SDK:

pip install boto3>=1.34.131

Configureer vervolgens uw referenties zoals gebruikelijk:

aws configure
# AWS Access Key ID: your-access-key
# AWS Secret Access Key: your-secret-key
# Default region name: us-west-2
# Default output format: json

Aanroepen via de Converse-API

Bedrock verenigt de toegang tot verschillende providers achter één enkele methode: converse(). In de praktijk roept dezelfde code een Mistral-model of elk ander model in de catalogus aan; alleen de identifier verandert. De inhoud van berichten is geen eenvoudige string, maar een lijst met blokken, en generatie-instellingen zijn gegroepeerd onder inferenceConfig in plaats van afgevlakt op het hoogste niveau.

import boto3

client = boto3.client("bedrock-runtime", region_name="us-west-2")

response = client.converse(
    modelId="mistral.mistral-large-2512-v1:0",
    messages=[
        {
            "role": "user",
            "content": [{"text": "Explain the concept of a VPC in AWS in 5 points."}]
        }
    ],
    inferenceConfig={
        "temperature": 0.3,
        "maxTokens": 1024
    }
)

# Extract the response
output = response["output"]["message"]["content"][0]["text"]
print(output)

Identifiers volgen het formaat mistral.<model-name>-<version>:0. Omdat ze versienummering hebben, is het het beste om ze te centraliseren in een constante in plaats van ze bij elke oproep te kopiëren:

# Common models (versioned identifiers — check the Bedrock console for the current list)
MODELS = {
    "large_3":  "mistral.mistral-large-2512-v1:0",
    "small":       "mistral.mistral-small-2402-v1:0",
    "mixtral":     "mistral.mixtral-8x7b-instruct-v0:1",
    "mistral_7b":  "mistral.mistral-7b-instruct-v0:2",
}

Voor lange antwoorden retourneert converse_stream een gebeurtenisstroom waarover u iterereert terwijl deze binnenkomt. Hierdoor kan een interface tekst weergeven terwijl deze wordt gegenereerd, in plaats van enkele seconden te wachten met een bevroren scherm.

response = client.converse_stream(
    modelId="mistral.mistral-large-2512-v1:0",
    messages=[
        {
            "role": "user",
            "content": [{"text": "Generate a complete guide on Lambda functions."}]
        }
    ],
    inferenceConfig={"maxTokens": 2048}
)

for event in response["stream"]:
    if "contentBlockDelta" in event:
        text = event["contentBlockDelta"]["delta"].get("text", "")
        print(text, end="", flush=True)

De native Mistral SDK en waarom u deze hier beter kunt vermijden

Als u de voorkeur geeft aan de standaard Mistral-client, laat een adapter u toe deze naar het Bedrock-eindpunt te laten wijzen:

import os
from mistralai.client import Mistral

# Configuration for Bedrock
client = Mistral(
    api_key=os.environ.get("AWS_SECRET_ACCESS_KEY", ""),
    server_url=f"https://bedrock-runtime.us-west-2.amazonaws.com"
)

De boto3-aanpak wordt op AWS echter aanbevolen omdat deze native integreert met IAM, CloudWatch en andere AWS-diensten. In de praktijk geeft het kiezen voor boto3 u automatische referentierotatie via rollen en observability zonder dat u ook maar één regel extra code hoeft te schrijven.

Integratie met het AWS-ecosysteem

Bedrock verzendt automatisch metrieken naar CloudWatch: Invocations voor het aantal oproepen, InvocationLatency voor de request-latentie, en InputTokenCount en OutputTokenCount voor het tokenverbruik. U krijgt een dashboard voor kosten en prestaties zonder dat u uw applicatie hoeft te instrumenteren. Een snelle controle vanaf de commandoregel volstaat om het volume voor een bepaalde periode te verifiëren:

# Check metrics via AWS CLI
aws cloudwatch get-metric-statistics \
    --namespace "AWS/Bedrock" \
    --metric-name "Invocations" \
    --start-time 2026-04-01T00:00:00Z \
    --end-time 2026-04-03T23:59:59Z \
    --period 3600 \
    --statistics Sum

AWS biedt ook zijn eigen guardrails aan, die die van Mistral aanvullen. Deze worden op oproepniveau gekoppeld, zodat u een consistent filterbeleid kunt toepassen op alle modellen in de catalogus, ongeacht hun provider:

response = client.converse(
    modelId="mistral.mistral-large-2512-v1:0",
    messages=[{"role": "user", "content": [{"text": "..."}]}],
    guardrailConfig={
        "guardrailIdentifier": "my-guardrail-id",
        "guardrailVersion": "1"
    }
)

Verschillen met de directe Mistral-API

AspectMistral APIAWS Bedrock
SDKmistralaiboto3
AuthAPI KeyIAM (SigV4)
APIchat.complete()converse()
Streamingchat.stream()converse_stream()
MonitoringHandmatigNative CloudWatch
BillingMistralAWS

Deze tabel verklaart waarom het overzetten van de Mistral-API nooit louter een URL-wijziging is: het berichtformaat, de aangeroepen methode en het authenticatiemechanisme veranderen allemaal tegelijk. Voorzie een abstractielaag in uw code als u van plan bent beide te bedienen.

Belangrijkste punten

  • Bedrock gebruikt boto3 en de converse()-API, niet de standaard Mistral-client
  • Authenticatie verloopt via IAM, niet via een Mistral API-sleutel
  • CloudWatch-metrieken worden automatisch verzonden (latentie, tokens, oproepen)
  • Schakel modellen in de Bedrock-console in voordat u ze gebruikt
  • Bedrock-identifiers zijn voorzien van versienummers (mistral.mistral-large-2512-v1:0) en veranderen per generatie: verifieer de exacte waarde in de Bedrock-console voordat u implementeert
  • Streaming gebeurt via converse_stream() met gebeurtenissen