Spring til hovedindhold
Dansk— Vælg et sprog
Menu

AWS Bedrock og andre cloududbydere

Lektion 13 af 14 Opdateret 29. juli 2026 Udvikler
På denne side
  1. Mistrals cloud-økosystem
  2. AWS Bedrock
  3. Snowflake Cortex
  4. IBM watsonx
  5. Outscale, den franske souveræne cloud
  6. Vælg den rigtige udbyder
  7. Tjek før deployment
  8. Vigtige pointer

Mistrals cloud-økosystem

Ud over Azure og Google Cloud er Mistral-modeller tilgængelige på flere andre platforme. Denne lektion dykker ned i AWS Bedrock, da det er det mest almindelige alternativ og adskiller sig mest fra det, du har lært hidtil. Derefter gennemgår vi kort integrationerne med Snowflake Cortex, IBM watsonx og Outscale.

AWS Bedrock

Amazon Bedrock er AWS’ managed service til fundamentale modeller. Tjenesten eksponerer en samlet API foran flere udbydere – Anthropic, Meta, Mistral og andre – og håndterer fakturering, sikkerhed og compliance gennem AWS. For teams, der allerede bruger AWS, betyder det, at Mistral-modeller kører inden for samme IAM-område, bruger de samme CloudWatch-logs og optræder på samme regning som resten af din infrastruktur.

Med hensyn til kataloget giver Bedrock adgang til følgende modeller. Den præcise liste afhænger af din region og ændrer sig ved nye releases; siden Model Access i konsollen er den endelige kilde til sandhed.

ModelPositionering
Mistral Large 3Flagship-model (tidligere versioner af Mistral Large forbliver tilgængelige)
Mistral SmallHurtig og omkostningseffektiv
Ministral (3B, 8B, 14B)Kompakte modeller
Mixtral 8x7BMixture-of-experts-model
Pixtral LargeMultimodal (tekst + billeder)

Forbered adgang

Du skal opfylde fire betingelser, før du kan foretage dit første kald:

  1. En AWS-konto med adgang til en region, der understøtter Bedrock
  2. En IAM-principal med tilladelserne bedrock:InvokeModel og bedrock:InvokeModelWithResponseStream
  3. AWS CLI konfigureret og boto3 installeret
  4. Aktivér Mistral-modeller i Bedrock-konsollen (Model Access)
pip install boto3>=1.34.131
aws configure  # Indtast dine legitimationsoplysninger

Den anden tilladelse er den, folk ofte glemmer: en principal med kun bedrock:InvokeModel fungerer i synkron tilstand, men fejler ved det første streaming-kald. Trin 4 ligner aktivering af modeller i Googles Model Garden: indtil du låser modellen op i Model Access, vil ingen IAM-tilladelse virke.

Kald en model med boto3

Her er den store forskel i forhold til Azure og Vertex: På Bedrock bruger du ikke Mistral SDK. Alt går gennem det native AWS SDK, boto3, ved hjælp af converse()-API’en, som er fælles for alle udbydere på platformen.

import boto3
import json

client = boto3.client('bedrock-runtime', region_name='us-west-2')

response = client.converse(
    modelId="mistral.mistral-large-2512-v1:0",
    messages=[
        {
            "role": "user",
            "content": [{"text": "What are the advantages of a serverless architecture on AWS?"}]
        }
    ],
    inferenceConfig={
        "temperature": 0.3,
        "maxTokens": 1024
    }
)

texte = response["output"]["message"]["content"][0]["text"]
print(texte)

Streaming følger samme logik ved brug af converse_stream() og looping over stream-begivenheder. Bemærk, at du skal tjekke for nøglen contentBlockDelta: Bedrock-streamen indeholder også begivenheder for start og slutning af blokke, som ikke indeholder tekst.

response = client.converse_stream(
    modelId="mistral.mistral-large-2512-v1:0",
    messages=[
        {
            "role": "user",
            "content": [{"text": "Describe the Lambda + API Gateway architecture."}]
        }
    ],
    inferenceConfig={"temperature": 0.3, "maxTokens": 1024}
)

for event in response["stream"]:
    if "contentBlockDelta" in event:
        texte = event["contentBlockDelta"]["delta"].get("text", "")
        print(texte, end="", flush=True)

Hvis du porterer kode skrevet til den direkte Mistral API, skal du forvente fire forskelle. For det første er content ikke længere en streng, men et array af {"text": "..."}-objekter. For det andet følger modelId AWS-formatet mistral.{model}-v{version}:{number}: I modsætning til -latest-aliasserne i den direkte API pin’er du en specifik version og skal opdatere den manuelt. For det tredje grupperes inferensparametre i et separat inferenceConfig-objekt i stedet for at blive sendt på øverste niveau. Endelig er ingen Mistral SDK involveret: svar er boto3-ordbøger, ikke typede modeller, hvilket forklarer den nøglebaserede adgang vist ovenfor.

Snowflake Cortex

Snowflake integrerer Mistral-modeller, herunder Mistral Large, direkte i sin dataplatform via Cortex AI. Den største fordel er enkel: dine data forlader aldrig Snowflake. At kalde modellen bliver til en SQL-funktion, der kaldes inden i en forespørgsel, lige ved siden af den tabel, du vil berige.

-- Direkte brug i en SQL-forespørgsel
SELECT SNOWFLAKE.CORTEX.COMPLETE(
  'mistral-large',
  'Summarize this financial report in three key points.'
) AS resume;

Forestil dig en tabel med tusindvis af rapporter: I stedet for at eksportere indhold til et Python-script, kalde API’en og importere resultaterne igen, skriver du en forespørgsel, der direkte producerer sammendragskolonnen. Dette er det oplagte valg, når din datapipeline allerede lever i Snowflake, og governance-regler forbyder enhver dataegress.

IBM watsonx

IBM watsonx.ai tilbyder Mistral-modeller, herunder Mistral Large, i sit katalog. Adgang sker gennem watsonx-API’en ved hjælp af IBM Cloud-legitimationsoplysninger: du instantierer et ModelInference-objekt og sender model-ID’et, dine legitimationsoplysninger og målprojektet. Bemærk den regionale URL i eksemplet – den bestemmer, hvor inferensen kører, hvilket er en detalje, du skal verificere, hvis du har krav til dataresidens.

from ibm_watsonx_ai import Credentials
from ibm_watsonx_ai.foundation_models import ModelInference

model = ModelInference(
    model_id="mistralai/mistral-large",
    credentials=Credentials(url="https://eu-de.ml.cloud.ibm.com", api_key="..."),
    project_id="your-project-id"
)

response = model.generate_text("Explain the data mesh concept.")

Outscale, den franske souveræne cloud

Outscale, en fransk souveræn cloud kvalificeret som SecNumCloud, tilbyder også Mistral-modeller. For offentlige myndigheder, forsvar eller sundhedsorganisationer underlagt strenge regulatoriske krav garanterer denne mulighed, at både data og behandling forbliver i Frankrig. I disse sammenhænge er dette det eneste kriterium, der tæller: kvalifikation går forud for integrationsbekvemmelighed eller developer experience.

Vælg den rigtige udbyder

Valget afhænger næsten aldrig af modellerne i sig selv, da de samme er bredt tilgængelige på tværs af platforme. Det afhænger af, hvor dine data befinder sig, din kontrakt og dine compliance-forpligtelser.

UdbyderHvornår skal du vælge den?
Direkte Mistral APIEnklest, alle modeller tilgængelige, ideel til at komme i gang
Azure AIHvis du allerede er på Azure, samlet fakturering
Google Vertex AIHvis du er på GCP, native IAM-godkendelse
AWS BedrockHvis du er på AWS, integration med AWS-økosystemet
Snowflake CortexHvis dine data er i Snowflake
OutscaleHvis du har krav om fransk souverænitet

En god tommelfingerregel: Start med den direkte API for at validere, at modellen opfylder dine behov, og migrér derefter til din økosystems udbyder, når projektet rykker i produktion. Applikationskoden ændrer sig lidt; det meste af arbejdet involverer godkendelse og modelnavngivning.

Tjek før deployment

Cloududbyderes model-ID’er er versionerede og ændrer sig ved hver generation (f.eks. mistral.mistral-large-2512-v1:0 på Bedrock). Før du kobler et deployment op, skal du verificere den nøjagtige værdi i udbyderens konsol: det er kilden til sandhed, og et forældet ID producerer en adgangsfejl, der er svær at diagnosticere.

Vigtige pointer

  • AWS Bedrock bruger boto3 og converse()-API’en – ikke Mistral SDK
  • Bedrock-meddelelsesformatet adskiller sig lidt (indhold som et array af objekter)
  • Snowflake Cortex integrerer Mistral direkte i SQL-forespørgsler
  • IBM watsonx og Outscale tilbyder alternativer til specifikke behov
  • Vælg din udbyder baseret på dit eksisterende cloud-økosystem og regulatoriske begrænsninger