Vai al contenuto principale
Italiano— Scegli una lingua
Menu

AWS Bedrock

Lezione 8 di 14 Aggiornata il 2 novembre 2026 Avanzato
In questa pagina
  1. Mistral su Amazon Bedrock
  2. Prerequisiti
  3. Chiamata tramite l’API Converse
  4. L’SDK nativo Mistral e perché evitarlo qui
  5. Integrazione con l’ecosistema AWS
  6. Differenze rispetto all’API Mistral diretta
  7. Punti chiave

Mistral su Amazon Bedrock

Amazon Bedrock è il servizio gestito di AWS per accedere ai modelli fondativi tramite un’API unificata. Mistral AI offre qui una gamma completa, che va dal leggero Mistral 7B al potente Mistral Large 3. L’integrazione si basa sull’SDK AWS standard, boto3. Questo lo rende un’opzione interessante per i team già consolidati su AWS: nessuna chiave vendor extra da far circolare, nessun nuovo contratto da approvare e un modello di autenticazione che i tuoi amministratori conoscono già alla perfezione.

Il catalogo di Bedrock è uno dei più vasti per Mistral. Troverai Mistral Large 3 per il ragionamento avanzato e i compiti multimodali, la linea leggera Ministral 3B / 8B / 14B, versioni precedenti come Mistral Large 24.07 e 24.02 (spesso mantenute per evitare di rompere prompt calibrati), Mistral Small per elaborazioni veloci ed economiche, Mixtral 8x7B con la sua architettura Mixture-of-Experts, il modello fondativo open-weight Mistral 7B e Pixtral Large per le capacità visive e multimodali. Questa profondità ti permette di eseguire un modello economico per la classificazione di massa accanto a un modello di fascia alta per riassunti delicati all’interno della stessa applicazione.

Prerequisiti

Tre condizioni devono essere soddisfatte prima della tua prima chiamata. Innanzitutto, hai bisogno di un account AWS in una regione che supporti Bedrock. In secondo luogo, ti serve un principale IAM (utente o ruolo) a cui sono state concesse le due autorizzazioni Bedrock richieste:

  • bedrock:InvokeModel
  • bedrock:InvokeModelWithResponseStream

Infine, i modelli Mistral devono essere abilitati nella console Bedrock per la tua regione specifica. Questo ultimo passo coglie di sorpresa molti team: le tue autorizzazioni IAM potrebbero essere perfette, ma se il modello non è abilitato nella regione che stai chiamando, rimane irraggiungibile. L’abilitazione avviene regione per regione, il che spiega i fallimenti dopo essere passati da us-west-2 a un’altra zona.

Sulla workstation, l’installazione si limita all’SDK AWS:

pip install boto3>=1.34.131

Quindi configura le tue credenziali come al solito:

aws configure
# AWS Access Key ID: your-access-key
# AWS Secret Access Key: your-secret-key
# Default region name: us-west-2
# Default output format: json

Chiamata tramite l’API Converse

Bedrock unifica l’accesso a diversi provider dietro un singolo metodo: converse(). In pratica, lo stesso codice chiama un modello Mistral o qualsiasi altro modello nel catalogo; cambia solo l’identificatore. Il contenuto del messaggio non è una semplice stringa, ma una lista di blocchi, e le impostazioni di generazione sono raggruppate sotto inferenceConfig invece di essere appiattite al livello superiore.

import boto3

client = boto3.client("bedrock-runtime", region_name="us-west-2")

response = client.converse(
    modelId="mistral.mistral-large-2512-v1:0",
    messages=[
        {
            "role": "user",
            "content": [{"text": "Explain the concept of a VPC in AWS in 5 points."}]
        }
    ],
    inferenceConfig={
        "temperature": 0.3,
        "maxTokens": 1024
    }
)

# Estrai la risposta
output = response["output"]["message"]["content"][0]["text"]
print(output)

Gli identificatori seguono il formato mistral.<model-name>-<version>:0. Poiché sono versionati, è meglio centralizzarli in una costante piuttosto che copiarli in ogni chiamata:

# Modelli comuni (identificatori versionati — controlla la console Bedrock per l'elenco attuale)
MODELS = {
    "large_3":  "mistral.mistral-large-2512-v1:0",
    "small":       "mistral.mistral-small-2402-v1:0",
    "mixtral":     "mistral.mixtral-8x7b-instruct-v0:1",
    "mistral_7b":  "mistral.mistral-7b-instruct-v0:2",
}

Per risposte lunghe, converse_stream restituisce un flusso di eventi su cui iterare man mano che arrivano. Questo permette a un’interfaccia di visualizzare il testo mentre viene generato, invece di attendere diversi secondi con uno schermo bloccato.

response = client.converse_stream(
    modelId="mistral.mistral-large-2512-v1:0",
    messages=[
        {
            "role": "user",
            "content": [{"text": "Generate a complete guide on Lambda functions."}]
        }
    ],
    inferenceConfig={"maxTokens": 2048}
)

for event in response["stream"]:
    if "contentBlockDelta" in event:
        text = event["contentBlockDelta"]["delta"].get("text", "")
        print(text, end="", flush=True)

L’SDK nativo Mistral e perché evitarlo qui

Se preferisci il client Mistral standard, un adattatore ti permette di puntarlo all’endpoint di Bedrock:

import os
from mistralai.client import Mistral

# Configurazione per Bedrock
client = Mistral(
    api_key=os.environ.get("AWS_SECRET_ACCESS_KEY", ""),
    server_url=f"https://bedrock-runtime.us-west-2.amazonaws.com"
)

Tuttavia, l’approccio boto3 è raccomandato su AWS perché si integra nativamente con IAM, CloudWatch e altri servizi AWS. In pratica, scegliere boto3 ti offre la rotazione automatica delle credenziali tramite ruoli e l’osservabilità senza scrivere una singola riga di codice extra.

Integrazione con l’ecosistema AWS

Bedrock invia automaticamente le metriche a CloudWatch: Invocations per il numero di chiamate, InvocationLatency per la latenza delle richieste, e InputTokenCount e OutputTokenCount per il consumo di token. Ottieni una dashboard di costi e prestazioni senza dover strumentare la tua applicazione. Un rapido controllo dalla riga di comando è sufficiente per verificare il volume per un dato periodo:

# Controlla le metriche tramite AWS CLI
aws cloudwatch get-metric-statistics \
    --namespace "AWS/Bedrock" \
    --metric-name "Invocations" \
    --start-time 2026-04-01T00:00:00Z \
    --end-time 2026-04-03T23:59:59Z \
    --period 3600 \
    --statistics Sum

AWS offre anche le proprie guardrail, che si aggiungono a quelle di Mistral. Queste si collegano a livello di chiamata, permettendoti di applicare una politica di filtraggio coerente su tutti i modelli del catalogo, indipendentemente dal loro provider:

response = client.converse(
    modelId="mistral.mistral-large-2512-v1:0",
    messages=[{"role": "user", "content": [{"text": "..."}]}],
    guardrailConfig={
        "guardrailIdentifier": "my-guardrail-id",
        "guardrailVersion": "1"
    }
)

Differenze rispetto all’API Mistral diretta

AspettoAPI MistralAWS Bedrock
SDKmistralaiboto3
AuthAPI KeyIAM (SigV4)
APIchat.complete()converse()
Streamingchat.stream()converse_stream()
MonitoraggioManualeCloudWatch nativo
FatturazioneMistralAWS

Questa tabella spiega perché la migrazione dall’API Mistral non è mai solo un cambio di URL: il formato del messaggio, il metodo chiamato e il meccanismo di autenticazione cambiano tutti contemporaneamente. Prevedi un livello di astrazione nel tuo codice se intendi servirli entrambi.

Punti chiave

  • Bedrock usa boto3 e l’API converse(), non il client Mistral standard
  • L’autenticazione passa attraverso IAM, non una chiave API Mistral
  • Le metriche CloudWatch vengono inviate automaticamente (latenza, token, invocazioni)
  • Abilita i modelli nella console Bedrock prima di usarli
  • Gli identificatori Bedrock sono versionati (mistral.mistral-large-2512-v1:0) e cambiano con ogni generazione: verifica il valore esatto nella console Bedrock prima del deploy
  • Lo streaming avviene tramite converse_stream() con eventi