Snowflake, IBM watsonx og Outscale
På denne side
Tre komplementære platforme
Ud over de store hyperscalere (Azure, GCP, AWS) er Mistral tilgængeligt på tre yderligere platforme, der dækker specifikke behov: Snowflake Cortex til datateams, IBM watsonx til regulerede virksomheder og Outscale til europæisk datasuverænitet. Ingen af disse har til formål at erstatte generelle platforme; hver især excellerer derimod i et bestemt scenarie. Denne lektion giver dig et klart overblik over alle tre.
Snowflake Cortex
Snowflake Cortex integrerer AI-modeller direkte i Snowflake-platformen. Den største fordel kan opsummeres i én sætning: Du kalder Mistral fra dine SQL-forespørgsler uden nogensinde at flytte data ud af Snowflake. To modeller er tilgængelige: Mistral Large 2 under identifikatoren mistral-large2 til avanceret ræsonnement og Mistral 7B, en letvægts serverless-løsning. Forudsætningerne inkluderer en Snowflake-konto i en Cortex-kompatibel region og aktiveringen af rollen CORTEX_USER.
Den mest elegante integration er et rent SQL-kald:
-- Direkte kald inden i en SQL-forespørgsel
SELECT SNOWFLAKE.CORTEX.COMPLETE(
'mistral-large2',
'Opsummer de vigtigste tendenser i dette datasæt.'
) AS summary;
Den virkelige værdi viser sig, når du kombinerer modellen med dine eksisterende tabeller. Forestil dig en tabel kaldet reviews, der indeholder millioner af kundeanmeldelser: I stedet for at skrive et eksportscript, bygge en pipeline til API-kald og genimportere resultaterne, genererer du en sentiment-kolonne i en enkelt forespørgsel.
-- Analyser hver række i en tabel
SELECT
id,
description,
SNOWFLAKE.CORTEX.COMPLETE(
'mistral-large2',
CONCAT('Klassificer denne tekst (positiv/negativ/neutral): ', description)
) AS sentiment
FROM reviews
LIMIT 100;
LIMIT 100 i dette eksempel er ikke blot dekorativt: Start altid med en stikprøve for at estimere omkostninger og verificere svarformater, før du kører behandling på hele tabellen. Den samme logik er tilgængelig i Python via Snowpark, hvilket lader dig integrere kald i en eksisterende pipeline:
from snowflake.cortex import Complete
# Simpel kald
completion = Complete(
model="mistral-large2",
prompt="Hvad er Snowflakes fordele inden for AI?"
)
print(completion)
Cortex skinner ved tekstklassificering i stor skala, berigelse af data direkte i SQL-pipelines, generering af opsummeringer over massive datasæt og udførelse af sentimentanalyse uden nogensinde at eksportere data.
IBM watsonx.ai
IBM watsonx.ai er IBMs enterprise AI-platform, designet til regulerede brancher som banking, forsikring og sundhedsvæsen. Mistral-modeller, herunder Mistral Large, er tilgængelige både som SaaS og on-premise, hvilket gør dette til en stærk løsning, når interne revisioner forbyder afsendelse af data til offentlige cloud-tjenester. Adgang kræver et IBM watsonx-projekt (IBM_CLOUD_PROJECT_ID), et Service ID med adgang til Watson Machine Learning og rollen EDITOR, samt en IBM Cloud API-nøgle (IBM_CLOUD_API_KEY).
Den region, du vælger, bestemmer den endpoint-URL, du sender til klienten:
| Region | Kode |
|---|---|
| Dallas | us-south |
| London | eu-gb |
| Frankfurt | eu-de |
| Tokyo | jp-tok |
Installationen involverer tre pakker:
pip install httpx ibm-watsonx-ai mistral-common
Den tredje pakke fortjener særlig opmærksomhed. Pakken mistral-common er afgørende for korrekt prompt-formatering. Uden den kan tokenizeren producere stille fejl – svar, der virker plausible, men som er baseret på forkert tokeniserede prompts. Dette er værste faldsscenarie, fordi intet signalerer, at der findes et problem.
Når legitimationsoplysningerne er på plads, selve kaldet forbliver ligetil:
from ibm_watsonx_ai.foundation_models import ModelInference
import os
model = ModelInference(
model_id="mistralai/mistral-large",
credentials={
"url": "https://eu-de.ml.cloud.ibm.com",
"apikey": os.environ["IBM_CLOUD_API_KEY"]
},
project_id=os.environ["IBM_CLOUD_PROJECT_ID"]
)
response = model.generate_text(
prompt="Hvad er GDPR-kravene til AI-databehandling?"
)
print(response)
Undgå at sende rå strenge: Brug Mistral-tokenizeren til at forhindre de stille tokeniseringsfejl, der blev nævnt tidligere.
from mistral_common.tokens.tokenizers.mistral import MistralTokenizer
from mistral_common.protocol.instruct.messages import UserMessage
from mistral_common.protocol.instruct.request import ChatCompletionRequest
tokenizer = MistralTokenizer.from_model("mistral-large-latest")
request = ChatCompletionRequest(
messages=[UserMessage(content="Din prompt her")]
)
tokens = tokenizer.encode_chat_completion(request)
Outscale
Outscale er en europæisk cloud-udbyder og et datterselskab af Dassault Systèmes. Det er valget for organisationer, der kræver fuld datasuverænitet inden for Den Europæiske Union. Tre modeller er tilgængelige: Mistral Small (24.09), Codestral (24.05) specialiseret til kode og Ministral 8B (24.10). Implementeringen sker via Outscale-markedspladsen, som leverer en VM med GPU og modellen præ-implementeret – du behøver ikke selv konfigurere inferensen.
En velkommen forskel fra de to tidligere platforme: Outscale fungerer med den standard Mistral-klient ved blot at pege server_url mod din instans.
import os
from mistralai.client import Mistral
client = Mistral(server_url=os.environ["OUTSCALE_SERVER_URL"])
response = client.chat.complete(
model=os.environ["OUTSCALE_MODEL_NAME"],
messages=[
{"role": "user", "content": "Hvad er fordelene ved en europæisk suveræn cloud?"}
],
temperature=0
)
print(response.choices[0].message.content)
Hvis du har implementeret Codestral, fungerer FIM-completion (fill-in-the-middle) på samme måde: Du angiver begyndelsen og slutningen af koden, og modellen udfylder midten. Dette er mekanismen bag completions-assistenter i kodeeditorer.
response = client.fim.complete(
model=os.environ["OUTSCALE_MODEL_NAME"],
prompt="def fibonacci(n: int) -> int:",
suffix="return result"
)
print(response.choices[0].message.content)
Sammenligning af de tre platforme
| Kriterium | Snowflake Cortex | IBM watsonx | Outscale |
|---|---|---|---|
| Målgruppe | Data/SQL-teams | Regulerede virksomheder | EU-suverænitet |
| Adgang | Native SQL + Python | IBM SDK | Mistral-klient |
| Data-placering | Bliver i Snowflake | IBM Cloud | Europæisk cloud |
| Modeller | Large, 7B | Large | Small, Codestral, 8B |
| Overholdelse | SOC 2, HIPAA | SOC 2, HIPAA, PCI | SecNumCloud |
Vigtige pointer
- Snowflake Cortex – ideelt, hvis dine data allerede er i Snowflake; kald AI direkte fra SQL
- IBM watsonx – platform til regulerede virksomheder; kræver
mistral-commontil formatering - Outscale – europæisk suverænitet; markedsplads-implementering med præ-konfigureret GPU
- Hver platform har sit eget SDK – kun Outscale bruger standard Mistral-klienten