Snowflake, IBM watsonx un Outscale
Šajā lapā
Trīs papildinošas platformas
Papildus lielajiem mākoņu gigantiem (Azure, GCP, AWS) Mistral ir pieejams vēl trīs platformās, kas paredzētas specifiskām vajadzībām: Snowflake Cortex datu komandām, IBM watsonx regulētām nozarēm un Outscale Eiropas datu suverenitātei. Neviena no tām necenšas aizstāt vispārēja pielietojuma platformas; katra izceļas konkrētā scenārijā. Šī nodarbība sniedz tev skaidru pārskatu par visām trim.
Snowflake Cortex
Snowflake Cortex iegulst AI modeļus tieši Snowflake platformā. Tā galvenā priekšrocība izsakāma vienā teikumā: tu izsauc Mistral no saviem SQL vaicājumiem, nekad nepārvietojot datus ārpus Snowflake. Pieejami divi modeļi: mistral-large2 (Mistral Large 2) sarežģītai loģikai un Mistral 7B kā viegls serverless risinājums. Nepieciešams Snowflake konts reģionā, kas atbalsta Cortex, un aktivizēta CORTEX_USER loma.
Elegantākā integrācija ir tīrs SQL izsaukums:
-- Tiešs izsaukums SQL vaicājuma ietvaros
SELECT SNOWFLAKE.CORTEX.COMPLETE(
'mistral-large2',
'Summarize the main trends in this dataset.'
) AS summary;
Patiesā vērtība atklājas, apvienojot modeli ar esošajām tabulām. Iedomājies tabulu reviews ar miljoniem klientu atsauksmju: eksporta skripta rakstīšanas, API cauruļvada izveides un rezultātu atpakaļimportēšanas vietā tu ģenerē sentimenta kolonnu vienā vaicājumā.
-- Analizē katru rindu tabulā
SELECT
id,
description,
SNOWFLAKE.CORTEX.COMPLETE(
'mistral-large2',
CONCAT('Classify this text (positive/negative/neutral): ', description)
) AS sentiment
FROM reviews
LIMIT 100;
Šajā piemērā LIMIT 100 nav tikai dekorācija: vienmēr sāc ar paraugu, lai novērtētu izmaksas un pārbaudītu atbilžu formātus pirms apstrādes palaišanas visā tabulā. Tāda pati loģika pieejama Python vidē, izmantojot Snowpark, ļaujot integrēt izsaukumus esošajos cauruļvados:
from snowflake.cortex import Complete
# Vienkāršs izsaukums
completion = Complete(
model="mistral-large2",
prompt="What are Snowflake's advantages for AI?"
)
print(completion)
Cortex izcili piemērots liela apjoma tekstu klasifikācijai, datu bagātināšanai tieši SQL cauruļvados, kopsavilkumu ģenerēšanai masīvos datos un sentimenta analīzei, neeksportējot datus.
IBM watsonx.ai
IBM watsonx.ai ir IBM uzņēmumu AI platforma, kas izstrādāta regulētām nozarēm, piemēram, bankām, apdrošināšanai un veselības aprūpei. Mistral modeļi, tostarp Mistral Large, pieejami gan kā SaaS, gan lokāli (on-premise), padarot to par spēcīgu izvēli, ja iekšējie auditi aizliedz nosūtīt datus uz publiskajiem mākoņu servisiem. Piekļuvei nepieciešams IBM watsonx projekts (IBM_CLOUD_PROJECT_ID), servisa ID ar Watson Machine Learning piekļuvi un EDITOR lomu, kā arī IBM Cloud API atslēga (IBM_CLOUD_API_KEY).
Tava izvēlētā reģiona noteikts galapunkta URL, ko nodod klientam:
| Reģions | Kods |
|---|---|
| Dallas | us-south |
| London | eu-gb |
| Frankfurt | eu-de |
| Tokyo | jp-tok |
Instalācija prasa trīs pakotnes:
pip install httpx ibm-watsonx-ai mistral-common
Trešā pakotne pelnījusi īpašu uzmanību. Pakotne mistral-common ir būtiska pareizai uzvedņu (prompt) formatēšanai. Bez tās tokenizators var radīt klusas kļūdas — atbildes, kas šķiet ticamas, bet balstītas uz nepareizi tokenizētām uzvednēm. Tas ir sliktākais scenārijs, jo nekas neliecina par problēmas esamību.
Kad akreditācijas dati ir ievadīti, pats izsaukums paliek vienkāršs:
from ibm_watsonx_ai.foundation_models import ModelInference
import os
model = ModelInference(
model_id="mistralai/mistral-large",
credentials={
"url": "https://eu-de.ml.cloud.ibm.com",
"apikey": os.environ["IBM_CLOUD_API_KEY"]
},
project_id=os.environ["IBM_CLOUD_PROJECT_ID"]
)
response = model.generate_text(
prompt="What are the GDPR requirements for AI data processing?"
)
print(response)
Izvairies sūtīt neapstrādātas virknes: izmanto Mistral tokenizatoru, lai novērstu iepriekš minētās klusās tokenizācijas kļūdas.
from mistral_common.tokens.tokenizers.mistral import MistralTokenizer
from mistral_common.protocol.instruct.messages import UserMessage
from mistral_common.protocol.instruct.request import ChatCompletionRequest
tokenizer = MistralTokenizer.from_model("mistral-large-latest")
request = ChatCompletionRequest(
messages=[UserMessage(content="Your prompt here")]
)
tokens = tokenizer.encode_chat_completion(request)
Outscale
Outscale ir Eiropas mākoņu nodrošinātājs, Dassault Systèmes meitasuzņēmums. Tā ir īstā izvēle organizācijām, kurām nepieciešama pilnīga datu suverenitāte Eiropas Savienībā. Pieejami trīs modeļi: Mistral Small (24.09), Codestral (24.05), kas specializēts kodam, un Ministral 8B (24.10). Izvietošana notiek caur Outscale tirgus laukumu (marketplace), kas nodrošina virtuālo mašīnu ar GPU un iepriekš izvietotu modeli — tev nav jākonfigurē secināšana (inference) pašam.
Patīkama atšķirība no abām iepriekšējām platformām: Outscale strādā ar standarta Mistral klientu, vienkārši norādot server_url uz savu instanci.
import os
from mistralai.client import Mistral
client = Mistral(server_url=os.environ["OUTSCALE_SERVER_URL"])
response = client.chat.complete(
model=os.environ["OUTSCALE_MODEL_NAME"],
messages=[
{"role": "user", "content": "What are the advantages of a European sovereign cloud?"}
],
temperature=0
)
print(response.choices[0].message.content)
Ja esi izvietojis Codestral, FIM (fill-in-the-middle) pabeigšana darbojas tāpat: tu norādi koda sākumu un beigas, un models aizpilda vidusdaļu. Tas ir mehānisms, kas darbojas kodu redaktoru pabeigšanas asistentos.
response = client.fim.complete(
model=os.environ["OUTSCALE_MODEL_NAME"],
prompt="def fibonacci(n: int) -> int:",
suffix="return result"
)
print(response.choices[0].message.content)
Trīs platformu salīdzinājums
| Kritērijs | Snowflake Cortex | IBM watsonx | Outscale |
|---|---|---|---|
| Mērķauditorija | Datu/SQL komandas | Regulēti uzņēmumi | ES suverenitāte |
| Piekļuve | Natīvs SQL + Python | IBM SDK | Mistral klients |
| Datu atrašanās vieta | Paliek Snowflake | IBM Cloud | Eiropas mākonis |
| Modeļi | Large, 7B | Large | Small, Codestral, 8B |
| Atbilstība | SOC 2, HIPAA | SOC 2, HIPAA, PCI | SecNumCloud |
Galvenās atziņas
- Snowflake Cortex — ideāli, ja tavi dati jau ir Snowflake; izsauc AI tieši no SQL
- IBM watsonx — regulētu uzņēmumu platforma; formatēšanai nepieciešams
mistral-common - Outscale — Eiropas suverenitāte; izvietošana caur tirgus laukumu ar iepriekš konfigurētu GPU
- Katrai platformai savs SDK — tikai Outscale izmanto standarta Mistral klientu