Snowflake, IBM watsonx ja Outscale
Sellel lehel
Kolm täiendavat platvormi
Lisaks suurtele hüperskaalajatele (Azure, GCP, AWS) on Mistral saadaval veel kolmel platvormil, mis vastavad spetsiifilistele vajadustele: Snowflake Cortex andmemeeskondadele, IBM watsonx reguleeritud ettevõtetele ja Outscale Euroopa andmesuveräänsuse tagamiseks. Ükski neist ei püüa asendada üldotstarbelisi platvorme; igaüks paistab silma kindlas stsenaariumis. See õppetund annab sulle selge ülevaate kõigist kolmest.
Snowflake Cortex
Snowflake Cortex integreerib tehisintellekti mudelid otse Snowflake’i platvormi. Selle peamine eelis taandub ühele lausele: sa kutsud Mistrali oma SQL-päringutes, viimata andmeid kunagi Snowflake’ist välja. Saadaval on kaks mudelit: täiustatud arutlusvõimega Mistral Large 2 identifikaatoriga mistral-large2 ja kergekaaluline serverita variant Mistral 7B. Eelduseks on Snowflake’i konto Cortexiga ühilduvas piirkonnas ja lubatud CORTEX_USER roll.
Elegantseim integratsioon on puhas SQL-kutse:
-- Otsekutse SQL-päringu sees
SELECT SNOWFLAKE.CORTEX.COMPLETE(
'mistral-large2',
'Summarize the main trends in this dataset.'
) AS summary;
Tegelik väärtus ilmneb siis, kui kombineerid mudeli oma olemasolevate tabelitega. Kujuta ette tabelit reviews, mis sisaldab miljoneid kliendiarvamusi: ekspordiskripti kirjutamise, API-kutseliini loomise ja tulemuste uuesti importimise asemel genereerid sentimentaalsuse veeru ühe päringuga.
-- Analüüsi iga rida tabelis
SELECT
id,
description,
SNOWFLAKE.CORTEX.COMPLETE(
'mistral-large2',
CONCAT('Classify this text (positive/negative/neutral): ', description)
) AS sentiment
FROM reviews
LIMIT 100;
Selles näites olev LIMIT 100 pole ilu pärast: alusta alati valimiga, et hinnata kulusid ja kontrollida vastuse vorminguid enne kogu tabeli töötlemist. Sama loogika on Pythonis kättesaadav Snowparki kaudu, võimaldades sul integreerida kutsed olemasolevasse andmetöötlusliini:
from snowflake.cortex import Complete
# Lihtne kutse
completion = Complete(
model="mistral-large2",
prompt="What are Snowflake's advantages for AI?"
)
print(completion)
Cortex hiilgab suuremahulise tekstiklassifitseerimise, andmete rikastamisega otse SQL-liinides, kokkuvõtete genereerimisega tohutute andmestike üle ja sentimentaalsuse analüüsiga, viimata andmeid kunagi välja.
IBM watsonx.ai
IBM watsonx.ai on IBM-i ettevõtetele mõeldud tehisintellekti platvorm, loodud reguleeritud tööstusharudele nagu pangandus, kindlustus ja tervishoid. Mistrali mudelid, sealhulgas Mistral Large, on saadaval nii SaaS-i kui ka kohapealse lahendusena, muutes selle tugevaks valikuks, kui sisemised auditid keelavad andmete saatmise avalikku pilve. Juurdepääsuks on vaja IBM watsonx projekti (IBM_CLOUD_PROJECT_ID), teenuse ID-d Watson Machine Learningi juurdepääsu ja EDITOR rolliga ning IBM Cloud API võtit (IBM_CLOUD_API_KEY).
Sinu valitud piirkond määrab lõpp-punkti URL-i, mille edastad kliendile:
| Piirkond | Kood |
|---|---|
| Dallas | us-south |
| London | eu-gb |
| Frankfurt | eu-de |
| Tokyo | jp-tok |
Paigaldamine hõlmab kolme paketti:
pip install httpx ibm-watsonx-ai mistral-common
Kolmas pakett väärib erilist tähelepanu. Pakett mistral-common on hädavajalik korrektseks vihjete vormindamiseks. Ilma selleta võib tokenisaator tekitada vaikivaid vigu – vastuseid, mis tunduvad usutavad, kuid põhinevad valesti tokeniseeritud vihjetel. See on halvim stsenaarium, kuna miski ei anna märku, et probleem eksisteerib.
Kui mandaadid on paigas, jääb kutse ise lihtsaks:
from ibm_watsonx_ai.foundation_models import ModelInference
import os
model = ModelInference(
model_id="mistralai/mistral-large",
credentials={
"url": "https://eu-de.ml.cloud.ibm.com",
"apikey": os.environ["IBM_CLOUD_API_KEY"]
},
project_id=os.environ["IBM_CLOUD_PROJECT_ID"]
)
response = model.generate_text(
prompt="What are the GDPR requirements for AI data processing?"
)
print(response)
Väldi toorstringide saatmist: kasuta Mistrali tokenisaatorit, et vältida eelmainitud vaikivaid tokeniseerimisvigu.
from mistral_common.tokens.tokenizers.mistral import MistralTokenizer
from mistral_common.protocol.instruct.messages import UserMessage
from mistral_common.protocol.instruct.request import ChatCompletionRequest
tokenizer = MistralTokenizer.from_model("mistral-large-latest")
request = ChatCompletionRequest(
messages=[UserMessage(content="Your prompt here")]
)
tokens = tokenizer.encode_chat_completion(request)
Outscale
Outscale on Euroopa pilveteenuse pakkuja, Dassault Systèmes’i tütarettevõte. See on õige valik organisatsioonidele, kes nõuavad täielikku andmesuveräänsust Euroopa Liidu piires. Saadaval on kolm mudelit: Mistral Small (24.09), kodeerimiseks spetsialiseeritud Codestral (24.05) ja Ministral 8B (24.10). Kasutuselevõtt toimub Outscale’i turuplatsi kaudu, mis tarnib virtuaalmasina GPU-ga ja eelpaigaldatud mudeliga – sa ei pea järeldusteenust ise konfigureerima.
Tervitatav erinevus võrreldes kahe eelmise platvormiga: Outscale töötab standardse Mistrali kliendiga, suunates lihtsalt server_url oma instantsile.
import os
from mistralai.client import Mistral
client = Mistral(server_url=os.environ["OUTSCALE_SERVER_URL"])
response = client.chat.complete(
model=os.environ["OUTSCALE_MODEL_NAME"],
messages=[
{"role": "user", "content": "What are the advantages of a European sovereign cloud?"}
],
temperature=0
)
print(response.choices[0].message.content)
Kui oled kasutusele võtnud Codestrali, toimib FIM (fill-in-the-middle) lõpetamine samamoodi: sisestad koodi alguse ja lõpu ning mudel täidab vahepealse osa. See on mehhanism, mis seisab koodiredaktorite lõpetamisabiliste taga.
response = client.fim.complete(
model=os.environ["OUTSCALE_MODEL_NAME"],
prompt="def fibonacci(n: int) -> int:",
suffix="return result"
)
print(response.choices[0].message.content)
Kolme platvormi võrdlus
| Kriteerium | Snowflake Cortex | IBM watsonx | Outscale |
|---|---|---|---|
| Sihtgrupp | Andme-/SQL-meeskonnad | Reguleeritud ettevõtted | ELi suveräänsus |
| Juurdepääs | Native SQL + Python | IBM SDK | Mistrali klient |
| Andmete asukoht | Jääb Snowflake’i | IBM Cloud | Euroopa pilv |
| Mudelid | Large, 7B | Large | Small, Codestral, 8B |
| Vastavus | SOC 2, HIPAA | SOC 2, HIPAA, PCI | SecNumCloud |
Peamised punktid
- Snowflake Cortex – ideaalne, kui su andmed on juba Snowflake’is; kutsu tehisintellekti otse SQL-ist
- IBM watsonx – reguleeritud ettevõtete platvorm; nõuab vormindamiseks
mistral-commonpaketti - Outscale – Euroopa suveräänsus; turuplatsi kasutuselevõtt eelseadistatud GPU-ga
- Igal platvormil on oma SDK – ainult Outscale kasutab standardset Mistrali klienti