Snowflake, IBM watsonx και Outscale
Σε αυτήν τη σελίδα
Τρεις συμπληρωματικές πλατφόρμες
Πέρα από τους μεγάλους παρόχους hyperscalers (Azure, GCP, AWS), το Mistral διατίθεται σε τρεις επιπλέον πλατφόρμες που καλύπτουν συγκεκριμένες ανάγκες: το Snowflake Cortex για ομάδες δεδομένων, το IBM watsonx για επιχειρήσεις υπό καθεστώς αυστηρών κανονισμών και το Outscale για την ευρωπαϊκή κυριαρχία δεδομένων. Καμία από αυτές δεν στοχεύει να αντικαταστήσει τις πλατφόρμες γενικής χρήσης· αντίθετα, η κάθε μία διακρίνεται σε ένα συγκεκριμένο σενάριο. Αυτό το μάθημα σας προσφέρει μια σαφή επισκόπηση και των τριών.
Snowflake Cortex
Το Snowflake Cortex ενσωματώνει μοντέλα τεχνητής νοημοσύνης απευθείας στην πλατφόρμα Snowflake. Το κύριο πλεονέκτημά του συνοψίζεται σε μία πρόταση: καλείτε το Mistral από τα ερωτήματα SQL σας χωρίς ποτέ να μετακινείτε τα δεδομένα εκτός του Snowflake. Διατίθενται δύο μοντέλα: το Mistral Large 2 με το αναγνωριστικό mistral-large2 για προηγμένη συλλογιστική και το Mistral 7B, μια ελαφριά επιλογή serverless. Οι προϋποθέσεις περιλαμβάνουν έναν λογαριασμό Snowflake σε περιοχή συμβατή με το Cortex και την ενεργοποίηση του ρόλου CORTEX_USER.
Η πιο κομψή ενσωμάτωση είναι μια καθαρή κλήση SQL:
-- Direct call within a SQL query
SELECT SNOWFLAKE.CORTEX.COMPLETE(
'mistral-large2',
'Summarize the main trends in this dataset.'
) AS summary;
Η πραγματική αξία αναδεικνύεται όταν συνδυάζετε το μοντέλο με τους υπάρχοντες πίνακές σας. Φανταστείτε έναν πίνακα reviews που περιέχει εκατομμύρια κριτικές πελατών: αντί να γράψετε ένα σενάριο εξαγωγής, να δημιουργήσετε έναν αγωγό κλήσεων API και να επανεισάγετε τα αποτελέσματα, παράγετε μια στήλη συναισθήματος σε ένα μόνο ερώτημα.
-- Analyze each row in a table
SELECT
id,
description,
SNOWFLAKE.CORTEX.COMPLETE(
'mistral-large2',
CONCAT('Classify this text (positive/negative/neutral): ', description)
) AS sentiment
FROM reviews
LIMIT 100;
Το LIMIT 100 σε αυτό το παράδειγμα δεν είναι διακοσμητικό: ξεκινάτε πάντα με ένα δείγμα για να εκτιμήσετε το κόστος και να επαληθεύσετε τις μορφές απόκρισης πριν εκτελέσετε επεξεργασία σε ολόκληρο τον πίνακα. Η ίδια λογική είναι προσβάσιμη σε Python μέσω του Snowpark, επιτρέποντάς σας να ενσωματώσετε κλήσεις σε έναν υπάρχοντα αγωγό:
from snowflake.cortex import Complete
# Simple call
completion = Complete(
model="mistral-large2",
prompt="What are Snowflake's advantages for AI?"
)
print(completion)
Το Cortex διακρίνεται στην ταξινόμηση κειμένου μεγάλης κλίμακας, στον εμπλουτισμό δεδομένων απευθείας εντός αγωγών SQL, στη δημιουργία περιλήψεων πάνω σε τεράστια σύνολα δεδομένων και στην ανάλυση συναισθήματος χωρίς ποτέ να εξάγετε δεδομένα.
IBM watsonx.ai
Το IBM watsonx.ai είναι η πλατφόρμα επιχειρηματικής ΤΝ της IBM, σχεδιασμένη για κλάδους υπό αυστηρούς κανονισμούς, όπως οι τράπεζες, οι ασφαλιστικές εταιρείες και η υγειονομική περίθαλψη. Τα μοντέλα Mistral, συμπεριλαμβανομένου του Mistral Large, διατίθενται τόσο ως SaaS όσο και on-premise, καθιστώντας το μια ισχυρή επιλογή όταν οι εσωτερικοί έλεγχοι απαγορεύουν την αποστολή δεδομένων σε δημόσιες υπηρεσίες cloud. Η πρόσβαση απαιτεί ένα έργο IBM watsonx (IBM_CLOUD_PROJECT_ID), ένα Service ID με πρόσβαση στο Watson Machine Learning και τον ρόλο EDITOR, καθώς και ένα κλειδί API του IBM Cloud (IBM_CLOUD_API_KEY).
Η περιοχή που επιλέγετε καθορίζει το URL του endpoint που περνάτε στον πελάτη:
| Περιοχή | Κωδικός |
|---|---|
| Dallas | us-south |
| London | eu-gb |
| Frankfurt | eu-de |
| Tokyo | jp-tok |
Η εγκατάσταση περιλαμβάνει τρία πακέτα:
pip install httpx ibm-watsonx-ai mistral-common
Το τρίτο πακέτο αξίζει ιδιαίτερης προσοχής. Το πακέτο mistral-common είναι απαραίτητο για τη σωστή μορφοποίηση των prompts. Χωρίς αυτό, ο tokenizer μπορεί να παράγει σιωπηλά σφάλματα—αποκρίσεις που φαίνονται λογικές αλλά βασίζονται σε εσφαλμένα tokenized prompts. Αυτό είναι το χειρότερο σενάριο, καθώς τίποτα δεν σηματοδοτεί την ύπαρξη προβλήματος.
Μόλις ρυθμιστούν τα διαπιστευτήρια, η ίδια η κλήση παραμένει απλή:
from ibm_watsonx_ai.foundation_models import ModelInference
import os
model = ModelInference(
model_id="mistralai/mistral-large",
credentials={
"url": "https://eu-de.ml.cloud.ibm.com",
"apikey": os.environ["IBM_CLOUD_API_KEY"]
},
project_id=os.environ["IBM_CLOUD_PROJECT_ID"]
)
response = model.generate_text(
prompt="What are the GDPR requirements for AI data processing?"
)
print(response)
Αποφύγετε την αποστολή ακατέργαστων συμβολοσειρών: χρησιμοποιήστε τον tokenizer του Mistral για να αποφύγετε τα σιωπηλά σφάλματα tokenization που αναφέρθηκαν νωρίτερα.
from mistral_common.tokens.tokenizers.mistral import MistralTokenizer
from mistral_common.protocol.instruct.messages import UserMessage
from mistral_common.protocol.instruct.request import ChatCompletionRequest
tokenizer = MistralTokenizer.from_model("mistral-large-latest")
request = ChatCompletionRequest(
messages=[UserMessage(content="Your prompt here")]
)
tokens = tokenizer.encode_chat_completion(request)
Outscale
Το Outscale είναι ένας ευρωπαϊκός πάροχος cloud, θυγατρική της Dassault Systèmes. Αποτελεί την πρώτη επιλογή για οργανισμούς που απαιτούν πλήρη κυριαρχία δεδομένων εντός της Ευρωπαϊκής Ένωσης. Διατίθενται τρία μοντέλα: το Mistral Small (24.09), το Codestral (24.05) ειδικευμένο στον κώδικα και το Ministral 8B (24.10). Η ανάπτυξη γίνεται μέσω της αγοράς (marketplace) του Outscale, η οποία παρέχει ένα VM με GPU και το μοντέλο προ-αναπτυγμένο—δεν χρειάζεται να διαμορφώσετε εσείς την εξαγωγή συμπερασμάτων (inference).
Μια ευπρόσδεκτη διαφορά από τις δύο προηγούμενες πλατφόρμες: το Outscale λειτουργεί με τον τυπικό πελάτη Mistral, απλώς pointing το server_url στο δικό σας instance.
import os
from mistralai.client import Mistral
client = Mistral(server_url=os.environ["OUTSCALE_SERVER_URL"])
response = client.chat.complete(
model=os.environ["OUTSCALE_MODEL_NAME"],
messages=[
{"role": "user", "content": "What are the advantages of a European sovereign cloud?"}
],
temperature=0
)
print(response.choices[0].message.content)
Εάν έχετε αναπτύξει το Codestral, η συμπλήρωση FIM (fill-in-the-middle) λειτουργεί με τον ίδιο τρόπο: παρέχετε την αρχή και το τέλος του κώδικα και το μοντέλο συμπληρώνει το ενδιάμεσο τμήμα. Αυτός είναι ο μηχανισμός πίσω από τους βοηθούς συμπλήρωσης στους επεξεργαστές κώδικα.
response = client.fim.complete(
model=os.environ["OUTSCALE_MODEL_NAME"],
prompt="def fibonacci(n: int) -> int:",
suffix="return result"
)
print(response.choices[0].message.content)
Σύγκριση των τριών πλατφορμών
| Κριτήριο | Snowflake Cortex | IBM watsonx | Outscale |
|---|---|---|---|
| Κοινό-στόχος | Ομάδες Δεδομένων/SQL | Επιχειρήσεις υπό κανονισμούς | Ευρωπαϊκή κυριαρχία |
| Πρόσβαση | Εγγενές SQL + Python | IBM SDK | Πελάτης Mistral |
| Τοποθεσία δεδομένων | Παραμένει στο Snowflake | IBM Cloud | Ευρωπαϊκό cloud |
| Μοντέλα | Large, 7B | Large | Small, Codestral, 8B |
| Συμμόρφωση | SOC 2, HIPAA | SOC 2, HIPAA, PCI | SecNumCloud |
Βασικά σημεία
- Snowflake Cortex — ιδανικό εάν τα δεδομένα σας βρίσκονται ήδη στο Snowflake· καλέστε την ΤΝ απευθείας από SQL
- IBM watsonx — πλατφόρμα για επιχειρήσεις υπό κανονισμούς· απαιτεί το
mistral-commonγια μορφοποίηση - Outscale — ευρωπαϊκή κυριαρχία· ανάπτυξη μέσω marketplace με προδιαμορφωμένο GPU
- Κάθε πλατφόρμα έχει το δικό της SDK — μόνο το Outscale χρησιμοποιεί τον τυπικό πελάτη Mistral