Το μοντέλο codestral-embed
Σε αυτήν τη σελίδα
Εξειδικευμένες Ενσωματώσεις για Κώδικα
Ενώ το mistral-embed έχει σχεδιαστεί για φυσική γλώσσα, το codestral-embed είναι ένα μοντέλο ενσωμάτωσης βελτιστοποιημένο ειδικά για γλώσσες προγραμματισμού. Κατανοεί τη σύνταξη, τη σημασιολογία και τη λογική του κώδικα, καθιστώντας το σημαντικά ανώτερο από ένα γενικό μοντέλο κειμένου για οποιαδήποτε εργασία αφορά πηγαίο κώδικα.
Μπορείτε να δείτε τη διαφορά σε μια απλή περίπτωση. Δύο συναρτήσεις που κάνουν το ίδιο πράγμα—η μία γραμμένη με βρόχο for και η άλλη χρησιμοποιώντας list comprehension—δεν μοιράζονται σχεδόν κανένα token. Ένα μοντέλο κειμένου τις βλέπει ως δύο distinct μπλοκ στίξης· ένα μοντέλο εκπαιδευμένο σε κώδικα τις φέρνει κοντά επειδή έχει μάθει ότι αυτές οι δύο μορφές εκφράζουν την ίδια πρόθεση.
Τεχνικές Προδιαγραφές
Το μοντέλο codestral-embed διαφέρει από το mistral-embed σε several βασικούς τρόπους:
| Χαρακτηριστικό | codestral-embed | mistral-embed |
|---|---|---|
| Προεπιλεγμένες Διαστάσεις | 1536 | 1024 |
| Μέγιστες Διαστάσεις | 3072 (διπλάσιες από την προεπιλογή) | — |
| Τύποι Εξόδου | float, int8, uint8, binary, ubinary | — |
| Βελτιστοποίηση | Εκπαιδευμένο σε πηγαίο κώδικα πολλαπλών γλωσσών | Φυσική γλώσσα |
Αυτή η ευελιξία στις διαστάσεις και τους τύπους εξόδου είναι αυτό που πραγματικά ξεχωρίζει τα δύο μοντέλα στην πράξη. Ένας ευρετηριασμός κώδικα φτάνει γρήγορα το ένα εκατομμύριο διανύσματα, και η δυνατότητα μείωσης του βάρους τους κατά τέσσερις φορές αλλάζει δραματικά το κόστος υποδομής.
Βασική Χρήση
Το API είναι πανομοιότυπο με το mistral-embed, εκτός από το όνομα του μοντέλου codestral-embed. Τίποτα άλλο δεν αλλάζει στον κώδικα κλήσης σας, γεγονός που σας επιτρέπει να εκτελείτε και τα δύο μοντέλα στο ίδιο έργο τροποποιώντας μόνο μία παράμετρο.
from mistralai.client import Mistral
client = Mistral(api_key=api_key)
# Κωδικοποίηση αποσπασμάτων κώδικα
response = client.embeddings.create(
model="codestral-embed",
inputs=[
"def fibonacci(n): return n if n <= 1 else fibonacci(n-1) + fibonacci(n-2)",
"function fibonacci(n) { return n <= 1 ? n : fibonacci(n-1) + fibonacci(n-2); }",
"public int fibonacci(int n) { return n <= 1 ? n : fibonacci(n-1) + fibonacci(n-2); }",
],
)
for i, data in enumerate(response.data):
print(f"Snippet {i+1}: vector of {len(data.embedding)} dimensions")
# Snippet 1: vector of 1536 dimensions
# Snippet 2: vector of 1536 dimensions
# Snippet 3: vector of 1536 dimensions
Παρατηρήστε ότι και τα τρία αποσπάσματα υλοποιούν την ίδια λογική (Fibonacci) σε τρεις διαφορετικές γλώσσες. Οι ενσωματώσεις τους θα είναι πολύ κοντά παρά τις συντακτικές διαφορές. Αυτή η ιδιότητα επιτρέπει την αναζήτηση μεταξύ γλωσσών: σε μια πολύγλωσση βάση κώδικα, ένας προγραμματιστής Python μπορεί να βρει την υλοποίηση Java που χρειάζεται χωρίς να γνωρίζει ούτε λέξη από Java.
Η Παράμετρος output_dimension
Μπορείτε να μειώσετε το μέγεθος του διανύσματος για να εξοικονομήσετε χώρο αποθήκευσης, με τίμημα μια ελαφριά απώλεια ακρίβειας:
# Μειωμένες διαστάσεις (512 αντί για 1536)
response = client.embeddings.create(
model="codestral-embed",
output_dimension=512,
inputs=["def hello(): print('Hello, World!')"],
)
embedding = response.data[0].embedding
print(f"Dimensions: {len(embedding)}") # 512
Οι πρώτες διαστάσεις του διανύσματος είναι οι πιο πληροφοριακές. Το μοντέλο έχει σχεδιαστεί ώστε οι πρώτες n διαστάσεις να διατηρούν τη μέγιστη ποσότητα πληροφορίας, επιτρέποντας αυτή τη μείωση χωρίς καταστροφική απώλεια. Με άλλα λόγια, η περικοπή ενός διανύσματος δεν είναι σαν να πετάτε τυχαία το ένα τρίτο του νοήματος: κρατάτε τον βασικό σήμα και χάνετε την απόχρωση, κάτι που παραμένει απολύτως βιώσιμο για ένα αρχικό στάδιο φιλτραρίσματος.
Επιλογή Διάστασης
Χρησιμοποιήστε τις ακόλουθες τιμές ως οδηγίες με βάση το πλαίσιο του έργου σας. Η αναζήτηση υψηλής ακρίβειας σε έναν μέτριο όγκο δεδομένων απαιτεί διαφορετικές ρυθμίσεις από έναν ευρετηριασμό που εκτελείται σε ένα μηχάνημα με περιορισμένους πόρους:
# Προτάσεις ανά περίπτωση χρήσης
DIMENSIONS = {
"high_precision_search": 3072, # Μέγιστη ποιότητα
"general_use": 1536, # Προεπιλογή, καλός συμβιβασμός
"large_volume": 768, # Συμβιβασμός αποθήκευσης/ποιότητας
"prototype": 512, # Ταχεία ανάπτυξη
"embedded": 256, # Αυστηροί περιορισμοί μνήμης
}
Η Παράμετρος output_dtype
Ο τύπος εξόδου ελέγχει την ακρίβεια και το μέγεθος των τιμών. Ενώ το output_dimension μειώνει τον αριθμό των τιμών, το output_dtype μειώνει το βάρος της καθεμίας. Αυτοί οι δύο μοχλοί είναι ανεξάρτητοι και σωρευτικοί.
# Float (προεπιλογή) - μέγιστη ακρίβεια
response_float = client.embeddings.create(
model="codestral-embed",
output_dtype="float",
inputs=["def add(a, b): return a + b"],
)
# Int8 - 4 φορές πιο συμπαγές από το float32
response_int8 = client.embeddings.create(
model="codestral-embed",
output_dtype="int8",
inputs=["def add(a, b): return a + b"],
)
# Binary - εξαιρετικά συμπαγές
response_binary = client.embeddings.create(
model="codestral-embed",
output_dtype="binary",
inputs=["def add(a, b): return a + b"],
)
Συνδυασμός Διάστασης και Dtype
Μπορείτε να συνδυάσετε και τις δύο παραμέτρους για ακριβή έλεγχο. Οι δύο κλήσεις παρακάτω κωδικοποιούν το ίδιο ερώτημα SQL και απεικονίζουν τα άκρα του φάσματος: η πρώτη στοχεύει σε έναν ελαφρύ ευρετηριασμό που ερωτάται συνεχώς, ενώ η δεύτερη εξυπηρετεί μια αναζήτηση αναφοράς όπου κάθε σημείο ακρίβειας μετράει.
# Συμπαγές και γρήγορο: 512 διαστάσεις σε int8
response = client.embeddings.create(
model="codestral-embed",
output_dimension=512,
output_dtype="int8",
inputs=["SELECT * FROM users WHERE active = true"],
)
# Υψηλή ποιότητα: 3072 διαστάσεις σε float
response = client.embeddings.create(
model="codestral-embed",
output_dimension=3072,
output_dtype="float",
inputs=["SELECT * FROM users WHERE active = true"],
)
Εδώ είναι ένας κανόνας που πρέπει να θεσπίσετε αμέσως: τα διανύσματα στον ευρετηριασμό σας και τα διανύσματα στα ερωτήματά σας πρέπει να μοιράζονται ακριβώς τις ίδιες παραμέτρους. Η κωδικοποίηση ενός συνόλου δεδομένων σε 512 διαστάσεις και στη συνέχεια η εκτέλεση ερωτήματος σε 1536 δεν αποδίδει απλώς κακά αποτελέσματα· παράγει σφάλμα ή άνευ νοήματος βαθμολογίες.
Υποστηριζόμενες Γλώσσες
Το codestral-embed λειτουργεί με όλες τις κοινές γλώσσες προγραμματισμού. Από την πλευρά της εφαρμογής, καλύπτει την Python, JavaScript και TypeScript, καθώς και την Java, C, C++, C#, Go και Rust. Για δεδομένα και παρουσίαση, το μοντέλο χειρίζεται την SQL, HTML και CSS. Για εργαλεία και διαμόρφωση, διαχειρίζεται την Shell/Bash, YAML και JSON—και πολλές άλλες, ουσιαστικά οποιαδήποτε γλώσσα υπάρχει στα δεδομένα εκπαίδευσης. Στην πράξη, ένα τυπικό αποθετήριο που αναμειγνύει Python, πρότυπα HTML, μεταναστεύσεις SQL και manifests YAML μπορεί να ευρετηριαστεί πλήρως με ένα μόνο μοντέλο.
Βασικά σημεία
- Το
codestral-embedείναι βελτιστοποιημένο για πηγαίο κώδικα, όχι για φυσική γλώσσα - 1536 διαστάσεις από προεπιλογή, κλιμακούμενες έως 3072
- Η παράμετρος
output_dimensionσας επιτρέπει να μειώσετε το μέγεθος του διανύσματος - Η παράμετρος
output_dtypeελέγχει την ακρίβεια (float, int8, binary, κ.λπ.) - Το μοντέλο κατανοεί τη σημασιολογία του κώδικα ανεξάρτητα από τη γλώσσα