Βασικές Παράμετροι
Σε αυτήν τη σελίδα
Διαμόρφωση των κλήσεων API σας
Πέρα από τα υποχρεωτικά πεδία model και messages, το API Chat Completions δέχεται μια χούφτα παραμέτρους που ελέγχουν τη συμπεριφορά παραγωγής. Αυτές οι ρυθμίσεις είναι που ξεχωρίζουν έναν εξαγωγέα δεδομένων που επιστρέφει πανομοιότυπα αποτελέσματα για το ίδιο τιμολόγιο από έναν δημιουργό συνθημάτων που δεν επαναλαμβάνεται ποτέ. Ο κώδικας κλήσης παραμένει αμετάβλητος από τη μία περίπτωση χρήσης στην άλλη· αλλάζουν μόνο οι ρυθμίσεις, γι’ αυτό ακριβώς πρέπει να κατανοήσετε τι κάνει η καθεμία.
Ακολουθούν οι παράμετροι που θα διαχειρίζεστε καθημερινά, μαζί με τους τύπους και τις προεπιλεγμένες τιμές τους.
| Παράμετρος | Τύπος | Προεπιλογή | Περιγραφή |
|---|---|---|---|
model | string | — | Αναγνωριστικό μοντέλου (υποχρεωτικό) |
messages | array | — | Πίνακας μηνυμάτων (υποχρεωτικό) |
max_tokens | integer | μεταβλητό | Μέγιστος αριθμός tokens εξόδου |
temperature | float | 0.7 | Ελέγχει τη δημιουργικότητα (0.0 έως 1.5) |
top_p | float | 1.0 | Δειγματοληψία πυρήνα (0.0 έως 1.0) |
stream | boolean | false | Ενεργοποιεί τη ροή SSE |
safe_prompt | boolean | false | Ενεργοποιεί τις δικλίδες ασφαλείας |
Η παράμετρος model
Η επιλογή του μοντέλου καθορίζει άμεσα τις δυνατότητες, την ταχύτητα και το κόστος κάθε κλήσης—τρεις συμβιβασμούς που δεν μπορείτε να ανακτήσετε αλλού. Από τον Απρίλιο του 2026, τα κύρια μοντέλα είναι:
# Flagship model — complex reasoning, multilingual
model = "mistral-large-latest"
# Compact model — fast, economical, ideal for production
model = "mistral-small-latest"
# Miniature model — ultra-fast, edge computing
model = "ministral-3b-latest"
# Code model — specialized for programming
model = "codestral-latest"
Το επίθημα -latest είναι βολικό κατά την ανάπτυξη: δείχνει πάντα στην νεότερη έκδοση χωρίς να απαιτεί αλλαγές στον κώδικα. Στην παραγωγή, ωστόσο, αυτή η ευκολία γίνεται ρίσκο, καθώς μια ενημέρωση από την πλευρά της Mistral μπορεί να αλλάξει διακριτικά τη συμπεριφορά της εφαρμογής σας. Προτιμήστε αναγνωριστικά με έκδοση, όπως το mistral-large-2512, για να εγγυηθείτε την αναπαραγωγιμότητα των δοκιμών σας.
Η παράμετρος max_tokens
Αυτή η παράμετρος ορίζει το ανώτατο όριο στον αριθμό των tokens που μπορεί να παράγει το μοντέλο στην απάντησή του. Δεν αναγκάζει το μοντέλο να παράγει ακριβώς αυτόν τον αριθμό· ορίζει απλώς ένα ταβάνι, τίποτα περισσότερο.
response = client.chat.complete(
model="mistral-large-latest",
messages=[{"role": "user", "content": "Summarize this text in one sentence."}],
max_tokens=100 # The response will not exceed 100 tokens
)
Αν το μοντέλο φτάσει σε αυτό το όριο, η απάντηση διακόπτεται απότομα και το finish_reason επιστρέφει "length" αντί για "stop". Αυτή είναι η πιο συχνή αιτία για απαντήσεις που σταματούν στη μέση της πρότασης, και κανείς δεν το προσέχει μέχρι να παρακολουθήσει αυτό το πεδίο. Η σωστή αντανακλαστική κίνηση είναι να βαθμονομείτε το ταβάνι ανάλογα με την εργασία: η ταξινόμηση χωράει σε 10 έως 50 tokens καθώς αναμένετε μόνο μια ετικέτα, μια περίληψη χρειάζεται 200 έως 500 tokens, η ελεύθερη γραφή παίρνει 1.000 έως 4.000, και η παραγωγή κώδικα φτάνει εύκολα τα 2.000 ή 8.000 tokens επειδή ένα πλήρες αρχείο είναι μεγάλο.
Η παράμετρος temperature
Η θερμοκρασία ελέγχει τον βαθμό τυχαιοποίησης στην επιλογή των tokens. Όσο χαμηλότερη είναι η τιμή, τόσο πιο ντετερμινιστικό και προβλέψιμο γίνεται το μοντέλο· όσο ανεβαίνει, τόσο περισσότερο επιχειρεί απίθανες συνεχίσεις. Για ερωτήσεις γεγονότων, θέλετε την πρώτη προσέγγιση· για ασκήσεις ονοματοδοσίας, τη δεύτερη.
# Low temperature — extraction, classification, factual
response = client.chat.complete(
model="mistral-large-latest",
messages=[{"role": "user", "content": "What is the capital of France?"}],
temperature=0.1
)
# High temperature — creativity, brainstorming
response = client.chat.complete(
model="mistral-large-latest",
messages=[{"role": "user", "content": "Invent a name for an AI startup."}],
temperature=1.2
)
Το εύρος κυμαίνεται από 0.0 έως 1.5. Μην βασίζεστε στο temperature=0 για τέλεια ντετερμινιστικότητα: μικρές διακυμάνσεις επιμένουν λόγω στρογγυλοποίησης κινητής υποδιαστολής σε επίπεδο υλικού.
Η παράμετρος top_p
Η δειγματοληψία πυρήνα, ή Top P, ενεργεί στον ίδιο μοχλό αλλά μέσω διαφορετικής διαδρομής: περιορίζει τα υποψήφια tokens με βάση ένα κατώφλι αθροιστικής πιθανότητας. Με top_p=0.5, μόνο τα πιο πιθανά tokens των οποίων οι αθροισμένες πιθανότητες φτάνουν το 50% παραμένουν στη διαδικασία επιλογής· τα υπόλοιπα απορρίπτονται outright.
response = client.chat.complete(
model="mistral-large-latest",
messages=[{"role": "user", "content": "Complete: The cat is on the..."}],
temperature=0.7,
top_p=0.9 # Considers tokens covering 90% of the probability
)
Η Mistral συνιστά να προσαρμόζετε μόνο μία παράμετρο τη φορά, είτε τη θερμοκρασία είτε το top_p, ποτέ και τις δύο μαζί. Ο λόγος είναι πρακτικός: αν μια έξοδος γίνει παράξενη αφού μετακινήσετε και τους δύο ρυθμιστές, τίποτα δεν σας λέει ποιος την προκάλεσε, και χάνετε τόσο την ικανότητα αποσφαλμάτωσης όσο και την αναπαραγωγιμότητα.
Πλήρες παράδειγμα με όλες τις παραμέτρους
Συνδυασμένες σε μια μόνο κλήση, αυτές οι ρυθμίσεις δημιουργούν έναν δημιουργό συνθημάτων που είναι σκόπιμα λιτός και ελαφρώς τολμηρός, ενώ ταυτόχρονα παρακολουθεί την κατανάλωση tokens:
from mistralai.client import Mistral
import os
client = Mistral(api_key=os.getenv("MISTRAL_API_KEY"))
response = client.chat.complete(
model="mistral-large-latest",
messages=[
{
"role": "system",
"content": "You are a concise and punchy marketing writer."
},
{
"role": "user",
"content": "Write a slogan for a meditation app."
}
],
max_tokens=50,
temperature=0.9,
top_p=1.0
)
print(response.choices[0].message.content)
print(f"Tokens used: {response.usage.total_tokens}")
Εκτελέστε αυτό το σενάριο τρεις φορές στη σειρά, στη συνέχεια αντικαταστήστε το temperature=0.9 με 0.1 και εκτελέστε το άλλες τρεις φορές. Η διαφορά μεταξύ των δύο σειρών θα σας διδάξει περισσότερα για αυτή την παράμετρο από οποιονδήποτε ορισμό.
Βασικά σημεία
- Τα
modelκαιmessagesείναι οι μόνες υποχρεωτικές παράμετροι - Το
max_tokensείναι ένα ταβάνι, όχι ένας στόχος—ελέγξτε τοfinish_reasonγια να εντοπίσετε περικοπές - Χρησιμοποιήστε χαμηλή
temperatureγια εργασίες γεγονότων, υψηλή για δημιουργικότητα - Το
top_pβελτιώνει την κατανομή tokens—μην το προσαρμόζετε ταυτόχρονα με τηtemperature - Χρησιμοποιήστε αναγνωριστικά μοντέλων με έκδοση στην παραγωγή για αναπαραγωγιμότητα