Μετάβαση στο κύριο περιεχόμενο
Ελληνικά— Επιλέξτε γλώσσα
Μενού

Βέλτιστες Πρακτικές και Παραγωγή

Μάθημα 14 / 14 Ενημερώθηκε 29 Ιουλίου 2026 Για developers
Σε αυτήν τη σελίδα
  1. Από την Απόδειξη Εννοίας στην Παραγωγή
  2. Λίστα Ελέγχου Ανάπτυξης
  3. Συγγραφή Περιγραφών που Κάνουν το Μοντέλο να Λειτουργεί
  4. Επιλογή του Κατάλληλου Μοντέλου
  5. Δόμηση του Μηνύματος Συστήματος
  6. Διαχείριση του Κόστους στην Παραγωγή
  7. Δοκιμή Κλήσης Συναρτήσεων
  8. Παρακολούθηση στην Παραγωγή
  9. Επόμενα Βήματα
  10. Βασικά σημεία
  11. Δοκιμάστε τις Γνώσεις σας

Από την Απόδειξη Εννοίας στην Παραγωγή

Διαθέτετε πλέον όλα τα δομικά στοιχεία για τη δημιουργία συστημάτων κλήσης συναρτήσεων με το Mistral. Αυτό που χωρίζει το πρωτότυπό σας από μια υπηρεσία έτοιμη για παραγωγή δεν είναι οι ελλείπουσες λειτουργίες, αλλά μια σειρά ελέγχων και βημάτων βελτιστοποίησης που συνήθως ανακαλύπτετε κατά τη διάρκεια ενός περιστατικού. Αυτό το τελικό μάθημα συγκεντρώνει βέλτιστες πρακτικές, συχνά λάθη και μια λίστα ελέγχου για να προχωρήσετε στην παραγωγή με αυτοπεποίθηση.

Λίστα Ελέγχου Ανάπτυξης

Αυτό είναι το μόνο σημείο σε αυτό το μάθημα όπου η μορφή λίστας είναι υποχρεωτική: πριν βγείτε online, τσεκάρετε κουτιά. Πρέπει να καλυφθούν τέσσερις τομείς, ο καθένας απαντώντας σε μια διαφορετική ερώτηση.

Η Αρχιτεκτονική διασφαλίζει ότι ο μηχανισμός αντέχει. Η επιστροφή συμβολοσειρών JSON στην αλυσίδα και η ύπαρξη ενός πλήρους λεξικού δρομολόγησης είναι οι δύο πιο συχνές αιτίες κατάρρευσης κατά την πρώτη πραγματική κλήση.

  • Όλες οι συναρτήσεις επιστρέφουν συμβολοσειρές JSON (ποτέ ακατέργαστα αντικείμενα Python)
  • Το λεξικό δρομολόγησης είναι πλήρες και ενημερωμένο
  • Οι συναρτήσεις χειρίζονται περιπτώσεις σφάλματος και επιστρέφουν usable μηνύματα
  • Το μήνυμα συστήματος είναι σαφές, ακριβές και δοκιμασμένο
  • Ο βρόχος συνομιλίας χειρίζεται διαδοχικές και παράλληλες κλήσεις

Η Ασφάλεια υποθέτει ότι τα ορίσματα προέρχονται από έναν χρήστη, ποτέ από την εφαρμογή σας.

  • Τα ορίσματα επικυρώνονται πριν την εκτέλεση (μορφή, τύπος, τιμές)
  • Τα ερωτήματα SQL χρησιμοποιούν παραμέτρους (όχι συγχώνευση)
  • Μια λίστα επιτρεπόμενων τιμών (whitelist) περιορίζει τις διαθέσιμες συναρτήσεις
  • Οι καταστροφικές ενέργειες απαιτούν επιβεβαίωση
  • Υπάρχει περιορισμός ρυθμού (rate limiting) ανά συνάρτηση και ανά χρήστη
  • Τα αποτελέσματα καθαρίζονται (δεν επιστρέφονται ευαίσθητα δεδομένα στο μοντέλο)

Η Αξιοπιστία διαχειρίζεται ό,τι αποτυγχάνει χωρίς να φταίει κανείς.

  • Τα σφάλματα επιστρέφονται στο μοντέλο σε δομημένη μορφή
  • Υλοποιείται επαναπροσπάθεια με backoff για παροδικά σφάλματα
  • Διαμορφώνονται χρονικά όρια (timeouts) για κάθε εξωτερική συνάρτηση
  • Το μέγεθος του ιστορικού περιορίζεται για την αποφυγή υπέρβασης tokens

Η Παρακολούθηση, τέλος, είναι αυτό που σας επιτρέπει να κάνετε διάγνωση χωρίς μαντεψιές.

  • Κάθε κλήση συνάρτησης καταγράφεται (όνομα, ορίσματα, αποτέλεσμα, διάρκεια)
  • Τα σφάλματα ενεργοποιούν ειδοποιήσεις (Slack, PagerDuty, κ.λπ.)
  • Συλλέγονται μετρικές (ποσοστό επιτυχίας, λανθάνουσα, κόστος API)

Συγγραφή Περιγραφών που Κάνουν το Μοντέλο να Λειτουργεί

Η ποιότητα της περιγραφής έχει άμεσο αντίκτυπο στην ακρίβεια και συχνά είναι ο φθηνότερος μοχλός που μπορείτε να τραβήξετε. Τρία μοτίβα επαναλαμβάνονται συχνά σε ομάδες με υψηλά ποσοστά σωστών κλήσεων. Το πρώτο αγκυρώνει την περιγραφή στο επιχειρηματικό πλαίσιο: αντί να παραφράζετε το όνομα της συνάρτησης, απαριθμήστε τις πιθανές τιμές επιστροφής και δηλώστε ρητά πότε πρέπει να καλείται. Το δεύτερο εισάγει παραδείγματα μορφής στην περιγραφή της παραμέτρου, κάτι που διορθώνει τα περισσότερα σφάλματα εξαγωγής ID. Το τρίτο αντικαθιστά μια οδηγία σε φυσική γλώσσα με ένα enum, τον μοναδικό τρόπο για να απαγορεύσετε πραγματικά μια τιμή εκτός της λίστας.

# Pattern 1: Description with business context
{
    "description": "Retrieves payment status. "
                   "Possible statuses: paid, pending, failed, refunded. "
                   "Use this function when the user asks "
                   "about a payment's status or whether it was received."
}

# Pattern 2: Parameters with examples
{
    "transaction_id": {
        "type": "string",
        "description": "Unique ID in format T followed by 4 digits (e.g., T1001, T2345)"
    }
}

# Pattern 3: Enum for limited values
{
    "status": {
        "type": "string",
        "enum": ["paid", "pending", "failed", "refunded"],
        "description": "Filter by payment status"
    }
}

Επιλογή του Κατάλληλου Μοντέλου

Η επιλογή του μοντέλου αποτελεί συμβιβασμό μεταξύ ακρίβειας και κόστους, και δεν υπάρχει καθολική απάντηση: εξαρτάται από τον αριθμό των εκτεθειμένων συναρτήσεων και την πολυπλοκότητα των σχημάτων τους. Μια πολύπλοκη περίπτωση με πολλές συναρτήσεις και ένθετες παραμέτρους δικαιολογεί το Mistral Large 3, το οποίο είναι πιο αξιόπιστο στην επιλογή συναρτήσεων αλλά πιο ακριβό. Μια τυπική περίπτωση με λίγες απλές συναρτήσεις σε παραγωγή υψηλής απόδοσης λειτουργεί πολύ καλά με το Mistral Small 4, το οποίο είναι γρήγορο και οικονομικό. Για πρωτοτυποποίηση και δοκιμές, το Mistral Medium 3.5 προσφέρει μια καλή ισορροπία.

# Complex cases: many functions, nested parameters
# -> Mistral Large 3 (more reliable, more expensive)
model = "mistral-large-latest"

# Standard cases: few simple functions, high-throughput production
# -> Mistral Small 4 (fast, economical)
model = "mistral-small-latest"

# Development cases: prototyping, testing
# -> Mistral Medium 3.5 (good compromise)
model = "mistral-medium-latest"

Η μέθοδος έχει την ίδια σημασία με το αποτέλεσμα: στην παραγωγή, ξεκινήστε με το πιο ικανό μοντέλο, μετρήστε το ποσοστό σωστών κλήσεων σας και στη συνέχεια μειώστε σταδιακά το επίπεδο για να βρείτε την καλύτερη αναλογία κόστους/απόδοσης. Το αντίθετο—να ξεκινήσετε με το φθηνότερο μοντέλο—στερεί τη βασική γραμμή αναφοράς που χρειάζεστε για να γνωρίζετε εάν η υποβάθμιση προέρχεται από το μοντέλο ή από τις περιγραφές σας.

Δόμηση του Μηνύματος Συστήματος

Ένα καλό μήνυμα συστήματος κάνει τη διαφορά μεταξύ ενός μετρίου βοηθού και ενός εξαιρετικού. Αυτό εδώ απεικονίζει μια αποδεδειγμένη δομή: μια δήλωση ρόλου, ένα μπλοκ επιτακτικών κανόνων και στη συνέχεια μια υπενθύμιση των διαθέσιμων εργαλείων. Οι δύο πιο αποδοτικοί κανόνες εδώ είναι «Αν ο χρήστης δεν παρέχει ένα απαιτούμενο ID, ρωτήστε ευγενικά» και «Ποτέ μην μαντεύετε ένα ID συναλλαγής»· μαζί, εξαλείφουν την πιο επιζήμια συμπεριφορά από όλες, την κλήση μιας συνάρτησης με ένα πλαστό ID.

system_message = {
    "role": "system",
    "content": """You are a payment management assistant for Acme Corporation.

Rules:
- Always respond in English
- Format amounts in euros with the symbol and 2 decimal places
- If the user doesn't provide a required ID, ask politely
- Never guess a transaction ID
- When a transaction fails, offer to check the details

Available tools:
- retrieve_payment_status: to check a payment's status
- retrieve_payment_date: to check a payment's date
- retrieve_payment_details: to get all details of a transaction
- list_customer_transactions: to view all transactions for a customer"""
}

Διαχείριση του Κόστους στην Παραγωγή

Κάθε κλήση κατανάλωσης συναρτήσεων καταναλώνει tokens, και ο λογαριασμός αυξάνεται μέσω δύο υποτιμημένων καναλιών: οι ορισμοί των εργαλείων αποστέλλονται με κάθε αίτημα και το ιστορικό μεγαλώνει με κάθε γύρο. Ο φιλτράρισμα των συναρτήσεων βάσει πλαισίου λύνει το πρώτο σημείο—δεν χρειάζεται να στείλετε και τα δώδεκα εργαλεία όταν η ερώτηση αφορά σαφώς πληρωμές. Η περικοπή του ιστορικού πέρα από ένα κατώφλι λύνει το δεύτερο. Και όταν όλα τα απαραίτητα δεδομένα βρίσκονται ήδη στο πλαίσιο, το tool_choice="none" αποφεύγει έναν επιπλέον γύρο επικοινωνίας.

# 1. Limit the number of functions per request
# Pass only functions relevant to the context
def get_relevant_tools(user_input: str, all_tools: list) -> list:
    """Filters tools based on context."""
    if "payment" in user_input.lower() or "transaction" in user_input.lower():
        return [t for t in all_tools if "payment" in t["function"]["name"]]
    if "contact" in user_input.lower() or "customer" in user_input.lower():
        return [t for t in all_tools if "contact" in t["function"]["name"]]
    return all_tools

# 2. Limit history size
MAX_HISTORY = 20  # messages

# 3. Use tool_choice="none" when data is already available

Δοκιμή Κλήσης Συναρτήσεων

Οι δοκιμές είναι απαραίτητες για την αποφυγή παλινδρομήσεων, και εδώ στοχεύουν σε ένα ασυνήθιστο αντικείμενο: δεν ελέγχετε την τιμή επιστροφής της συνάρτησής σας, αλλά την απόφαση του μοντέλου. Δύο οικογένειες δοκιμών καλύπτουν τα βασικά. Η πρώτη επαληθεύει ότι μια επιχειρηματική ερώτηση ενεργοποιεί τη σωστή συνάρτηση με τα σωστά εξαγόμενα ορίσματα. Η δεύτερη, εξίσου σημαντική και συχνά ξεχασμένη, επαληθεύει ότι ένας χαιρετισμός δεν ενεργοποιεί καμία κλήση—αυτή η δοκιμή εντοπίζει υπερβολικά ευρείες περιγραφές που ωθούν το μοντέλο να καλέσει μια συνάρτηση σε κάθε περίσταση.

def test_payment_status():
    """Tests that the model calls the right function."""
    messages = [{"role": "user", "content": "Status of payment T1001?"}]

    response = client.chat.complete(
        model=model, messages=messages, tools=tools
    )

    message = response.choices[0].message
    assert message.tool_calls is not None
    assert len(message.tool_calls) == 1
    assert message.tool_calls[0].function.name == "retrieve_payment_status"

    args = json.loads(message.tool_calls[0].function.arguments)
    assert args["transaction_id"] == "T1001"


def test_no_function_for_greeting():
    """Tests that the model doesn't call a function for a greeting."""
    messages = [{"role": "user", "content": "Hello!"}]

    response = client.chat.complete(
        model=model, messages=messages, tools=tools
    )

    message = response.choices[0].message
    assert message.tool_calls is None or len(message.tool_calls) == 0
    assert message.content is not None

Παρακολούθηση στην Παραγωγή

Τώρα πρέπει να γνωρίζετε τι κάνει το σύστημά σας μόλις κυκλοφορήσει. Η παρακάτω κλάση συγκεντρώνει τρία σήματα που, μαζί, λένε σχεδόν όλη την ιστορία: συνολικό ποσοστό επιτυχίας, μέση λανθάνουσα και ανάλυση ανά συνάρτηση. Το τελευταίο είναι το πιο αποκαλυπτικό στην πράξη—μια συνάρτηση της οποίας ο μετρητής σφαλμάτων αυξάνεται μεμονωμένα υποδεικνύει ένα συγκεκριμένο πρόβλημα, ενώ ένα υποβαθμισμένο συνολικό ποσοστό δεν σας λέει τίποτα για το πού να κοιτάξετε.

import time
import logging

logger = logging.getLogger("fc_monitor")

class FunctionCallingMonitor:
    def __init__(self):
        self.metrics = {
            "total_calls": 0,
            "successful_calls": 0,
            "failed_calls": 0,
            "total_latency_ms": 0,
            "calls_by_function": {}
        }

    def record(self, function_name: str, success: bool, latency_ms: float):
        self.metrics["total_calls"] += 1
        self.metrics["total_latency_ms"] += latency_ms

        if success:
            self.metrics["successful_calls"] += 1
        else:
            self.metrics["failed_calls"] += 1

        if function_name not in self.metrics["calls_by_function"]:
            self.metrics["calls_by_function"][function_name] = {
                "count": 0, "errors": 0
            }
        self.metrics["calls_by_function"][function_name]["count"] += 1
        if not success:
            self.metrics["calls_by_function"][function_name]["errors"] += 1

    def get_success_rate(self) -> float:
        if self.metrics["total_calls"] == 0:
            return 0.0
        return self.metrics["successful_calls"] / self.metrics["total_calls"]

    def get_avg_latency(self) -> float:
        if self.metrics["total_calls"] == 0:
            return 0.0
        return self.metrics["total_latency_ms"] / self.metrics["total_calls"]

monitor = FunctionCallingMonitor()

Επόμενα Βήματα

Τώρα που έχετε κατακτήσει την κλήση συναρτήσεων με το Mistral, ανοίγονται αρκετές κατευθύνσεις. Η πιο φυσική είναι η δημιουργία αυτόνομων πρακτόρων, συνδυάζοντας την κλήση συναρτήσεων με έναν βρόχο πράκτορα που σχεδιάζει και εκτελεί πολύπλοκες εργασίες· το Mistral Agents API και το client.beta.agents.create() πηγαίνουν πιο μακριά προσφέροντας μόνιμους πράκτορες με κατάσταση. Ένας άλλος άξονας συνδυάζει το RAG και την κλήση συναρτήσεων: το μοντέλο αποφασίζει μόνο του πότε να κάνει ερώτημα σε μια διανυσματική βάση δεδομένων, αντί η αναζήτηση να ενεργοποιείται συστηματικά εκ των προτέρων. Από την πλευρά της εμπειρίας χρήστη, η ροή δεδομένων (streaming) σας επιτρέπει να εμφανίζετε απαντήσεις σε πραγματικό χρόνο ενώ εκτελούνται οι συναρτήσεις, αλλάζοντας την αντίληψη της λανθάνουσας σε μακριές αλυσίδες κλήσεων. Τέλος, το πολυτροπικό (multimodal) ανοίγει την κλήση συναρτήσεων στην όραση για ανάλυση εγγράφων.

Βασικά σημεία

  • Η λίστα ελέγχου ανάπτυξης καλύπτει την αρχιτεκτονική, την ασφάλεια, την αξιοπιστία και την παρακολούθηση
  • Οι ακριβείς περιγραφές με παραδείγματα και enums βελτιώνουν την ακρίβεια του μοντέλου
  • Επιλέξτε το κατάλληλο μοντέλο βάσει πολυπλοκότητας και προϋπολογισμού (Large για αξιοπιστία, Small για απόδοση)
  • Το μήνυμα συστήματος είναι ένας ισχυρός μοχλός για την καθοδήγηση της συμπεριφοράς
  • Δοκιμάστε συστηματικά τις κλήσεις συναρτήσεων και τη συμπεριφορά μη κλήσης
  • Παρακολουθήστε το ποσοστό επιτυχίας, τη λανθάνουσα και το κόστος στην παραγωγή

Δοκιμάστε τις Γνώσεις σας

Κλήση συναρτήσεων από άκρη σε άκρη: πέντε έλεγχοι.

1. Ποια είναι τα πέντε βήματα της κλήσης συναρτήσεων;

Απάντηση: Ορίστε συναρτήσεις (σχήματα), παράσχετέ τες στο API, το μοντέλο ζητά μια κλήση με τα ορίσματά του, ο κώδικάς σας εκτελεί και επιστρέφει το αποτέλεσμα, το μοντέλο παράγει την τελική απάντηση.

2. Τι κάνει ένα καλό σχήμα συνάρτησης;

Απάντηση: Αυστηροί τύποι και λειτουργικές περιγραφές—σαφές όνομα, πότε να χρησιμοποιηθεί, μορφή κάθε παραμέτρου: αυτό είναι το κείμενο που διαβάζει το μοντέλο για να αποφασίσει και να συμπληρώσει.

3. Τι επιτρέπουν οι παράλληλες κλήσεις;

Απάντηση: Το μοντέλο ζητά πολλαπλές συναρτήσεις σε μια μόνο απάντηση όταν είναι ανεξάρτητες—λιγότεροι γύροι επικοινωνίας, υπό την προϋπόθεση ότι θα αντιστοιχίσετε κάθε αποτέλεσμα στην κλήση του.

4. Σε τι χρησιμεύει το tool_choice;

Απάντηση: Για να ορίσετε την ελευθερία του μοντέλου: auto (αποφασίζει μόνο του), any (πρέπει να χρησιμοποιήσει ένα εργαλείο) ή ένα αναγκαστικό εργαλείο—το τελευταίο είναι κλειδί για αξιόπιστη δομημένη εξαγωγή.

5. Ποιοι είναι οι κανόνες ασφαλείας για τις εκτεθειμένες συναρτήσεις;

Απάντηση: Επικυρώστε τα λαμβανόμενα ορίσματα, περιορίστε το πεδίο κάθε συνάρτησης, καταγράψτε τις κλήσεις και διατηρήστε την ανθρώπινη επικύρωση για δεσμευτικές ενέργειες—το μοντέλο προτείνει, ο κώδικάς σας διαθέτει.

Τα δύο παραδείγματα εργασίας σε αυτό το μάθημα (παρακολούθηση πληρωμών, CRM) εφαρμόζουν ακριβώς αυτούς τους κανόνες—οι δικές σας ενσωματώσεις θα ακολουθήσουν το ίδιο πρότυπο.