tool_choice και έλεγχος
Σε αυτήν τη σελίδα
Έλεγχος της συμπεριφοράς του μοντέλου
Εξ ορισμού, το μοντέλο αποφασίζει μόνο του αν θα καλέσει ένα εργαλείο ή αν θα απαντήσει άμεσα. Αυτός είναι ο τρόπος λειτουργίας auto. Ωστόσο, σε ορισμένες περιπτώσεις χρειάζεστε λεπτομερέστερο έλεγχο. Η παράμετρος tool_choice σας παρέχει αυτή τη δυνατότητα.
Οι τέσσερις τρόποι λειτουργίας του tool_choice
Τρόπος λειτουργίας auto (εξ ορισμού)
response = client.chat.completions.create(
model="grok-4.5",
messages=messages,
tools=tools,
tool_choice="auto"
)
Το μοντέλο αξιολογεί το αίτημα και αποφασίζει:
- Αν το αίτημα απαιτεί εξωτερικά δεδομένα → καλεί ένα εργαλείο
- Αν μπορεί να απαντήσει άμεσα → απαντά χωρίς εργαλείο
Αυτός είναι ο πιο συνηθισμένος και φυσικός τρόπος λειτουργίας. Χρησιμοποιήστε τον όταν εμπιστεύεστε την κρίση του μοντέλου.
Τρόπος λειτουργίας required
response = client.chat.completions.create(
model="grok-4.5",
messages=messages,
tools=tools,
tool_choice="required"
)
Το μοντέλο πρέπει να καλέσει τουλάχιστον ένα εργαλείο. Δεν μπορεί να απαντήσει άμεσα, ακόμη και αν γνωρίζει ήδη την απάντηση. Περιπτώσεις χρήσης:
- Δομημένη εξαγωγή: Θέλετε να εξαναγκάσετε το μοντέλο να εξάγει δεδομένα σε συγκεκριμένη μορφή μέσω ενός ειδικού εργαλείου
- Υποχρεωτική επικύρωση: Κάθε αίτημα πρέπει να περνά από ένα εργαλείο επαλήθευσης
- Συστηματική καταγραφή: Όλα πρέπει να ιχνηλατούνται μέσω ενός εργαλείου καταγραφής
Τρόπος λειτουργίας none
response = client.chat.completions.create(
model="grok-4.5",
messages=messages,
tools=tools,
tool_choice="none"
)
Απενεργοποιεί πλήρως την κλήση συναρτήσεων για αυτό το αίτημα. Το μοντέλο βλέπει τους ορισμούς των εργαλείων (παραμένουν στο πλαίσιο διαλόγου), αλλά δεν μπορεί να τα καλέσει. Περιπτώσεις χρήσης:
- Φάση διευκρίνισης: Θέλετε το μοντέλο να κάνει ερωτήσεις πριν ενεργήσει
- Λειτουργία προεπισκόπησης: Εμφάνιση του τι θα έκανε το μοντέλο χωρίς εκτέλεση
- Εναλλακτική λύση (Fallback): Αν τα εργαλεία είναι προσωρινά μη διαθέσιμα
Ειδικός τρόπος λειτουργίας (εξαναγκασμός συγκεκριμένου εργαλείου)
response = client.chat.completions.create(
model="grok-4.5",
messages=messages,
tools=tools,
tool_choice={
"type": "function",
"function": {"name": "get_weather"}
}
)
Το μοντέλο εξαναγκάζεται να καλέσει ακριβώς αυτό το εργαλείο. Δεν μπορεί να επιλέξει άλλο, ούτε να απαντήσει άμεσα. Αυτός είναι ο πιο περιοριστικός τρόπος λειτουργίας. Περιπτώσεις χρήσης:
- Ακολουθιακή ροή εργασίας: Σε αυτό το βήμα, πρέπει να κληθεί αυτό το συγκεκριμένο εργαλείο
- Δοκιμές: Θέλετε να επαληθεύσετε ότι το μοντέλο παράγει τα σωστά ορίσματα για ένα δεδομένο εργαλείο
- Στοχευμένη εξαγωγή: Γνωρίζετε ποιο εργαλείο να χρησιμοποιήσετε και θέλετε απλώς το μοντέλο να εξάγει τις παραμέτρους
Σύγκριση τρόπων λειτουργίας
| Τρόπος λειτουργίας | Συμπεριφορά | Πότε να τον χρησιμοποιήσετε |
|---|---|---|
| auto | Το μοντέλο αποφασίζει ελεύθερα | Γενική περίπτωση, chatbots |
| required | Πρέπει να καλέσει τουλάχιστον ένα εργαλείο | Εξαγωγή, επικύρωση |
| none | Δεν επιτρέπονται εργαλεία | Διευκρίνιση, εναλλακτική λύση |
| {"function":...} | Εξαναγκάζει ένα συγκεκριμένο εργαλείο | Ροή εργασίας, δοκιμές |
Προηγμένες στρατηγικές
Εναλλαγή τρόπων λειτουργίας σε μια ροή εργασίας
Μια έξυπνη ροή εργασίας μπορεί να αλλάζει το tool_choice ανάλογα με το βήμα:
# Βήμα 1: εξαναγκασμός αναζήτησης
response1 = client.chat.completions.create(
model="grok-4.5",
messages=messages,
tools=tools,
tool_choice={"type": "function", "function": {"name": "search_products"}}
)
# Βήμα 2: αφήστε το μοντέλο να αποφασίσει (ανάλυση ή ερώτηση)
response2 = client.chat.completions.create(
model="grok-4.5",
messages=updated_messages,
tools=tools,
tool_choice="auto"
)
Συνδυασμός με την οδηγία συστήματος (system prompt)
Η οδηγία συστήματος μπορεί να καθοδηγήσει το μοντέλο στις επιλογές εργαλείων του, ακόμη και σε λειτουργία auto:
messages = [
{
"role": "system",
"content": "Είστε ένας ταξιδιωτικός βοηθός. Να χρησιμοποιείτε πάντα το "
"get_weather πριν προτείνετε υπαίθριες δραστηριότητες."
},
{"role": "user", "content": "Τι πρέπει να κάνω στη Μασσαλία αυτό το Σαββατοκύριακο;"}
]
Βασικά σημεία
auto: Το μοντέλο αποφασίζει (εξ ορισμού, συνιστάται για τις περισσότερες περιπτώσεις)required: Εξαναγκάζει την κλήση τουλάχιστον ενός εργαλείουnone: Απενεργοποιεί προσωρινά την κλήση συναρτήσεων- Ειδικός τρόπος λειτουργίας: Εξαναγκάζει την κλήση ενός συγκεκριμένου εργαλείου ανά όνομα
- Εναλλάξτε τους τρόπους λειτουργίας σε μια ροή εργασίας για λεπτομερή έλεγχο
- Συνδυάστε το
tool_choiceμε την οδηγία συστήματος για να καθοδηγήσετε το μοντέλο