Παράλληλες Κλήσεις
Σε αυτήν τη σελίδα
Πολλαπλά Εργαλεία σε Μία Μόνο Απόκριση
Ένα από τα πιο ισχυρά χαρακτηριστικά της κλήσης συναρτήσεων του Grok είναι η δυνατότητα επιστροφής πολλαπλών κλήσεων εργαλείων σε μία μόνο απόκριση. Αντί να πραγματοποιείτε έναν γύρο επικοινωνίας (round trip) για κάθε συνάρτηση, το μοντέλο εντοπίζει όλες τις πληροφορίες που χρειάζεται και δημιουργεί κάθε κλήση παράλληλα.
Η Παράμετρος parallel_tool_calls
Οι παράλληλες κλήσεις είναι ενεργοποιημένες από προεπιλογή. Η παράμετρος parallel_tool_calls ελέγχει αυτή τη συμπεριφορά:
# Enabled by default (no need to specify)
response = client.chat.completions.create(
model="grok-4.5",
messages=messages,
tools=tools,
parallel_tool_calls=True # This is the default
)
Όταν ένας χρήστης ρωτά «Ποιος είναι ο καιρός στο Παρίσι και στη Λυών;», το μοντέλο επιστρέφει δύο tool_calls στην ίδια απόκριση:
{
"tool_calls": [
{
"id": "call_001",
"function": {
"name": "get_weather",
"arguments": "{\"city\": \"Paris\"}"
}
},
{
"id": "call_002",
"function": {
"name": "get_weather",
"arguments": "{\"city\": \"Lyon\"}"
}
}
]
}
Διαχείριση Παράλληλων Κλήσεων
Ο κώδικάς σας πρέπει να διαχειρίζεται έναν πίνακα tool_calls και όχι μόνο ένα:
import json
import asyncio
message = response.choices[0].message
if message.tool_calls:
# Execute all functions
tool_results = []
for tool_call in message.tool_calls:
args = json.loads(tool_call.function.arguments)
result = execute_function(tool_call.function.name, args)
tool_results.append({
"role": "tool",
"tool_call_id": tool_call.id,
"content": json.dumps(result)
})
# Send ALL results back to the model
messages = [
{"role": "user", "content": "What's the weather in Paris and Lyon?"},
message,
*tool_results # All results
]
final = client.chat.completions.create(
model="grok-4.5",
messages=messages,
tools=tools
)
Κρίσιμο σημείο: πρέπει να επιστρέψετε όλα τα αποτελέσματα των εργαλείων, όχι μόνο το πρώτο. Κάθε αποτέλεσμα συνδέεται με το αντίστοιχο tool_call_id.
Πραγματική Παράλληλη Εκτέλεση στον Πελάτη (Client)
Το μοντέλο επιστρέφει τις κλήσεις παράλληλα, αλλά ο κώδικάς σας πρέπει να τις εκτελέσει παράλληλα. Στην Python, χρησιμοποιήστε το asyncio ή το concurrent.futures:
import concurrent.futures
def execute_parallel(tool_calls):
results = []
with concurrent.futures.ThreadPoolExecutor() as executor:
futures = {}
for tc in tool_calls:
args = json.loads(tc.function.arguments)
future = executor.submit(execute_function, tc.function.name, args)
futures[future] = tc.id
for future in concurrent.futures.as_completed(futures):
call_id = futures[future]
result = future.result()
results.append({
"role": "tool",
"tool_call_id": call_id,
"content": json.dumps(result)
})
return results
Η παράλληλη εκτέλεση μειώνει σημαντικά τη συνολική καθυστέρηση (latency). Αν κάθε κλήση API διαρκεί 200ms, δύο διαδοχικές κλήσεις ισούται με 400ms, ενώ δύο παράλληλες κλήσεις ισούται με ~200ms.
Απενεργοποίηση Παράλληλων Κλήσεων
Σε ορισμένες περιπτώσεις, θα θέλετε διαδοχικές κλήσεις:
response = client.chat.completions.create(
model="grok-4.5",
messages=messages,
tools=tools,
parallel_tool_calls=False
)
Απενεργοποιήστε τον παραλληλισμό όποτε δεν είναι εγγυημένη η ανεξαρτησία των κλήσεων. Η πιο προφανής περίπτωση είναι η εξάρτηση δεδομένων: αν το αποτέλεσμα ενός εργαλείου τροφοδοτεί τα ορίσματα του επόμενου εργαλείου—για παράδειγμα, αναζήτηση ενός ID πελάτη πριν την ανάκτηση των παραγγελιών του—η εκτέλεσή τους παράλληλα θα προκαλέσει στην καλύτερη περίπτωση σφάλμα και στη χειρότερη θα παράγει ένα λανθασμένο αποτέλεσμα χωρίς ειδοποίηση. Η σειρά της επιχειρηματικής λογικής επιβάλλει τον ίδιο περιορισμό: η δημιουργία ενός χρήστη πριν την ανάθεση ρόλου είναι αδιαπραγμάτευτη και μόνο η διαδοχική λειτουργία το εγγυάται αυτό. Δύο ακόμη πρακτικοί λόγοι ολοκληρώνουν την εικόνα: ένα εξωτερικό API που υπόκειται σε όρια ταυτόχρονων αιτημάτων δεν θα διαχειριστεί καλά μια έκρηξη παράλληλων κλήσεων και, κατά την ανάπτυξη, η διαδοχική λειτουργία καθιστά την παρακολούθηση των κλήσεων απείρως πιο ευανάγνωστη—μία κλήση, ένα αποτέλεσμα, ένα αρχείο καταγραφής, με τη σωστή σειρά.
Παράλληλες Κλήσεις με Διαφορετικά Εργαλεία
Το μοντέλο μπορεί επίσης να καλέσει διαφορετικά εργαλεία παράλληλα:
# Request: "Book a table and tell me the weather tonight"
# The model returns:
# - tool_call_1 : book_table(restaurant="Le Petit Bistrot", time="20:00")
# - tool_call_2 : get_weather(city="Paris", time="tonight")
Αυτό είναι ιδιαίτερα χρήσιμο για ευέλικτους βοηθούς που χρειάζεται να συλλέξουν πληροφορίες από διαφορετικές πηγές.
Διαχείριση Σφαλμάτων σε Παράλληλη Λειτουργία
Όταν μία κλήση αποτύχει αλλά άλλες επιτύχουν, επιστρέψτε παρόλα αυτά όλα τα αποτελέσματα. Το μοντέλο διαχειρίζεται μεμονωμένα σφάλματα:
results = []
for tc in message.tool_calls:
try:
result = execute_function(tc.function.name, args)
results.append({
"role": "tool",
"tool_call_id": tc.id,
"content": json.dumps(result)
})
except Exception as e:
results.append({
"role": "tool",
"tool_call_id": tc.id,
"content": json.dumps({"error": str(e)})
})
Βασικά σημεία
- Οι παράλληλες κλήσεις είναι ενεργοποιημένες από προεπιλογή (
parallel_tool_calls: true) - Το μοντέλο επιστρέφει πολλαπλά
tool_callsσε μία μόνο απόκριση - Πρέπει να επιστρέψετε όλα τα αποτελέσματα, το καθένα συνδεδεμένο με το δικό του
tool_call_id - Υλοποιήστε παράλληλη εκτέλεση στην πλευρά του πελάτη (client-side) για μείωση της καθυστέρησης
- Απενεργοποιήστε τον παραλληλισμό όταν υπάρχουν εξαρτήσεις μεταξύ των κλήσεων
- Διαχειριστείτε τα σφάλματα μεμονωμένα—μην μπλοκάρετε τα πάντα για μία μόνο αποτυχία