Συνομιλίες πολλαπλών γύρων με εργαλεία
Σε αυτήν τη σελίδα
Συνομιλίες πολλαπλών γύρων με κλήση συναρτήσεων
Σε μια πραγματική συνομιλία, το μοντέλο μπορεί να χρειαστεί να καλέσει εργαλεία πολλαπλές φορές κατά τη διάρκεια της ανταλλαγής. Κάθε γύρος μπορεί να περιλαμβάνει νέες κλήσεις, αποτελέσματα που ενεργοποιούν άλλες κλήσεις ή αιτήματα διευκρινίσεων από τον χρήστη πριν από τη χρήση ενός εργαλείου.
Η παράμετρος max_turns
Η παράμετρος max_turns περιορίζει τον αριθμό των γύρων βοηθού/εργαλείου στην πλευρά του διακομιστή σε ένα μόνο αίτημα. Εφαρμόζεται μόνο σε ενσωματωμένα εργαλεία (web_search, code_interpreter, κ.λπ.).
response = client.responses.create(
model="grok-4.5",
input="Analyze 2026 tech trends",
tools=[{"type": "web_search"}],
max_turns=5 # Maximum 5 web searches before responding
)
Σημαντικό σημείο: οι κλήσεις εργαλείων στην πλευρά του πελάτη επαναφέρουν τον μετρητή. Όταν στέλνετε πίσω ένα function_call_output, ξεκινά μια νέα κατανομή max_turns.
Βρόχος πολλαπλών γύρων στην πλευρά του πελάτη
Για τη διαχείριση συνομιλιών όπου το μοντέλο καλεί εργαλεία πολλαπλές φορές, υλοποιήστε έναν βρόχο:
import json
def multi_turn_chat(user_message, tools, max_iterations=10):
messages = [{"role": "user", "content": user_message}]
for i in range(max_iterations):
response = client.chat.completions.create(
model="grok-4.5",
messages=messages,
tools=tools
)
message = response.choices[0].message
messages.append(message)
# If no tool_call, the conversation is over
if not message.tool_calls:
return message.content
# Execute all requested tools
for tool_call in message.tool_calls:
args = json.loads(tool_call.function.arguments)
result = execute_function(tool_call.function.name, args)
messages.append({
"role": "tool",
"tool_call_id": tool_call.id,
"content": json.dumps(result)
})
return "Maximum number of iterations reached"
Η μεταβλητή max_iterations αποτελεί ουσιαστική δικλείδα ασφαλείας για την πρόληψη άπειρων βρόχων. Σε περιβάλλον παραγωγής, ορίστε ένα λογικό όριο (5–10 γύροι).
Συμφραζόμενα πολλαπλών γύρων με το Responses API
Το Responses API προσφέρει δύο μηχανισμούς για τη διατήρηση του συμφραζομένου:
1. Αποθήκευση απομακρυσμένα
# First message
r1 = client.responses.create(
model="grok-4.5",
input="What's the weather like in Paris?",
tools=tools,
store_messages=True
)
# Tool result
r2 = client.responses.create(
model="grok-4.5",
input=[{
"type": "function_call_output",
"call_id": r1.output[0].call_id,
"output": {temp: 18}
}],
previous_response_id=r1.id,
store_messages=True
)
# Follow-up question (context is preserved)
r3 = client.responses.create(
model="grok-4.5",
input="What about tomorrow?",
previous_response_id=r2.id,
tools=tools,
store_messages=True
)
Το πλεονέκτημα: δεν χρειάζεται να διαχειριστείτε το ιστορικό μηνυμάτων. Η xAI το αποθηκεύει και το ανακτά αυτόματα μέσω του previous_response_id.
2. Κρυπτογραφημένο περιεχόμενο στην πλευρά του πελάτη
response = client.responses.create(
model="grok-4.5",
input="Search for flight prices to Nice",
tools=tools,
use_encrypted_content=True
)
Με το use_encrypted_content=True, λαμβάνετε τη συλλογιστική και τις εξόδους εργαλείων σε κρυπτογραφημένη μορφή. Τις στέλνετε πίσω ως έχουν σε επόμενα αιτήματα, χωρίς να μπορείτε να τις διαβάσετε. Αυτό είναι χρήσιμο όταν δεν θέλετε τα δεδομένα να περνούν ως απλό κείμενο μέσω του διακομιστή σας.
Πρότυπα συνομιλίας πολλαπλών γύρων
Πρότυπο: Αναζήτηση και στη συνέχεια ενέργεια
Turn 1 : User → "Find a cheap Paris-Nice flight"
Model → tool_call: search_flights(from="CDG", to="NCE")
Client → result : [{flight1}, {flight2}, {flight3}]
Turn 2 : Model → "I found 3 flights. The cheapest is €89. Do you want to book it?"
User → "Yes, book the €89 flight"
Turn 3 : Model → tool_call: book_flight(flight_id="FL123", passengers=1)
Πρότυπο: Συσσώρευση δεδομένων
Turn 1 : Model → tool_call: get_sales(month="march")
Turn 2 : Model → tool_call: get_expenses(month="march")
Turn 3 : Model → tool_call: get_headcount(month="march")
Turn 4 : Model → "Here is the monthly report: sales +12%, expenses -3%, headcount stable."
Πρότυπο: Προοδευτική βελτίωση
Turn 1 : Model → tool_call: search_products(query="running shoes")
Result → 150 products
Turn 2 : Model → "I found 150 products. What size and budget?"
User → "42, max €120"
Turn 3 : Model → tool_call: search_products(query="running shoes", size=42, max_price=120)
Result → 8 products
Διαχείριση μνήμης
Σε μεγάλες συνομιλίες, το ιστορικό—το οποίο περιλαμβάνει κάθε tool_call και κάθε αποτέλεσμα εργαλείου—αυξάνεται γρήγορα, και μαζί του το κόστος κάθε γύρου. Διατίθενται τρεις στρατηγικές, από τη χειροκίνητη έως την πλήρως ανατεθειμένη. Η περιοδική σύνοψη συμπυκνώνει τους παλαιότερους γύρους σε μια παράγραφο που εισάγεται στην προτροπή συστήματος: διατηρείτε την ουσία των προηγούμενων ανταλλαγών για ένα κλάσμα του βάρους token τους, με κόστος κάποια απώλεια λεπτομερειών. Το συρόμενο παράθυρο είναι πιο απότομο αλλά απλούστερο: κρατήστε μόνο τους τελευταίους N γύρους, δεχόμενοι ότι το μοντέλο θα ξεχάσει την αρχή της συνομιλίας—κατάλληλο όταν οι παλαιότερες ανταλλαγές δεν έχουν πλέον επιχειρησιακή σημασία. Η απομακρυσμένη αποθήκευση, τέλος, αναθέτει το πρόβλημα στην xAI με το store_messages=True: το ιστορικό ζει στην πλευρά του διακομιστή και η εφαρμογή σας φέρει μόνο μια αναφορά. Η σωστή επιλογή εξαρτάται από το τι πρέπει να θυμάται η εφαρμογή σας και για πόσο χρονικό διάστημα.
Βασικά σημεία
- Το
max_turnsπεριορίζει τους γύρους εργαλείων στην πλευρά του διακομιστή—τα εργαλεία πελάτη επαναφέρουν τον μετρητή - Υλοποιήστε έναν βρόχο με
max_iterationsγια την πρόληψη άπειρων βρόχων - Το
previous_response_idαλυσιδώνει συνομιλίες χωρίς επαναποστολή του ιστορικού - Το
store_messages=Trueαναθέτει την αποθήκευση συμφραζομένου στην xAI - Το
use_encrypted_content=Trueπροστατεύει τα δεδομένα κατά τη μεταφορά - Διαχειριστείτε τη μνήμη σε μεγάλες συνομιλίες (σύνοψη, συρόμενο παράθυρο)