Conversații multi-tur cu instrumente
Pe această pagină
Conversații multi-tur cu apeluri de funcții
Într-o conversație reală, modelul poate avea nevoie să apeleze instrumente de mai multe ori pe parcursul schimbului. Fiecare tur poate implica noi apeluri, rezultate care declanșează alte apeluri sau solicitări de clarificare din partea utilizatorului înainte de a utiliza un instrument.
Parametrul max_turns
Parametrul max_turns limitează numărul de tururi asistent/instrument lato sensu server într-o singură cerere. Acesta se aplică doar instrumentelor integrate (web_search, code_interpreter etc.).
response = client.responses.create(
model="grok-4.5",
input="Analyze 2026 tech trends",
tools=[{"type": "web_search"}],
max_turns=5 # Maximum 5 web searches before responding
)
Punct important: invocările instrumentelor lato sensu client resetează contorul. Când trimiteți înapoi un function_call_output, începe o nouă alocare max_turns.
Buclă multi-tur lato sensu client
Pentru a gestiona conversațiile în care modelul apelează instrumente de mai multe ori, implementați o buclă:
import json
def multi_turn_chat(user_message, tools, max_iterations=10):
messages = [{"role": "user", "content": user_message}]
for i in range(max_iterations):
response = client.chat.completions.create(
model="grok-4.5",
messages=messages,
tools=tools
)
message = response.choices[0].message
messages.append(message)
# If no tool_call, the conversation is over
if not message.tool_calls:
return message.content
# Execute all requested tools
for tool_call in message.tool_calls:
args = json.loads(tool_call.function.arguments)
result = execute_function(tool_call.function.name, args)
messages.append({
"role": "tool",
"tool_call_id": tool_call.id,
"content": json.dumps(result)
})
return "Maximum number of iterations reached"
Variabila max_iterations este o măsură de siguranță esențială pentru a preveni buclele infinite. În producție, stabiliți o limită rezonabilă (5–10 tururi).
Context multi-tur cu API-ul Responses
API-ul Responses oferă două mecanisme pentru menținerea contextului:
1. Stocare la distanță
# First message
r1 = client.responses.create(
model="grok-4.5",
input="What's the weather like in Paris?",
tools=tools,
store_messages=True
)
# Tool result
r2 = client.responses.create(
model="grok-4.5",
input=[{
"type": "function_call_output",
"call_id": r1.output[0].call_id,
"output": {temp: 18}
}],
previous_response_id=r1.id,
store_messages=True
)
# Follow-up question (context is preserved)
r3 = client.responses.create(
model="grok-4.5",
input="What about tomorrow?",
previous_response_id=r2.id,
tools=tools,
store_messages=True
)
Avantajul: nu trebuie să gestionați istoricul mesajelor. xAI le stochează și le recuperează automat prin intermediul previous_response_id.
2. Conținut criptat lato sensu client
response = client.responses.create(
model="grok-4.5",
input="Search for flight prices to Nice",
tools=tools,
use_encrypted_content=True
)
Cu use_encrypted_content=True, primiți raționamentele și rezultatele instrumentelor sub formă criptată. Le trimiteți înapoi ca atare în cererile ulterioare, fără a le putea citi. Acest lucru este util atunci când nu doriți ca datele să circule în text clar prin serverul dumneavoastră.
Tipare de conversație multi-tur
Tipar: Căutare apoi acțiune
Turn 1 : User → "Find a cheap Paris-Nice flight"
Model → tool_call: search_flights(from="CDG", to="NCE")
Client → result : [{flight1}, {flight2}, {flight3}]
Turn 2 : Model → "I found 3 flights. The cheapest is €89. Do you want to book it?"
User → "Yes, book the €89 flight"
Turn 3 : Model → tool_call: book_flight(flight_id="FL123", passengers=1)
Tipar: Agregarea datelor
Turn 1 : Model → tool_call: get_sales(month="march")
Turn 2 : Model → tool_call: get_expenses(month="march")
Turn 3 : Model → tool_call: get_headcount(month="march")
Turn 4 : Model → "Here is the monthly report: sales +12%, expenses -3%, headcount stable."
Tipar: Rafinare progresivă
Turn 1 : Model → tool_call: search_products(query="running shoes")
Result → 150 products
Turn 2 : Model → "I found 150 products. What size and budget?"
User → "42, max €120"
Turn 3 : Model → tool_call: search_products(query="running shoes", size=42, max_price=120)
Result → 8 products
Gestionarea memoriei
În conversațiile lungi, istoricul – care include fiecare tool_call și fiecare rezultat al instrumentului – crește rapid, iar odată cu el și costul fiecărui tur. Aveți la dispoziție trei strategii, de la manual la complet delegat. Rezumarea periodică condensează tururile mai vechi într-un paragraf injectat în promptul de sistem: păstrați substanța schimburilor anterioare pentru o fracțiune din greutatea lor în tokeni, cu costul unei pierderi de detalii. Fereastra glisantă este mai brutală, dar mai simplă: păstrați doar ultimele N tururi, acceptând că modelul va uita începutul conversației – adecvat atunci când schimburile mai vechi nu mai au importanță operațională. Stocarea la distanță, în final, deleagă problema către xAI cu store_messages=True: istoricul trăiește lato sensu server, iar aplicația dumneavoastră poartă doar o referință. Alegerea corectă depinde de ceea ce aplicația dumneavoastră trebuie să rețină și pentru cât timp.
Puncte cheie
max_turnslimitează tururile instrumentelor lato sensu server – instrumentele lato sensu client resetează contorul- Implementați o buclă cu
max_iterationspentru a preveni buclele infinite previous_response_idînlănțuie conversațiile fără a retrimite istoriculstore_messages=Truedeleagă stocarea contextului către xAIuse_encrypted_content=Trueprotejează datele în tranzit- Gestionați memoria în conversațiile lungi (rezumare, fereastră glisantă)