Pogovori z orodji v več krogih
Na tej strani
Pogovori z klici funkcij v več krogih
V pravem pogovoru bo model morda moral poklicati orodja večkrat med celotno izmenjavo. Vsak krog lahko vključuje nove klice, rezultate, ki sprožijo druge klice, ali zahteve po pojasnilih uporabnika pred uporabo orodja.
Parameter max_turns
Parameter max_turns omejuje število krogov asistenta/orodja na strani strežnika v eni sami zahtevi. Velja samo za vgrajena orodja (web_search, code_interpreter itd.).
response = client.responses.create(
model="grok-4.5",
input="Analyze 2026 tech trends",
tools=[{"type": "web_search"}],
max_turns=5 # Maximum 5 web searches before responding
)
Pomembna točka: klici orodij na strani odjemalca ponastavijo števec. Ko pošljete nazaj function_call_output, se začne nova dodelitev max_turns.
Zanka za več krogov na strani odjemalca
Za upravljanje pogovorov, kjer model večkrat pokliče orodja, implementirajte zanko:
import json
def multi_turn_chat(user_message, tools, max_iterations=10):
messages = [{"role": "user", "content": user_message}]
for i in range(max_iterations):
response = client.chat.completions.create(
model="grok-4.5",
messages=messages,
tools=tools
)
message = response.choices[0].message
messages.append(message)
# If no tool_call, the conversation is over
if not message.tool_calls:
return message.content
# Execute all requested tools
for tool_call in message.tool_calls:
args = json.loads(tool_call.function.arguments)
result = execute_function(tool_call.function.name, args)
messages.append({
"role": "tool",
"tool_call_id": tool_call.id,
"content": json.dumps(result)
})
return "Maximum number of iterations reached"
Spremenljivka max_iterations je bistven varnostni ukrep za preprečevanje neskončnih zank. V produkcijskem okolju nastavite razumno omejitev (5–10 krogov).
Kontekst več krogov z API-jem Responses
API Responses ponuja dva mehanizma za ohranjanje konteksta:
1. Oddaljeno shranjevanje
# First message
r1 = client.responses.create(
model="grok-4.5",
input="What's the weather like in Paris?",
tools=tools,
store_messages=True
)
# Tool result
r2 = client.responses.create(
model="grok-4.5",
input=[{
"type": "function_call_output",
"call_id": r1.output[0].call_id,
"output": {temp: 18}
}],
previous_response_id=r1.id,
store_messages=True
)
# Follow-up question (context is preserved)
r3 = client.responses.create(
model="grok-4.5",
input="What about tomorrow?",
previous_response_id=r2.id,
tools=tools,
store_messages=True
)
Prednost: zgodovine sporočil vam ni treba upravljati ročno. xAI jo samodejno shrani in pridobi prek previous_response_id.
2. Šifrirana vsebina na strani odjemalca
response = client.responses.create(
model="grok-4.5",
input="Search for flight prices to Nice",
tools=tools,
use_encrypted_content=True
)
Z use_encrypted_content=True prejmete razmišljanje in izhode orodij v šifrirani obliki. Te v naslednjih zahtevah pošljete nazaj nespremenjene, ne da bi jih lahko prebrali. To je uporabno, ko ne želite, da bi podatki potovali v čisti obliki skozi vaš strežnik.
Vzorci pogovorov v več krogih
Vzorci: Iskanje, nato dejanje
Turn 1 : User → "Find a cheap Paris-Nice flight"
Model → tool_call: search_flights(from="CDG", to="NCE")
Client → result : [{flight1}, {flight2}, {flight3}]
Turn 2 : Model → "I found 3 flights. The cheapest is €89. Do you want to book it?"
User → "Yes, book the €89 flight"
Turn 3 : Model → tool_call: book_flight(flight_id="FL123", passengers=1)
Vzorci: Agregacija podatkov
Turn 1 : Model → tool_call: get_sales(month="march")
Turn 2 : Model → tool_call: get_expenses(month="march")
Turn 3 : Model → tool_call: get_headcount(month="march")
Turn 4 : Model → "Here is the monthly report: sales +12%, expenses -3%, headcount stable."
Vzorci: Postopno izpopolnjevanje
Turn 1 : Model → tool_call: search_products(query="running shoes")
Result → 150 products
Turn 2 : Model → "I found 150 products. What size and budget?"
User → "42, max €120"
Turn 3 : Model → tool_call: search_products(query="running shoes", size=42, max_price=120)
Result → 8 products
Upravljanje pomnilnika
V dolgih pogovorih zgodovina – ki vključuje vsak tool_call in vsak rezultat orodja – hitro raste, z njo pa tudi strošek vsakega kroga. Na voljo so vam tri strategije, od ročnih do popolnoma delegiranih. Občasno povzemanje združi starejše kroge v odstavek, vstavljen v sistemski poziv: ohranite bistvo preteklih izmenjav za delček njihove teže žetonov, ob ceni določene izgube podrobnosti. Drseče okno je bolj grobo, a preprostejše: ohranite le zadnjih N krogov in sprejmete, da bo model pozabil začetek pogovora – primerno, ko starejše izmenjave nimajo več operativnega pomena. Oddaljeno shranjevanje končno problem delegira xAI z store_messages=True: zgodovina živi na strani strežnika, vaša aplikacija pa hrani le referenco. Prava izbira je odvisna od tega, kaj mora vaša aplikacija zapomniti in za kako dolgo.
Ključne ugotovitve
max_turnsomejuje kroge orodij na strani strežnika – orodja na strani odjemalca ponastavijo števec- Implementirajte zanko z
max_iterationsza preprečevanje neskončnih zank previous_response_idpovezuje pogovore brez ponovnega pošiljanja zgodovinestore_messages=Truedelegira shranjevanje konteksta xAIuse_encrypted_content=Trueščiti podatke med prenosom- Upravljajte pomnilnik v dolgih pogovorih (povzemanje, drseče okno)