Mitme vooruga vestlused tööriistadega
Sellel lehel
Mitme vooruga vestlused funktsioonide kutsumisega
Tegelikus vestluses võib mudel vajada tööriistade kutsumist mitu korda kogu suhtluse vältel. Iga voor võib hõlmata uusi kutseid, tulemusi, mis käivitavad teisi kutseid, või kasutajalt täpsustuse küsimist enne tööriista kasutamist.
Parameeter max_turns
Parameeter max_turns piirab assistendi/tööriista voorude arvu serveripoolselt ühes päringus. See kehtib ainult sisseehitatud tööriistadele (web_search, code_interpreter jne).
response = client.responses.create(
model="grok-4.5",
input="Analyze 2026 tech trends",
tools=[{"type": "web_search"}],
max_turns=5 # Maximum 5 web searches before responding
)
Oluline punkt: kliendipoolsed tööriistakutsed lähtestavad loenduri. Kui saadad tagasi function_call_output, algab uus max_turns eraldis.
Kliendipoolne mitme vooruga tsükkel
Vestluste haldamiseks, kus mudel kutsub tööriistu mitu korda, rakenda tsükkel:
import json
def multi_turn_chat(user_message, tools, max_iterations=10):
messages = [{"role": "user", "content": user_message}]
for i in range(max_iterations):
response = client.chat.completions.create(
model="grok-4.5",
messages=messages,
tools=tools
)
message = response.choices[0].message
messages.append(message)
# Kui tool_call puudub, on vestlus lõppenud
if not message.tool_calls:
return message.content
# Käivita kõik taotletud tööriistad
for tool_call in message.tool_calls:
args = json.loads(tool_call.function.arguments)
result = execute_function(tool_call.function.name, args)
messages.append({
"role": "tool",
"tool_call_id": tool_call.id,
"content": json.dumps(result)
})
return "Maximum number of iterations reached"
Muutuja max_iterations on hädavajalik kaitse lõpmatute tsüklite vastu. Tootmiskeskkonnas määra mõistlik piirang (5–10 vooru).
Mitme vooruga kontekst Responses API-ga
Responses API pakub konteksti säilitamiseks kahte mehhanismi:
1. Kaugsalvestus
# Esimene sõnum
r1 = client.responses.create(
model="grok-4.5",
input="What's the weather like in Paris?",
tools=tools,
store_messages=True
)
# Tööriista tulemus
r2 = client.responses.create(
model="grok-4.5",
input=[{
"type": "function_call_output",
"call_id": r1.output[0].call_id,
"output": {temp: 18}
}],
previous_response_id=r1.id,
store_messages=True
)
# Järelküsimus (kontekst on säilinud)
r3 = client.responses.create(
model="grok-4.5",
input="What about tomorrow?",
previous_response_id=r2.id,
tools=tools,
store_messages=True
)
Eelis: sa ei pea sõnumite ajalugu ise haldama. xAI salvestab ja toob selle automaatselt tagasi kasutades previous_response_id.
2. Kliendipoolne krüpteeritud sisu
response = client.responses.create(
model="grok-4.5",
input="Search for flight prices to Nice",
tools=tools,
use_encrypted_content=True
)
Määrates use_encrypted_content=True, saad põhjendused ja tööriistade väljundid krüpteeritud kujul. Saadad need järgnevates päringutes muutumatult tagasi, ilma et saaksid neid lugeda. See on kasulik, kui soovid vältida andmete edastamist selges tekstis läbi oma serveri.
Mitme vooruga vestluse mustrid
Muster: Otsing seejärel tegevus
Voor 1 : Kasutaja → "Leia odav lend Pariisist Nicesse"
Mudel → tool_call: search_flights(from="CDG", to="NCE")
Klient → tulemus : [{flight1}, {flight2}, {flight3}]
Voor 2 : Mudel → "Leidsin 3 lendu. Odavaim maksab 89 €. Kas soovid selle broneerida?"
Kasutaja → "Jah, broneeri 89 € lend"
Voor 3 : Mudel → tool_call: book_flight(flight_id="FL123", passengers=1)
Muster: Andmete agregeerimine
Voor 1 : Mudel → tool_call: get_sales(month="march")
Voor 2 : Mudel → tool_call: get_expenses(month="march")
Voor 3 : Mudel → tool_call: get_headcount(month="march")
Voor 4 : Mudel → "Siin on kuuaruanne: müük +12%, kulud -3%, personaliseis stabiilne."
Muster: Järkjärguline täpsustamine
Voor 1 : Mudel → tool_call: search_products(query="running shoes")
Tulemus → 150 toodet
Voor 2 : Mudel → "Leidsin 150 toodet. Mis suurus ja eelarve?"
Kasutaja → "42, max 120 €"
Voor 3 : Mudel → tool_call: search_products(query="running shoes", size=42, max_price=120)
Tulemus → 8 toodet
Mälu haldamine
Pikkades vestlustes kasvab ajalugu – mis sisaldab iga tool_call ja iga tööriista tulemust – kiiresti ning sellega kaasneb iga vooru kulude tõus. Sul on kasutada kolm strateegiat, alates manuaalsest kuni täielikult delegeeritud lahenduseni. Perioodiline kokkuvõtmine kondenseerib vanemad voorud lõiguks, mis sisestatakse süsteemi vihjesse: säilitad varasemate vahetuste olemuse murdosa tokenite kaalust, ohverdades mõningaid detaile. Liuguv aken on jämedam, kuid lihtsam: hoia alles vaid viimased N vooru, leppides sellega, et mudel unustab vestluse alguse – sobib, kui vanematel vahetustel pole enam operatiivset tähtsust. Kaugsalvestus delegeerib probleemi lõpuks xAI-le kasutades store_messages=True: ajalugu elab serveripoolselt ja sinu rakendus kannab vaid viidet. Õige valik sõltub sellest, mida sinu rakendus peab meeles pidama ja kui kaua.
Peamised punktid
max_turnspiirab serveripoolseid tööriistavoore – kliendi tööriistad lähtestavad loenduri- Rakenda tsükkel koos
max_iterations, et vältida lõpmatuid tsükleid previous_response_idaheldab vestlusi ilma ajaloo uuesti saatmatastore_messages=Truedelegeerib konteksti salvestamise xAI-leuse_encrypted_content=Truekaitseb andmeid edastamise ajal- Halda mälu pikkades vestlustes (kokkuvõtmine, liuguv aken)