Sarunas vairākos soļos ar rīkiem
Šajā lapā
Sarunas vairākos soļos, izmantojot funkciju izsaukumus
Reālā sarunā modelim var būt nepieciešams izsaukt rīkus vairākas reizes visas mijiedarbības laikā. Katrs solis var ietvert jaunus izsaukumus, rezultātus, kas izraisa citus izsaukumus, vai lietotāja precizējumu pieprasījumus pirms rīka izmantošanas.
Parametrs max_turns
Parametrs max_turns ierobežo asistenta/rīka soļu skaitu servera pusē viena pieprasījuma ietvaros. Tas attiecas tikai uz iebūvētajiem rīkiem (web_search, code_interpreter u.c.).
response = client.responses.create(
model="grok-4.5",
input="Analyze 2026 tech trends",
tools=[{"type": "web_search"}],
max_turns=5 # Maximum 5 web searches before responding
)
Svarīgs punkts: rīku izsaukumi klienta pusē atiestata skaitītāju. Kad tu nosūti atpakaļ function_call_output, sākas jauna max_turns kvota.
Daudzsoļu cikls klienta pusē
Lai pārvaldītu sarunas, kurās modelis vairākas reizes izsauc rīkus, īsteno ciklu:
import json
def multi_turn_chat(user_message, tools, max_iterations=10):
messages = [{"role": "user", "content": user_message}]
for i in range(max_iterations):
response = client.chat.completions.create(
model="grok-4.5",
messages=messages,
tools=tools
)
message = response.choices[0].message
messages.append(message)
# If no tool_call, the conversation is over
if not message.tool_calls:
return message.content
# Execute all requested tools
for tool_call in message.tool_calls:
args = json.loads(tool_call.function.arguments)
result = execute_function(tool_call.function.name, args)
messages.append({
"role": "tool",
"tool_call_id": tool_call.id,
"content": json.dumps(result)
})
return "Maximum number of iterations reached"
Mainīgais max_iterations ir būtisks drošības pasākums, lai novērstu bezgalīgus ciklus. Produkcijas vidē iestati saprātīgu robežu (5–10 soļi).
Daudzsoļu konteksts, izmantojot Responses API
Responses API piedāvā divus mehānismus konteksta uzturēšanai:
1. Attālināta glabāšana
# First message
r1 = client.responses.create(
model="grok-4.5",
input="What's the weather like in Paris?",
tools=tools,
store_messages=True
)
# Tool result
r2 = client.responses.create(
model="grok-4.5",
input=[{
"type": "function_call_output",
"call_id": r1.output[0].call_id,
"output": {temp: 18}
}],
previous_response_id=r1.id,
store_messages=True
)
# Follow-up question (context is preserved)
r3 = client.responses.create(
model="grok-4.5",
input="What about tomorrow?",
previous_response_id=r2.id,
tools=tools,
store_messages=True
)
Priekšrocība: tev nav jāpārvalda ziņojumu vēsture. xAI to automātiski glabā un izgūst, izmantojot previous_response_id.
2. Šifrēts saturs klienta pusē
response = client.responses.create(
model="grok-4.5",
input="Search for flight prices to Nice",
tools=tools,
use_encrypted_content=True
)
Iestatot use_encrypted_content=True, tu saņem spriešanu un rīku rezultātus šifrētā veidā. Tu nosūti tos atpakaļ nemainītus nākamajos pieprasījumos, nespējot tos nolasīt. Tas ir noderīgi, ja nevēlies, lai dati caur tavu serveri pārietu atklātā tekstā.
Daudzsoļu sarunu modeļi
Modelis: Meklēšana, tad darbība
Turn 1 : User → "Find a cheap Paris-Nice flight"
Model → tool_call: search_flights(from="CDG", to="NCE")
Client → result : [{flight1}, {flight2}, {flight3}]
Turn 2 : Model → "I found 3 flights. The cheapest is €89. Do you want to book it?"
User → "Yes, book the €89 flight"
Turn 3 : Model → tool_call: book_flight(flight_id="FL123", passengers=1)
Modelis: Datu apkopošana
Turn 1 : Model → tool_call: get_sales(month="march")
Turn 2 : Model → tool_call: get_expenses(month="march")
Turn 3 : Model → tool_call: get_headcount(month="march")
Turn 4 : Model → "Here is the monthly report: sales +12%, expenses -3%, headcount stable."
Modelis: Progresīva precizēšana
Turn 1 : Model → tool_call: search_products(query="running shoes")
Result → 150 products
Turn 2 : Model → "I found 150 products. What size and budget?"
User → "42, max €120"
Turn 3 : Model → tool_call: search_products(query="running shoes", size=42, max_price=120)
Result → 8 products
Atmiņas pārvaldība
Garās sarunās vēsture — kas ietver katru tool_call un katru rīka rezultātu — strauji aug, un līdz ar to pieaug arī katra soļa izmaksas. Tev ir pieejamas trīs stratēģijas, sākot no manuālas līdz pilnībā deleģētai. Periodiska apkopošana kondensē vecākos soļus vienā rindkopā, kas tiek ievadīta sistēmas promptā: tu saglabā pagātnes mijiedarbību būtību par daļu no to tokena svara, upurējot dažas detaļas. Slīdošais logs ir brutālāks, bet vienkāršāks: glabā tikai pēdējos N soļus, pieņemot, ka modelis aizmirsīs sarunas sākumu — tas ir piemēroti, kad vecākajām mijiedarbībām vairs nav operatīvas nozīmes. Visbeidzot, attālināta glabāšana deleģē problēmu xAI, izmantojot store_messages=True: vēsture dzīvo servera pusē, un tava lietotne nes tikai atsauces identifikatoru. Pareizā izvēle ir atkarīga no tā, kas tavai lietotnei ir jāatceras un cik ilgi.
Galvenās atziņas
max_turnsierobežo rīka soļus servera pusē — klienta rīki atiestata skaitītāju- Īsteno ciklu ar
max_iterations, lai novērstu bezgalīgus ciklus previous_response_idsavieno sarunas, nosūtot vēsturi atpakaļstore_messages=Truedeleģē konteksta glabāšanu xAIuse_encrypted_content=Trueaizsargā datus pārsūtīšanas laikā- Pārvaldi atmiņu garās sarunās (apkopošana, slīdošais logs)