Pokalbiai keliais etapais su įrankiais
Šiame puslapyje
Pokalbiai keliais etapais kviečiant funkcijas
Realio pokalbio metu modeliui gali tekti naudoti įrankius kelis kartus viso dialogo eigoje. Kiekviename etape gali būti naujų kvietimų, rezultatų, kurie sukelia kitus kvietimus, arba prašymų naudotojui patikslinti informaciją prieš naudojant įrankį.
Parametras max_turns
Parametras max_turns riboja asistento/įrankio ėjimų skaičių serverio pusėje vieno užklausos metu. Jis taikomas tik integruotiems įrankiams (web_search, code_interpreter ir kt.).
response = client.responses.create(
model="grok-4.5",
input="Analyze 2026 tech trends",
tools=[{"type": "web_search"}],
max_turns=5 # Maximum 5 web searches before responding
)
Svarbus dalykas: kliento pusėje vykdomi įrankių kvietimai iš naujo nustato skaitiklį. Kai grąžini function_call_output, prasideda naujas max_turns limitas.
Kliento pusės ciklas keliems etapams
Norint valdyti pokalbius, kuriuose modelis kelis kartus kviečia įrankius, reikia įgyvendinti ciklą:
import json
def multi_turn_chat(user_message, tools, max_iterations=10):
messages = [{"role": "user", "content": user_message}]
for i in range(max_iterations):
response = client.chat.completions.create(
model="grok-4.5",
messages=messages,
tools=tools
)
message = response.choices[0].message
messages.append(message)
# If no tool_call, the conversation is over
if not message.tool_calls:
return message.content
# Execute all requested tools
for tool_call in message.tool_calls:
args = json.loads(tool_call.function.arguments)
result = execute_function(tool_call.function.name, args)
messages.append({
"role": "tool",
"tool_call_id": tool_call.id,
"content": json.dumps(result)
})
return "Maximum number of iterations reached"
Kintamasis max_iterations yra būtina apsauga nuo begalinių ciklų. Gamybinėje aplinkoje nustatykite protingą ribą (5–10 ėjimų).
Kontekstas keliuose etapuose naudojant Responses API
Responses API siūlo du mechanizmus kontekstui išlaikyti:
1. Nuotolinė saugykla
# First message
r1 = client.responses.create(
model="grok-4.5",
input="What's the weather like in Paris?",
tools=tools,
store_messages=True
)
# Tool result
r2 = client.responses.create(
model="grok-4.5",
input=[{
"type": "function_call_output",
"call_id": r1.output[0].call_id,
"output": {temp: 18}
}],
previous_response_id=r1.id,
store_messages=True
)
# Follow-up question (context is preserved)
r3 = client.responses.create(
model="grok-4.5",
input="What about tomorrow?",
previous_response_id=r2.id,
tools=tools,
store_messages=True
)
Privalumas: nereikia valdyti žinučių istorijos. xAI ją automatiškai saugo ir atkuria naudodama previous_response_id.
2. Šifruotas turinys kliento pusėje
response = client.responses.create(
model="grok-4.5",
input="Search for flight prices to Nice",
tools=tools,
use_encrypted_content=True
)
Nustačius use_encrypted_content=True, gauni samprotavimus ir įrankių rezultatus šifruota forma. Juos siunti atgal nepakeistus vėlesnėse užklausose, negalėdamas jų perskaityti. Tai naudinga, kai nenori, kad duomenys tavo serveryje būtų perduodami atviru tekstu.
Kelių etapų pokalbių šablonai
Šablonas: Paieška, tada veiksmas
Turn 1 : User → "Find a cheap Paris-Nice flight"
Model → tool_call: search_flights(from="CDG", to="NCE")
Client → result : [{flight1}, {flight2}, {flight3}]
Turn 2 : Model → "I found 3 flights. The cheapest is €89. Do you want to book it?"
User → "Yes, book the €89 flight"
Turn 3 : Model → tool_call: book_flight(flight_id="FL123", passengers=1)
Šablonas: Duomenų agregavimas
Turn 1 : Model → tool_call: get_sales(month="march")
Turn 2 : Model → tool_call: get_expenses(month="march")
Turn 3 : Model → tool_call: get_headcount(month="march")
Turn 4 : Model → "Here is the monthly report: sales +12%, expenses -3%, headcount stable."
Šablonas: Progresyvus tikslinimas
Turn 1 : Model → tool_call: search_products(query="running shoes")
Result → 150 products
Turn 2 : Model → "I found 150 products. What size and budget?"
User → "42, max €120"
Turn 3 : Model → tool_call: search_products(query="running shoes", size=42, max_price=120)
Result → 8 products
Atminties valdymas
Ilgų pokalbių metu istorija – apimanti kiekvieną tool_call ir kiekvieną įrankio rezultatą – greitai auga, o kartu didėja ir kiekvieno ėjimo kaina. Tau prieinamos trys strategijos, nuo rankinio valdymo iki visiško delegavimo. Periodinis apibendrinimas sutraukia senesnius ėjimus į pastraipą, įterpiamą į sistemos promptą: išlaikai ankstesnių mainų esmę už dalį jų tokenų svorio, tačiau prarandi tam tikrų detalių. Slankusis langas yra grubokesnis, bet paprastesnis: paliekama tik paskutinių N ėjimų informacija, pripažįstant, kad modelis pamirš pokalbio pradžią – tai tinka, kai senesni mainai nebeturi operacinės svarbos. Galiausiai, nuotolinė saugykla perduoda šią problemą xAI naudojant store_messages=True: istorija lieka serverio pusėje, o tavo programa saugo tik nuorodą. Tinkamas pasirinkimas priklauso nuo to, ką tavo programa turi prisiminti ir kaip ilgai.
Svarbiausi punktai
max_turnsriboja serverio pusės įrankių ėjimus – kliento įrankiai iš naujo nustato skaitiklį- Įgyvendink ciklą su
max_iterations, kad išvengtum begalinių kilpų previous_response_idsujungia pokalbius persiunčiant istorijąstore_messages=Trueperduoda konteksto saugojimą xAIuse_encrypted_content=Trueapsaugo duomenis perdavimo metu- Valdyk atmintį ilguose pokalbiuose (apibendrinimas, slankusis langas)