Keskustelut usealla vuorovaikutuskierroksella työkalujen kanssa
Tällä sivulla
Keskustelut usealla vuorovaikutuskierroksella funktiokutsujen kanssa
Todellisessa keskustelussa malli saattaa joutua kutsumaan työkaluja useita kertoja koko vuorovaikutuksen ajan. Jokainen vuorovaikutuskierros voi sisältää uusia kutsuja, tuloksia, jotka laukaisevat muita kutsuja, tai pyyntöjä tarkennuksille käyttäjältä ennen työkalun käyttöä.
max_turns-parametri
max_turns-parametri rajoittaa avustajan/työkalun vuorovaikutuskierrosten määrää palvelinpuolella yhden pyynnön aikana. Se koskee vain sisäänrakennettuja työkaluja (web_search, code_interpreter jne.).
response = client.responses.create(
model="grok-4.5",
input="Analyze 2026 tech trends",
tools=[{"type": "web_search"}],
max_turns=5 # Maximum 5 web searches before responding
)
Tärkeä huomio: asiakaspuolen työkalukutsut nollaa laskurin. Kun lähetät takaisin function_call_output-vastauksen, uusi max_turns-kiintiö alkaa alusta.
Asiakaspuolen silmukka usealle vuorovaikutuskierrokselle
Hallitaksesi keskusteluja, joissa malli kutsuu työkaluja useita kertoja, toteuta silmukka:
import json
def multi_turn_chat(user_message, tools, max_iterations=10):
messages = [{"role": "user", "content": user_message}]
for i in range(max_iterations):
response = client.chat.completions.create(
model="grok-4.5",
messages=messages,
tools=tools
)
message = response.choices[0].message
messages.append(message)
# If no tool_call, the conversation is over
if not message.tool_calls:
return message.content
# Execute all requested tools
for tool_call in message.tool_calls:
args = json.loads(tool_call.function.arguments)
result = execute_function(tool_call.function.name, args)
messages.append({
"role": "tool",
"tool_call_id": tool_call.id,
"content": json.dumps(result)
})
return "Maximum number of iterations reached"
Muuttuja max_iterations on välttämätön varotoimi äärettömien silmukoiden estämiseksi. Tuotantoympäristössä aseta kohtuullinen raja (5–10 kierrosta).
Usean vuorovaikutuskierroksen konteksti Responses API:n kanssa
Responses API tarjoaa kaksi mekanismia kontekstin ylläpitämiseen:
1. Etätallennus
# First message
r1 = client.responses.create(
model="grok-4.5",
input="What's the weather like in Paris?",
tools=tools,
store_messages=True
)
# Tool result
r2 = client.responses.create(
model="grok-4.5",
input=[{
"type": "function_call_output",
"call_id": r1.output[0].call_id,
"output": {temp: 18}
}],
previous_response_id=r1.id,
store_messages=True
)
# Follow-up question (context is preserved)
r3 = client.responses.create(
model="grok-4.5",
input="What about tomorrow?",
previous_response_id=r2.id,
tools=tools,
store_messages=True
)
Etuna on, että sinun ei tarvitse hallita viestihistoriaa. xAI tallentaa ja hakee sen automaattisesti previous_response_id:n avulla.
2. Salattu sisältö asiakaspuolella
response = client.responses.create(
model="grok-4.5",
input="Search for flight prices to Nice",
tools=tools,
use_encrypted_content=True
)
Kun use_encrypted_content=True, saat päättelyketjun ja työkalujen tulokset salatussa muodossa. Lähetät ne sellaisinaan takaisin myöhemmissä pyynnöissä ilman mahdollisuutta lukea niitä. Tämä on hyödyllistä, kun et halua datan kulkevan selväkielisenä palvelimesi kautta.
Usean vuorovaikutuskierroksen keskustelumallit
Malli: Haku sitten toiminto
Turn 1 : User → "Find a cheap Paris-Nice flight"
Model → tool_call: search_flights(from="CDG", to="NCE")
Client → result : [{flight1}, {flight2}, {flight3}]
Turn 2 : Model → "I found 3 flights. The cheapest is €89. Do you want to book it?"
User → "Yes, book the €89 flight"
Turn 3 : Model → tool_call: book_flight(flight_id="FL123", passengers=1)
Malli: Datan aggregointi
Turn 1 : Model → tool_call: get_sales(month="march")
Turn 2 : Model → tool_call: get_expenses(month="march")
Turn 3 : Model → tool_call: get_headcount(month="march")
Turn 4 : Model → "Here is the monthly report: sales +12%, expenses -3%, headcount stable."
Malli: Progressiivinen tarkennus
Turn 1 : Model → tool_call: search_products(query="running shoes")
Result → 150 products
Turn 2 : Model → "I found 150 products. What size and budget?"
User → "42, max €120"
Turn 3 : Model → tool_call: search_products(query="running shoes", size=42, max_price=120)
Result → 8 products
Muistin hallinta
Pitkissä keskusteluissa historia – joka sisältää jokaisen tool_call-kutsun ja jokaisen työkalun tuloksen – kasvaa nopeasti, ja sen myötä kasvaa myös jokaisen vuorovaikutuskierroksen kustannus. Käytössäsi on kolme strategiaa, jotka vaihtelevat manuaalisesta täysin ulkoistettuun. Jaksotettu tiivistäminen pakkaa vanhemmat vuorovaikutuskierrokset kappaleeksi, joka syötetään järjestelmäkehotteeseen: säilytät aiempien vaihtojen ydinasisällön murto-osalla niiden token-painosta, mutta menetät hieman yksityiskohtia. Liukuva ikkuna on karkeampi mutta yksinkertaisempi: pidä vain viimeiset N kierrosta, hyväksyen että malli unohtaa keskustelun alun – tämä sopii tilanteisiin, joissa vanhemmilla vaihdoilla ei ole enää operatiivista merkitystä. Etätallennus puolestaan siirtää ongelman xAI:lle parametrilla store_messages=True: historia elää palvelinpuolella, ja sovelluksesi kantaa vain viitteen. Oikea valinta riippuu siitä, mitä sovelluksesi tarvitsee muistaa ja kuinka kauan.
Keskeiset asiat
max_turnsrajoittaa palvelinpuolen työkalukierroksia – asiakaspuolen työkalut nollaa laskurin- Toteuta silmukka
max_iterations-parametrilla äärettömien silmukoiden estämiseksi previous_response_idketjuttaa keskusteluja lähettämättä historiaa uudelleenstore_messages=Truesiirtää kontekstin tallennuksen xAI:lleuse_encrypted_content=Truesuojaa dataa siirron aikana- Hallitse muistia pitkissä keskusteluissa (tiivistäminen, liukuva ikkuna)