Többmenetes beszélgetések eszközökkel
Ezen az oldalon
Többmenetes beszélgetések függvényhívásokkal
Egy valós beszélgetés során a modellnek az eszmecsere folyamán többször is szüksége lehet eszközök hívására. Minden egyes körben történhetnek új hívások, olyan eredmények, amelyek további hívásokat indítanak el, vagy a modell tisztázó kérdéseket tehet fel a felhasználónak, mielőtt használná az eszközt.
A max_turns paraméter
A max_turns paraméter korlátozza az asszisztens/eszköz körök számát szerveroldalon egyetlen kérésen belül. Ez kizárólag a beépített eszközökre vonatkozik (web_search, code_interpreter stb.).
response = client.responses.create(
model="grok-4.5",
input="Analyze 2026 tech trends",
tools=[{"type": "web_search"}],
max_turns=5 # Maximum 5 web searches before responding
)
Fontos tudnivaló: a kliensoldali eszközlehívások visszaállítják a számlálót. Amikor visszaküldesz egy function_call_output üzenetet, egy új max_turns keret kezdődik.
Kliensoldali többmenetes ciklus
Annak kezelésére, amikor a modell többször hív meg eszközöket egy beszélgetés során, implementálnod kell egy ciklust:
import json
def multi_turn_chat(user_message, tools, max_iterations=10):
messages = [{"role": "user", "content": user_message}]
for i in range(max_iterations):
response = client.chat.completions.create(
model="grok-4.5",
messages=messages,
tools=tools
)
message = response.choices[0].message
messages.append(message)
# Ha nincs tool_call, a beszélgetés véget ért
if not message.tool_calls:
return message.content
# Végezd el az összes kért eszközt
for tool_call in message.tool_calls:
args = json.loads(tool_call.function.arguments)
result = execute_function(tool_call.function.name, args)
messages.append({
"role": "tool",
"tool_call_id": tool_call.id,
"content": json.dumps(result)
})
return "Maximum number of iterations reached"
A max_iterations változó elengedhetetlen biztonsági intézkedés a végtelen ciklusok megelőzésére. Éles környezetben állíts be ésszerű korlátot (5–10 kör).
Többmenetes kontextus a Responses API-val
A Responses API két mechanizmust kínál a kontextus megőrzésére:
1. Távoli tárolás
# Első üzenet
r1 = client.responses.create(
model="grok-4.5",
input="What's the weather like in Paris?",
tools=tools,
store_messages=True
)
# Eszköz eredménye
r2 = client.responses.create(
model="grok-4.5",
input=[{
"type": "function_call_output",
"call_id": r1.output[0].call_id,
"output": {temp: 18}
}],
previous_response_id=r1.id,
store_messages=True
)
# Utólagos kérdés (a kontextus megmarad)
r3 = client.responses.create(
model="grok-4.5",
input="What about tomorrow?",
previous_response_id=r2.id,
tools=tools,
store_messages=True
)
Előnye: nem kell kezelned az üzenetelőzményeket. Az xAI automatikusan tárolja és lekéri azokat a previous_response_id segítségével.
2. Kliensoldali titkosított tartalom
response = client.responses.create(
model="grok-4.5",
input="Search for flight prices to Nice",
tools=tools,
use_encrypted_content=True
)
A use_encrypted_content=True beállítással a következtetéseket és az eszközök kimeneteit titkosított formában kapod meg. Ezeket változatlan formában küldöd vissza a későbbi kérésekben, anélkül, hogy olvasni tudnád őket. Ez akkor hasznos, ha nem szeretnéd, hogy az adatok nyílt szövegként haladjanak át a szervereden.
Többmenetes beszélgetési minták
Minta: Keresés, majd művelet
1. kör : Felhasználó → "Keress egy olcsó Párizs-Nizza repjegyet"
Modell → tool_call: search_flights(from="CDG", to="NCE")
Kliens → eredmény : [{flight1}, {flight2}, {flight3}]
2. kör : Modell → "Találtam 3 járatot. A legolcsóbb 89 €. Szeretnéd lefoglalni?"
Felhasználó → "Igen, foglald le a 89 €-os járatot"
3. kör : Modell → tool_call: book_flight(flight_id="FL123", passengers=1)
Minta: Adataggregáció
1. kör : Modell → tool_call: get_sales(month="march")
2. kör : Modell → tool_call: get_expenses(month="march")
3. kör : Modell → tool_call: get_headcount(month="march")
4. kör : Modell → "Íme a havi jelentés: árbevétel +12%, kiadások -3%, létszám stabil."
Minta: Progresszív finomítás
1. kör : Modell → tool_call: search_products(query="running shoes")
Eredmény → 150 termék
2. kör : Modell → "Találtam 150 terméket. Milyen méretre és költségkeretre van szükséged?"
Felhasználó → "42-es, max 120 €"
3. kör : Modell → tool_call: search_products(query="running shoes", size=42, max_price=120)
Eredmény → 8 termék
Memóriakezelés
Hosszú beszélgetések során az előzmények – amelyek minden tool_call-t és minden eszközválaszt tartalmaznak – gyorsan növekednek, és ezzel együtt nő az egyes körök költsége is. Három stratégia áll rendelkezésedre, a kézi kezeléstől a teljesen delegált megoldásig.
A periodikus összefoglalás során a régebbi köröket egy bekezdésbe sűríted, amelyet beillesztesz a rendszerüzenetbe (system prompt): így az elmúlt eszmecserék lényegét töredék tokenköltséggel őrzöd meg, bár néhány részlet elveszik. A csúszó ablak (sliding window) durvább, de egyszerűbb megoldás: csak az utolsó N kört tartod meg, elfogadva, hogy a modell elfelejti a beszélgetés elejét – ez akkor megfelelő, ha a régebbi váltásoknak már nincs operatív jelentőségük.
Végül a távoli tárolás (store_messages=True) az xAI-ra bízza a problémát: az előzmények szerveroldalon élnek, és az alkalmazásod csak egy hivatkozást kezel. A helyes választás attól függ, mire és meddig kell emlékeznie az alkalmazásodnak.
Főbb megállapítások
- A
max_turnskorlátozza a szerveroldali eszközköröket – a kliensoldali eszközök visszaállítják a számlálót - Implementálj egy ciklust
max_iterationsparaméterrel a végtelen ciklusok megelőzésére - A
previous_response_idláncolja a beszélgetéseket az előzmények újraküldése nélkül - A
store_messages=Trueaz xAI-ra delegálja a kontextus tárolását - A
use_encrypted_content=Truevédi az adatokat átvitel közben - Kezeld a memóriát hosszú beszélgetések esetén (összefoglalás, csúszó ablak)