Viackrokové konverzácie s nástrojmi
Na tejto strane
Viackrokové konverzácie s volaním funkcií
V skutočnej konverzácii môže model potrebovať volať nástroje viackrát počas celej výmeny informácií. Každý krok môže zahŕňať nové volania, výsledky, ktoré spustia ďalšie volania, alebo žiadosti o upresnenie od používateľa pred použitím nástroja.
Parameter max_turns
Parameter max_turns obmedzuje počet krokov asistenta/nástroja na strane servera v rámci jednej požiadavky. Vzťahuje sa iba na vstavané nástroje (web_search, code_interpreter atď.).
response = client.responses.create(
model="grok-4.5",
input="Analyze 2026 tech trends",
tools=[{"type": "web_search"}],
max_turns=5 # Maximum 5 web searches before responding
)
Dôležitá poznámka: volania nástrojov na strane klienta resetujú počítadlo. Keď odošleš späť function_call_output, začína sa nové pridelenie max_turns.
Cyklus viackrokovej konverzácie na strane klienta
Na správu konverzácií, kde model viackrát volá nástroje, implementuj cyklus:
import json
def multi_turn_chat(user_message, tools, max_iterations=10):
messages = [{"role": "user", "content": user_message}]
for i in range(max_iterations):
response = client.chat.completions.create(
model="grok-4.5",
messages=messages,
tools=tools
)
message = response.choices[0].message
messages.append(message)
# If no tool_call, the conversation is over
if not message.tool_calls:
return message.content
# Execute all requested tools
for tool_call in message.tool_calls:
args = json.loads(tool_call.function.arguments)
result = execute_function(tool_call.function.name, args)
messages.append({
"role": "tool",
"tool_call_id": tool_call.id,
"content": json.dumps(result)
})
return "Maximum number of iterations reached"
Premenná max_iterations je zásadnou poistkou proti nekonečným cyklom. V produkčnom prostredí nastav rozumný limit (5–10 krokov).
Viackrokový kontext s Responses API
Responses API ponúka dva mechanizmy na udržanie kontextu:
1. Vzdialené úložisko
# First message
r1 = client.responses.create(
model="grok-4.5",
input="What's the weather like in Paris?",
tools=tools,
store_messages=True
)
# Tool result
r2 = client.responses.create(
model="grok-4.5",
input=[{
"type": "function_call_output",
"call_id": r1.output[0].call_id,
"output": {temp: 18}
}],
previous_response_id=r1.id,
store_messages=True
)
# Follow-up question (context is preserved)
r3 = client.responses.create(
model="grok-4.5",
input="What about tomorrow?",
previous_response_id=r2.id,
tools=tools,
store_messages=True
)
Výhoda: nemusíš spravovať históriu správ. xAI ju automaticky uloží a načíta prostredníctvom previous_response_id.
2. Šifrovaný obsah na strane klienta
response = client.responses.create(
model="grok-4.5",
input="Search for flight prices to Nice",
tools=tools,
use_encrypted_content=True
)
Pri nastavení use_encrypted_content=True dostaneš zdôvodnenie a výstupy nástrojov v šifrovanej forme. Do následných požiadaviek ich odosielaš presne tak, ako sú, bez možnosti ich prečítania. Toto je užitočné, keď nechceš, aby dáta prechádzali cez tvoj server v čitateľnej podobe.
Vzory viackrokových konverzácií
Vzorec: Vyhľadávanie a následná akcia
Turn 1 : User → "Find a cheap Paris-Nice flight"
Model → tool_call: search_flights(from="CDG", to="NCE")
Client → result : [{flight1}, {flight2}, {flight3}]
Turn 2 : Model → "I found 3 flights. The cheapest is €89. Do you want to book it?"
User → "Yes, book the €89 flight"
Turn 3 : Model → tool_call: book_flight(flight_id="FL123", passengers=1)
Vzorec: Agregácia dát
Turn 1 : Model → tool_call: get_sales(month="march")
Turn 2 : Model → tool_call: get_expenses(month="march")
Turn 3 : Model → tool_call: get_headcount(month="march")
Turn 4 : Model → "Here is the monthly report: sales +12%, expenses -3%, headcount stable."
Vzorec: Postupné spresňovanie
Turn 1 : Model → tool_call: search_products(query="running shoes")
Result → 150 products
Turn 2 : Model → "I found 150 products. What size and budget?"
User → "42, max €120"
Turn 3 : Model → tool_call: search_products(query="running shoes", size=42, max_price=120)
Result → 8 products
Správa pamäte
Pri dlhých konverzáciách história – ktorá zahŕňa každé tool_call a každý výsledok nástroja – rýchlo narastá a s ňou aj náklady na každý krok. Máš k dispozícii tri stratégie, od manuálnej až po plne delegovanú. Pravidelné zhrnutie kondenzuje staršie kroky do odseku vloženého do systémového promptu: zachováš podstatu predošlých výmen za zlomok ich tokenovej váhy, pričom stratíš časť detailov. Posuvné okno je hrubšie, no jednoduchšie: ponecháš iba posledných N krokov a akceptuješ, že model zabudne začiatok konverzácie – vhodné, keď staršie výmeny už nemajú operačný význam. Vzdialené úložisko nakoniec deleguje problém na xAI pomocou store_messages=True: história žije na strane servera a tvoja aplikácia nesie iba odkaz. Správna voľba závisí od toho, čo si tvoja aplikácia potrebuje pamätať a na ako dlho.
Kľúčové poznatky
max_turnsobmedzuje kroky nástrojov na strane servera – nástroje na strane klienta resetujú počítadlo- Implementuj cyklus s
max_iterationsna prevenciu nekonečných slučiek previous_response_idreťazí konverzácie bez opätovného odoslania históriestore_messages=Truedeleguje ukladanie kontextu na xAIuse_encrypted_content=Truechráni dáta počas prenosu- Spravuj pamäť pri dlhých konverzáciách (zhrnutie, posuvné okno)