Konverzace na více kol s nástroji
Na této stránce
Konverzace na více kol s voláním funkcí
Ve skutečné konverzaci může model potřebovat volat nástroje vícekrát v průběhu celé výměny informací. Každé kolo může zahrnovat nová volání, výsledky, které spustí další volání, nebo žádosti o upřesnění od uživatele před použitím nástroje.
Parametr max_turns
Parametr max_turns omezuje počet kol asistent/nástroj na straně serveru v rámci jednoho požadavku. Platí pouze pro vestavěné nástroje (web_search, code_interpreter atd.).
response = client.responses.create(
model="grok-4.5",
input="Analyze 2026 tech trends",
tools=[{"type": "web_search"}],
max_turns=5 # Maximum 5 web searches before responding
)
Důležitý bod: volání nástrojů na straně klienta resetují čítač. Když odešleš zpět function_call_output, začne se nové přidělení max_turns.
Smyčka pro více kol na straně klienta
Pro správu konverzací, kde model volá nástroje vícekrát, implementuj smyčku:
import json
def multi_turn_chat(user_message, tools, max_iterations=10):
messages = [{"role": "user", "content": user_message}]
for i in range(max_iterations):
response = client.chat.completions.create(
model="grok-4.5",
messages=messages,
tools=tools
)
message = response.choices[0].message
messages.append(message)
# Pokud není tool_call, konverzace končí
if not message.tool_calls:
return message.content
# Proveď všechny požadované nástroje
for tool_call in message.tool_calls:
args = json.loads(tool_call.function.arguments)
result = execute_function(tool_call.function.name, args)
messages.append({
"role": "tool",
"tool_call_id": tool_call.id,
"content": json.dumps(result)
})
return "Maximum number of iterations reached"
Proměnná max_iterations je zásadní pojistkou proti nekonečným smyčkám. V produkčním prostředí nastav rozumný limit (5–10 kol).
Kontext pro více kol s Responses API
Responses API nabízí dva mechanismy pro udržení kontextu:
1. Vzdálené úložiště
# První zpráva
r1 = client.responses.create(
model="grok-4.5",
input="What's the weather like in Paris?",
tools=tools,
store_messages=True
)
# Výsledek nástroje
r2 = client.responses.create(
model="grok-4.5",
input=[{
"type": "function_call_output",
"call_id": r1.output[0].call_id,
"output": {temp: 18}
}],
previous_response_id=r1.id,
store_messages=True
)
# Následná otázka (kontext je zachován)
r3 = client.responses.create(
model="grok-4.5",
input="What about tomorrow?",
previous_response_id=r2.id,
tools=tools,
store_messages=True
)
Výhoda: nemusíš spravovat historii zpráv. xAI ji automaticky ukládá a načítá prostřednictvím previous_response_id.
2. Šifrovaný obsah na straně klienta
response = client.responses.create(
model="grok-4.5",
input="Search for flight prices to Nice",
tools=tools,
use_encrypted_content=True
)
S nastavením use_encrypted_content=True obdržíš odůvodnění a výstupy nástrojů v zašifrované podobě. Do následujících požadavků je odešleš tak, jak jsou, aniž bys je mohl číst. To je užitečné, když nechceš, aby data procházela tvým serverem v čisté podobě.
Vzory konverzací na více kol
Vzorec: Vyhledání a poté akce
Kolo 1 : Uživatel → „Najdi levný let Paříž–Nice“
Model → tool_call: search_flights(from="CDG", to="NCE")
Klient → výsledek : [{flight1}, {flight2}, {flight3}]
Kolo 2 : Model → „Našel jsem 3 lety. Nejlevnější stojí 89 €. Chceš ho rezervovat?“
Uživatel → „Ano, rezervuj let za 89 €“
Kolo 3 : Model → tool_call: book_flight(flight_id="FL123", passengers=1)
Vzorec: Agregace dat
Kolo 1 : Model → tool_call: get_sales(month="march")
Kolo 2 : Model → tool_call: get_expenses(month="march")
Kolo 3 : Model → tool_call: get_headcount(month="march")
Kolo 4 : Model → „Zde je měsíční zpráva: tržby +12 %, výdaje -3 %, počet zaměstnanců stabilní.“
Vzorec: Postupné zpřesňování
Kolo 1 : Model → tool_call: search_products(query="running shoes")
Výsledek → 150 produktů
Kolo 2 : Model → „Našel jsem 150 produktů. Jakou velikost a rozpočet potřebuješ?“
Uživatel → „42, max 120 €“
Kolo 3 : Model → tool_call: search_products(query="running shoes", size=42, max_price=120)
Výsledek → 8 produktů
Správa paměti
V dlouhých konverzacích historie – která zahrnuje každé tool_call i každý výsledek nástroje – rychle roste a s ní i náklady na každé kolo. Máš k dispozici tři strategie, od manuální po plně delegovanou. Pravidelné shrnutí kondenzuje starší kola do odstavce vloženého do systémové výzvy: zachováš podstatu minulých výměn za zlomek jejich tokenové váhy, za cenu určité ztráty detailů. Posuvné okno je hrubší, ale jednodušší: ponecháš pouze posledních N kol a přijmeš, že model zapomene začátek konverzace – vhodné, když starší výměny již nemají provozní význam. Vzdálené úložiště konečně deleguje problém na xAI pomocí store_messages=True: historie žije na straně serveru a tvá aplikace nese pouze odkaz. Správná volba závisí na tom, co si musí tvá aplikace pamatovat a jak dlouho.
Klíčové poznatky
max_turnsomezuje kola nástrojů na straně serveru – nástroje klienta čítač resetují- Implementuj smyčku s
max_iterations, abys předešel nekonečným smyčkám previous_response_idřetězí konverzace bez opětovného odesílání historiestore_messages=Truedeleguje ukládání kontextu na xAIuse_encrypted_content=Truechrání data při přenosu- Spravuj paměť v dlouhých konverzacích (shrnutí, posuvné okno)