Многократни разговори с инструменти
На тази страница
Многократни разговори с извикване на функции
В реален разговор моделът може да се наложи да извиква инструменти многократно по време на обмена. Всеки ход може да включва нови извиквания, резултати, които задействат други извиквания, или искания за изясняване от потребителя преди използването на инструмент.
Параметърът max_turns
Параметърът max_turns ограничава броя на ходове асистент/инструмент на страната на сървъра в една заявка. Той се прилага само за вградени инструменти (web_search, code_interpreter и др.).
response = client.responses.create(
model="grok-4.5",
input="Analyze 2026 tech trends",
tools=[{"type": "web_search"}],
max_turns=5 # Maximum 5 web searches before responding
)
Важно уточнение: извикванията на инструменти от страна на клиента нулират брояча. Когато изпратите обратно function_call_output, започва ново разпределение на max_turns.
Цикъл за многократни разговори от страна на клиента
За управление на разговори, при които моделът извиква инструменти многократно, внедрете цикъл:
import json
def multi_turn_chat(user_message, tools, max_iterations=10):
messages = [{"role": "user", "content": user_message}]
for i in range(max_iterations):
response = client.chat.completions.create(
model="grok-4.5",
messages=messages,
tools=tools
)
message = response.choices[0].message
messages.append(message)
# If no tool_call, the conversation is over
if not message.tool_calls:
return message.content
# Execute all requested tools
for tool_call in message.tool_calls:
args = json.loads(tool_call.function.arguments)
result = execute_function(tool_call.function.name, args)
messages.append({
"role": "tool",
"tool_call_id": tool_call.id,
"content": json.dumps(result)
})
return "Maximum number of iterations reached"
Променливата max_iterations е съществена предпазна мярка за предотвратяване на безкрайни цикли. В производствена среда задайте разумен лимит (5–10 хода).
Многократен контекст с Responses API
Responses API предлага два механизма за поддържане на контекста:
1. Отдалечено съхранение
# First message
r1 = client.responses.create(
model="grok-4.5",
input="What's the weather like in Paris?",
tools=tools,
store_messages=True
)
# Tool result
r2 = client.responses.create(
model="grok-4.5",
input=[{
"type": "function_call_output",
"call_id": r1.output[0].call_id,
"output": {temp: 18}
}],
previous_response_id=r1.id,
store_messages=True
)
# Follow-up question (context is preserved)
r3 = client.responses.create(
model="grok-4.5",
input="What about tomorrow?",
previous_response_id=r2.id,
tools=tools,
store_messages=True
)
Предимството: не е необходимо да управлявате историята на съобщенията. xAI я съхранява и извлича автоматично чрез previous_response_id.
2. Криптирано съдържание от страна на клиента
response = client.responses.create(
model="grok-4.5",
input="Search for flight prices to Nice",
tools=tools,
use_encrypted_content=True
)
С use_encrypted_content=True получавате разсъжденията и изходните данни от инструментите в криптирана форма. Изпращате ги обратно в следващи заявки точно както са, без да можете да ги прочетете. Това е полезно, когато не искате данните да преминават в явен текст през вашия сървър.
Шаблони за многократни разговори
Шаблон: Търсене, последвано от действие
Turn 1 : User → "Find a cheap Paris-Nice flight"
Model → tool_call: search_flights(from="CDG", to="NCE")
Client → result : [{flight1}, {flight2}, {flight3}]
Turn 2 : Model → "I found 3 flights. The cheapest is €89. Do you want to book it?"
User → "Yes, book the €89 flight"
Turn 3 : Model → tool_call: book_flight(flight_id="FL123", passengers=1)
Шаблон: Агрегиране на данни
Turn 1 : Model → tool_call: get_sales(month="march")
Turn 2 : Model → tool_call: get_expenses(month="march")
Turn 3 : Model → tool_call: get_headcount(month="march")
Turn 4 : Model → "Here is the monthly report: sales +12%, expenses -3%, headcount stable."
Шаблон: Прогресивно прецизиране
Turn 1 : Model → tool_call: search_products(query="running shoes")
Result → 150 products
Turn 2 : Model → "I found 150 products. What size and budget?"
User → "42, max €120"
Turn 3 : Model → tool_call: search_products(query="running shoes", size=42, max_price=120)
Result → 8 products
Управление на паметта
При дълги разговори историята – която включва всяко tool_call и всеки резултат от инструмент – нараства бързо, а с нея и цената на всеки ход. Имате на разположение три стратегии, вариращи от ръчно управление до пълно делегиране. Периодичното обобщаване кондензира по-старите ходове в параграф, инжектиран в системния промпт: запазвате същността на миналите размени за част от тяхното тегло в токени, на цената на известна загуба на детайли. Плъзгащият се прозорец е по-груб, но по-прост метод: запазвате само последните N хода, приемайки, че моделът ще „забрави“ началото на разговора – подходящо, когато по-старите размени нямат оперативна важност. Отдалеченото съхранение най-накрая делегира проблема на xAI чрез store_messages=True: историята живее на страната на сървъра, а вашето приложение носи само референция. Правилният избор зависи от това какво трябва да помни вашето приложение и за колко дълго.
Ключови изводи
max_turnsограничава ходовете на инструменти на страната на сървъра – инструментите на клиента нулират брояча- Внедрете цикъл с
max_iterations, за да предотвратите безкрайни цикли previous_response_idсвързва разговорите, без да се изпраща отново историятаstore_messages=Trueделегира съхранението на контекста на xAIuse_encrypted_content=Trueзащитава данните при предаване- Управлявайте паметта при дълги разговори (обобщаване, плъзгащ се прозорец)