Премини към основното съдържание
Български— Изберете език
Меню

Многократни разговори с инструменти

Урок 11 от 14 Обновен 29 юли 2026 г. Програмист
На тази страница
  1. Многократни разговори с извикване на функции
  2. Параметърът max_turns
  3. Цикъл за многократни разговори от страна на клиента
  4. Многократен контекст с Responses API
  5. Шаблони за многократни разговори
  6. Управление на паметта
  7. Ключови изводи

Многократни разговори с извикване на функции

В реален разговор моделът може да се наложи да извиква инструменти многократно по време на обмена. Всеки ход може да включва нови извиквания, резултати, които задействат други извиквания, или искания за изясняване от потребителя преди използването на инструмент.

Параметърът max_turns

Параметърът max_turns ограничава броя на ходове асистент/инструмент на страната на сървъра в една заявка. Той се прилага само за вградени инструменти (web_search, code_interpreter и др.).

response = client.responses.create(
    model="grok-4.5",
    input="Analyze 2026 tech trends",
    tools=[{"type": "web_search"}],
    max_turns=5  # Maximum 5 web searches before responding
)

Важно уточнение: извикванията на инструменти от страна на клиента нулират брояча. Когато изпратите обратно function_call_output, започва ново разпределение на max_turns.

Цикъл за многократни разговори от страна на клиента

За управление на разговори, при които моделът извиква инструменти многократно, внедрете цикъл:

import json

def multi_turn_chat(user_message, tools, max_iterations=10):
    messages = [{"role": "user", "content": user_message}]

    for i in range(max_iterations):
        response = client.chat.completions.create(
            model="grok-4.5",
            messages=messages,
            tools=tools
        )

        message = response.choices[0].message
        messages.append(message)

        # If no tool_call, the conversation is over
        if not message.tool_calls:
            return message.content

        # Execute all requested tools
        for tool_call in message.tool_calls:
            args = json.loads(tool_call.function.arguments)
            result = execute_function(tool_call.function.name, args)
            messages.append({
                "role": "tool",
                "tool_call_id": tool_call.id,
                "content": json.dumps(result)
            })

    return "Maximum number of iterations reached"

Променливата max_iterations е съществена предпазна мярка за предотвратяване на безкрайни цикли. В производствена среда задайте разумен лимит (5–10 хода).

Многократен контекст с Responses API

Responses API предлага два механизма за поддържане на контекста:

1. Отдалечено съхранение

# First message
r1 = client.responses.create(
    model="grok-4.5",
    input="What's the weather like in Paris?",
    tools=tools,
    store_messages=True
)

# Tool result
r2 = client.responses.create(
    model="grok-4.5",
    input=[{
        "type": "function_call_output",
        "call_id": r1.output[0].call_id,
        "output": {temp: 18}
    }],
    previous_response_id=r1.id,
    store_messages=True
)

# Follow-up question (context is preserved)
r3 = client.responses.create(
    model="grok-4.5",
    input="What about tomorrow?",
    previous_response_id=r2.id,
    tools=tools,
    store_messages=True
)

Предимството: не е необходимо да управлявате историята на съобщенията. xAI я съхранява и извлича автоматично чрез previous_response_id.

2. Криптирано съдържание от страна на клиента

response = client.responses.create(
    model="grok-4.5",
    input="Search for flight prices to Nice",
    tools=tools,
    use_encrypted_content=True
)

С use_encrypted_content=True получавате разсъжденията и изходните данни от инструментите в криптирана форма. Изпращате ги обратно в следващи заявки точно както са, без да можете да ги прочетете. Това е полезно, когато не искате данните да преминават в явен текст през вашия сървър.

Шаблони за многократни разговори

Шаблон: Търсене, последвано от действие

Turn 1 : User → "Find a cheap Paris-Nice flight"
         Model → tool_call: search_flights(from="CDG", to="NCE")
         Client → result : [{flight1}, {flight2}, {flight3}]
Turn 2 : Model → "I found 3 flights. The cheapest is €89. Do you want to book it?"
         User → "Yes, book the €89 flight"
Turn 3 : Model → tool_call: book_flight(flight_id="FL123", passengers=1)

Шаблон: Агрегиране на данни

Turn 1 : Model → tool_call: get_sales(month="march")
Turn 2 : Model → tool_call: get_expenses(month="march")
Turn 3 : Model → tool_call: get_headcount(month="march")
Turn 4 : Model → "Here is the monthly report: sales +12%, expenses -3%, headcount stable."

Шаблон: Прогресивно прецизиране

Turn 1 : Model → tool_call: search_products(query="running shoes")
         Result → 150 products
Turn 2 : Model → "I found 150 products. What size and budget?"
         User → "42, max €120"
Turn 3 : Model → tool_call: search_products(query="running shoes", size=42, max_price=120)
         Result → 8 products

Управление на паметта

При дълги разговори историята – която включва всяко tool_call и всеки резултат от инструмент – нараства бързо, а с нея и цената на всеки ход. Имате на разположение три стратегии, вариращи от ръчно управление до пълно делегиране. Периодичното обобщаване кондензира по-старите ходове в параграф, инжектиран в системния промпт: запазвате същността на миналите размени за част от тяхното тегло в токени, на цената на известна загуба на детайли. Плъзгащият се прозорец е по-груб, но по-прост метод: запазвате само последните N хода, приемайки, че моделът ще „забрави“ началото на разговора – подходящо, когато по-старите размени нямат оперативна важност. Отдалеченото съхранение най-накрая делегира проблема на xAI чрез store_messages=True: историята живее на страната на сървъра, а вашето приложение носи само референция. Правилният избор зависи от това какво трябва да помни вашето приложение и за колко дълго.

Ключови изводи

  • max_turns ограничава ходовете на инструменти на страната на сървъра – инструментите на клиента нулират брояча
  • Внедрете цикъл с max_iterations, за да предотвратите безкрайни цикли
  • previous_response_id свързва разговорите, без да се изпраща отново историята
  • store_messages=True делегира съхранението на контекста на xAI
  • use_encrypted_content=True защитава данните при предаване
  • Управлявайте паметта при дълги разговори (обобщаване, плъзгащ се прозорец)