Pāriet uz galveno saturu
Latviešu— Izvēlēties valodu
Izvēlne

Sarunas vairākos soļos ar rīkiem

Nodarbība 11 no 14 Atjaunota 2026. gada 29. jūlijs Programmētājs
Šajā lapā
  1. Sarunas vairākos soļos, izmantojot funkciju izsaukumus
  2. Parametrs max_turns
  3. Daudzsoļu cikls klienta pusē
  4. Daudzsoļu konteksts, izmantojot Responses API
  5. Daudzsoļu sarunu modeļi
  6. Atmiņas pārvaldība
  7. Galvenās atziņas

Sarunas vairākos soļos, izmantojot funkciju izsaukumus

Reālā sarunā modelim var būt nepieciešams izsaukt rīkus vairākas reizes visas mijiedarbības laikā. Katrs solis var ietvert jaunus izsaukumus, rezultātus, kas izraisa citus izsaukumus, vai lietotāja precizējumu pieprasījumus pirms rīka izmantošanas.

Parametrs max_turns

Parametrs max_turns ierobežo asistenta/rīka soļu skaitu servera pusē viena pieprasījuma ietvaros. Tas attiecas tikai uz iebūvētajiem rīkiem (web_search, code_interpreter u.c.).

response = client.responses.create(
    model="grok-4.5",
    input="Analyze 2026 tech trends",
    tools=[{"type": "web_search"}],
    max_turns=5  # Maximum 5 web searches before responding
)

Svarīgs punkts: rīku izsaukumi klienta pusē atiestata skaitītāju. Kad tu nosūti atpakaļ function_call_output, sākas jauna max_turns kvota.

Daudzsoļu cikls klienta pusē

Lai pārvaldītu sarunas, kurās modelis vairākas reizes izsauc rīkus, īsteno ciklu:

import json

def multi_turn_chat(user_message, tools, max_iterations=10):
    messages = [{"role": "user", "content": user_message}]

    for i in range(max_iterations):
        response = client.chat.completions.create(
            model="grok-4.5",
            messages=messages,
            tools=tools
        )

        message = response.choices[0].message
        messages.append(message)

        # If no tool_call, the conversation is over
        if not message.tool_calls:
            return message.content

        # Execute all requested tools
        for tool_call in message.tool_calls:
            args = json.loads(tool_call.function.arguments)
            result = execute_function(tool_call.function.name, args)
            messages.append({
                "role": "tool",
                "tool_call_id": tool_call.id,
                "content": json.dumps(result)
            })

    return "Maximum number of iterations reached"

Mainīgais max_iterations ir būtisks drošības pasākums, lai novērstu bezgalīgus ciklus. Produkcijas vidē iestati saprātīgu robežu (5–10 soļi).

Daudzsoļu konteksts, izmantojot Responses API

Responses API piedāvā divus mehānismus konteksta uzturēšanai:

1. Attālināta glabāšana

# First message
r1 = client.responses.create(
    model="grok-4.5",
    input="What's the weather like in Paris?",
    tools=tools,
    store_messages=True
)

# Tool result
r2 = client.responses.create(
    model="grok-4.5",
    input=[{
        "type": "function_call_output",
        "call_id": r1.output[0].call_id,
        "output": {temp: 18}
    }],
    previous_response_id=r1.id,
    store_messages=True
)

# Follow-up question (context is preserved)
r3 = client.responses.create(
    model="grok-4.5",
    input="What about tomorrow?",
    previous_response_id=r2.id,
    tools=tools,
    store_messages=True
)

Priekšrocība: tev nav jāpārvalda ziņojumu vēsture. xAI to automātiski glabā un izgūst, izmantojot previous_response_id.

2. Šifrēts saturs klienta pusē

response = client.responses.create(
    model="grok-4.5",
    input="Search for flight prices to Nice",
    tools=tools,
    use_encrypted_content=True
)

Iestatot use_encrypted_content=True, tu saņem spriešanu un rīku rezultātus šifrētā veidā. Tu nosūti tos atpakaļ nemainītus nākamajos pieprasījumos, nespējot tos nolasīt. Tas ir noderīgi, ja nevēlies, lai dati caur tavu serveri pārietu atklātā tekstā.

Daudzsoļu sarunu modeļi

Modelis: Meklēšana, tad darbība

Turn 1 : User → "Find a cheap Paris-Nice flight"
         Model → tool_call: search_flights(from="CDG", to="NCE")
         Client → result : [{flight1}, {flight2}, {flight3}]
Turn 2 : Model → "I found 3 flights. The cheapest is €89. Do you want to book it?"
         User → "Yes, book the €89 flight"
Turn 3 : Model → tool_call: book_flight(flight_id="FL123", passengers=1)

Modelis: Datu apkopošana

Turn 1 : Model → tool_call: get_sales(month="march")
Turn 2 : Model → tool_call: get_expenses(month="march")
Turn 3 : Model → tool_call: get_headcount(month="march")
Turn 4 : Model → "Here is the monthly report: sales +12%, expenses -3%, headcount stable."

Modelis: Progresīva precizēšana

Turn 1 : Model → tool_call: search_products(query="running shoes")
         Result → 150 products
Turn 2 : Model → "I found 150 products. What size and budget?"
         User → "42, max €120"
Turn 3 : Model → tool_call: search_products(query="running shoes", size=42, max_price=120)
         Result → 8 products

Atmiņas pārvaldība

Garās sarunās vēsture — kas ietver katru tool_call un katru rīka rezultātu — strauji aug, un līdz ar to pieaug arī katra soļa izmaksas. Tev ir pieejamas trīs stratēģijas, sākot no manuālas līdz pilnībā deleģētai. Periodiska apkopošana kondensē vecākos soļus vienā rindkopā, kas tiek ievadīta sistēmas promptā: tu saglabā pagātnes mijiedarbību būtību par daļu no to tokena svara, upurējot dažas detaļas. Slīdošais logs ir brutālāks, bet vienkāršāks: glabā tikai pēdējos N soļus, pieņemot, ka modelis aizmirsīs sarunas sākumu — tas ir piemēroti, kad vecākajām mijiedarbībām vairs nav operatīvas nozīmes. Visbeidzot, attālināta glabāšana deleģē problēmu xAI, izmantojot store_messages=True: vēsture dzīvo servera pusē, un tava lietotne nes tikai atsauces identifikatoru. Pareizā izvēle ir atkarīga no tā, kas tavai lietotnei ir jāatceras un cik ilgi.

Galvenās atziņas

  • max_turns ierobežo rīka soļus servera pusē — klienta rīki atiestata skaitītāju
  • Īsteno ciklu ar max_iterations, lai novērstu bezgalīgus ciklus
  • previous_response_id savieno sarunas, nosūtot vēsturi atpakaļ
  • store_messages=True deleģē konteksta glabāšanu xAI
  • use_encrypted_content=True aizsargā datus pārsūtīšanas laikā
  • Pārvaldi atmiņu garās sarunās (apkopošana, slīdošais logs)