Hoppa till huvudinnehåll
Svenska— Välj ett språk
Meny

Konversationer över flera omgångar med verktyg

Lektion 11 av 14 Uppdaterad 29 juli 2026 Utvecklare
På denna sida
  1. Konversationer över flera omgångar med funktionsanrop
  2. Parametern max_turns
  3. Loop för flera omgångar på klientsidan
  4. Kontext för flera omgångar med Responses API
  5. Mönster för konversationer över flera omgångar
  6. Minneshantering
  7. Viktiga punkter

Konversationer över flera omgångar med funktionsanrop

I en riktig konversation kan modellen behöva anropa verktyg flera gånger under utbytet. Varje omgång kan innebära nya anrop, resultat som utlöser andra anrop, eller begäran om förtydligande från användaren innan ett verktyg används.

Parametern max_turns

Parametern max_turns begränsar antalet assistent-/verktygsomgångar på serversidan i en enda begäran. Den gäller endast för inbyggda verktyg (web_search, code_interpreter, etc.).

response = client.responses.create(
    model="grok-4.5",
    input="Analyze 2026 tech trends",
    tools=[{"type": "web_search"}],
    max_turns=5  # Maximum 5 web searches before responding
)

Viktig punkt: Verktygsanrop på klientsidan nollställer räknaren. När du skickar tillbaka ett function_call_output börjar en ny tilldelning av max_turns.

Loop för flera omgångar på klientsidan

För att hantera konversationer där modellen anropar verktyg flera gånger, implementera en loop:

import json

def multi_turn_chat(user_message, tools, max_iterations=10):
    messages = [{"role": "user", "content": user_message}]

    for i in range(max_iterations):
        response = client.chat.completions.create(
            model="grok-4.5",
            messages=messages,
            tools=tools
        )

        message = response.choices[0].message
        messages.append(message)

        # If no tool_call, the conversation is over
        if not message.tool_calls:
            return message.content

        # Execute all requested tools
        for tool_call in message.tool_calls:
            args = json.loads(tool_call.function.arguments)
            result = execute_function(tool_call.function.name, args)
            messages.append({
                "role": "tool",
                "tool_call_id": tool_call.id,
                "content": json.dumps(result)
            })

    return "Maximum number of iterations reached"

Variabeln max_iterations är ett viktigt skydd för att förhindra oändliga loopar. I produktion bör du sätta en rimlig gräns (5–10 omgångar).

Kontext för flera omgångar med Responses API

Responses API erbjuder två mekanismer för att behålla kontext:

1. Lagring på distans

# First message
r1 = client.responses.create(
    model="grok-4.5",
    input="What's the weather like in Paris?",
    tools=tools,
    store_messages=True
)

# Tool result
r2 = client.responses.create(
    model="grok-4.5",
    input=[{
        "type": "function_call_output",
        "call_id": r1.output[0].call_id,
        "output": {temp: 18}
    }],
    previous_response_id=r1.id,
    store_messages=True
)

# Follow-up question (context is preserved)
r3 = client.responses.create(
    model="grok-4.5",
    input="What about tomorrow?",
    previous_response_id=r2.id,
    tools=tools,
    store_messages=True
)

Fördelen: Du behöver inte hantera meddelandehistoriken själv. xAI lagrar och hämtar den automatiskt via previous_response_id.

2. Krypterat innehåll på klientsidan

response = client.responses.create(
    model="grok-4.5",
    input="Search for flight prices to Nice",
    tools=tools,
    use_encrypted_content=True
)

Med use_encrypted_content=True får du resonemang och verktygsresultat i krypterad form. Du skickar tillbaka dem oförändrade i efterföljande begäranden, utan möjlighet att läsa dem. Detta är användbart när du inte vill att data ska passera i klartext genom din server.

Mönster för konversationer över flera omgångar

Mönster: Sökning följt av åtgärd

Turn 1 : User → "Find a cheap Paris-Nice flight"
         Model → tool_call: search_flights(from="CDG", to="NCE")
         Client → result : [{flight1}, {flight2}, {flight3}]
Turn 2 : Model → "I found 3 flights. The cheapest is €89. Do you want to book it?"
         User → "Yes, book the €89 flight"
Turn 3 : Model → tool_call: book_flight(flight_id="FL123", passengers=1)

Mönster: Dataaggregering

Turn 1 : Model → tool_call: get_sales(month="march")
Turn 2 : Model → tool_call: get_expenses(month="march")
Turn 3 : Model → tool_call: get_headcount(month="march")
Turn 4 : Model → "Here is the monthly report: sales +12%, expenses -3%, headcount stable."

Mönster: Progressiv förfining

Turn 1 : Model → tool_call: search_products(query="running shoes")
         Result → 150 products
Turn 2 : Model → "I found 150 products. What size and budget?"
         User → "42, max €120"
Turn 3 : Model → tool_call: search_products(query="running shoes", size=42, max_price=120)
         Result → 8 products

Minneshantering

I långa konversationer växer historiken – som inkluderar varje tool_call och varje verktygsresultat – snabbt, och med den kostnaden för varje omgång. Tre strategier står till ditt val, från manuell till helt delegerad. Periodisk sammanfattning kondenserar äldre omgångar till ett stycke som injiceras i systemprompten: du behåller kärnan i tidigare utbyten för en bråkdel av deras tokenvikt, till priset av viss detaljförlust. Det glidande fönstret är mer brutalt men enklare: behåll endast de senaste N omgångarna och acceptera att modellen glömmer början av konversationen – lämpligt när äldre utbyten inte längre har operativ betydelse. Lagring på distans delegerar slutligen problemet till xAI med store_messages=True: historiken lever på serversidan och din applikation bär endast på en referens. Det rätta valet beror på vad din applikation behöver komma ihåg, och hur länge.

Viktiga punkter

  • max_turns begränsar verktygsomgångar på serversidan – verktyg på klientsidan nollställer räknaren
  • Implementera en loop med max_iterations för att förhindra oändliga loopar
  • previous_response_id länkar samman konversationer utan att skicka om historiken
  • store_messages=True delegerar kontextlagring till xAI
  • use_encrypted_content=True skyddar data under överföring
  • Hantera minne i långa konversationer (sammanfattning, glidande fönster)