Konversationer över flera omgångar med verktyg
På denna sida
Konversationer över flera omgångar med funktionsanrop
I en riktig konversation kan modellen behöva anropa verktyg flera gånger under utbytet. Varje omgång kan innebära nya anrop, resultat som utlöser andra anrop, eller begäran om förtydligande från användaren innan ett verktyg används.
Parametern max_turns
Parametern max_turns begränsar antalet assistent-/verktygsomgångar på serversidan i en enda begäran. Den gäller endast för inbyggda verktyg (web_search, code_interpreter, etc.).
response = client.responses.create(
model="grok-4.5",
input="Analyze 2026 tech trends",
tools=[{"type": "web_search"}],
max_turns=5 # Maximum 5 web searches before responding
)
Viktig punkt: Verktygsanrop på klientsidan nollställer räknaren. När du skickar tillbaka ett function_call_output börjar en ny tilldelning av max_turns.
Loop för flera omgångar på klientsidan
För att hantera konversationer där modellen anropar verktyg flera gånger, implementera en loop:
import json
def multi_turn_chat(user_message, tools, max_iterations=10):
messages = [{"role": "user", "content": user_message}]
for i in range(max_iterations):
response = client.chat.completions.create(
model="grok-4.5",
messages=messages,
tools=tools
)
message = response.choices[0].message
messages.append(message)
# If no tool_call, the conversation is over
if not message.tool_calls:
return message.content
# Execute all requested tools
for tool_call in message.tool_calls:
args = json.loads(tool_call.function.arguments)
result = execute_function(tool_call.function.name, args)
messages.append({
"role": "tool",
"tool_call_id": tool_call.id,
"content": json.dumps(result)
})
return "Maximum number of iterations reached"
Variabeln max_iterations är ett viktigt skydd för att förhindra oändliga loopar. I produktion bör du sätta en rimlig gräns (5–10 omgångar).
Kontext för flera omgångar med Responses API
Responses API erbjuder två mekanismer för att behålla kontext:
1. Lagring på distans
# First message
r1 = client.responses.create(
model="grok-4.5",
input="What's the weather like in Paris?",
tools=tools,
store_messages=True
)
# Tool result
r2 = client.responses.create(
model="grok-4.5",
input=[{
"type": "function_call_output",
"call_id": r1.output[0].call_id,
"output": {temp: 18}
}],
previous_response_id=r1.id,
store_messages=True
)
# Follow-up question (context is preserved)
r3 = client.responses.create(
model="grok-4.5",
input="What about tomorrow?",
previous_response_id=r2.id,
tools=tools,
store_messages=True
)
Fördelen: Du behöver inte hantera meddelandehistoriken själv. xAI lagrar och hämtar den automatiskt via previous_response_id.
2. Krypterat innehåll på klientsidan
response = client.responses.create(
model="grok-4.5",
input="Search for flight prices to Nice",
tools=tools,
use_encrypted_content=True
)
Med use_encrypted_content=True får du resonemang och verktygsresultat i krypterad form. Du skickar tillbaka dem oförändrade i efterföljande begäranden, utan möjlighet att läsa dem. Detta är användbart när du inte vill att data ska passera i klartext genom din server.
Mönster för konversationer över flera omgångar
Mönster: Sökning följt av åtgärd
Turn 1 : User → "Find a cheap Paris-Nice flight"
Model → tool_call: search_flights(from="CDG", to="NCE")
Client → result : [{flight1}, {flight2}, {flight3}]
Turn 2 : Model → "I found 3 flights. The cheapest is €89. Do you want to book it?"
User → "Yes, book the €89 flight"
Turn 3 : Model → tool_call: book_flight(flight_id="FL123", passengers=1)
Mönster: Dataaggregering
Turn 1 : Model → tool_call: get_sales(month="march")
Turn 2 : Model → tool_call: get_expenses(month="march")
Turn 3 : Model → tool_call: get_headcount(month="march")
Turn 4 : Model → "Here is the monthly report: sales +12%, expenses -3%, headcount stable."
Mönster: Progressiv förfining
Turn 1 : Model → tool_call: search_products(query="running shoes")
Result → 150 products
Turn 2 : Model → "I found 150 products. What size and budget?"
User → "42, max €120"
Turn 3 : Model → tool_call: search_products(query="running shoes", size=42, max_price=120)
Result → 8 products
Minneshantering
I långa konversationer växer historiken – som inkluderar varje tool_call och varje verktygsresultat – snabbt, och med den kostnaden för varje omgång. Tre strategier står till ditt val, från manuell till helt delegerad. Periodisk sammanfattning kondenserar äldre omgångar till ett stycke som injiceras i systemprompten: du behåller kärnan i tidigare utbyten för en bråkdel av deras tokenvikt, till priset av viss detaljförlust. Det glidande fönstret är mer brutalt men enklare: behåll endast de senaste N omgångarna och acceptera att modellen glömmer början av konversationen – lämpligt när äldre utbyten inte längre har operativ betydelse. Lagring på distans delegerar slutligen problemet till xAI med store_messages=True: historiken lever på serversidan och din applikation bär endast på en referens. Det rätta valet beror på vad din applikation behöver komma ihåg, och hur länge.
Viktiga punkter
max_turnsbegränsar verktygsomgångar på serversidan – verktyg på klientsidan nollställer räknaren- Implementera en loop med
max_iterationsför att förhindra oändliga loopar previous_response_idlänkar samman konversationer utan att skicka om historikenstore_messages=Truedelegerar kontextlagring till xAIuse_encrypted_content=Trueskyddar data under överföring- Hantera minne i långa konversationer (sammanfattning, glidande fönster)