Razgovori u više krugova s alatima
Na ovoj stranici
Razgovori u više krugova s pozivanjem funkcija
U stvarnom razgovoru model možda mora pozvati alate više puta tijekom razmjene. Svaki krug može uključivati nove pozive, rezultate koji pokreću druge pozive ili zahtjeve za pojašnjenje od korisnika prije korištenja alata.
Parametar max_turns
Parametar max_turns ograničava broj krugova asistenta/alata na strani poslužitelja u jednom zahtjevu. Primjenjuje se samo na ugrađene alate (web_search, code_interpreter itd.).
response = client.responses.create(
model="grok-4.5",
input="Analyze 2026 tech trends",
tools=[{"type": "web_search"}],
max_turns=5 # Maximum 5 web searches before responding
)
Važna napomena: pozivi alata na strani klijenta resetiraju brojač. Kada pošalješ natrag function_call_output, započinje nova raspodjela max_turns.
Petlja za više krugova na strani klijenta
Za upravljanje razgovorima u kojima model više puta poziva alate, implementiraj petlju:
import json
def multi_turn_chat(user_message, tools, max_iterations=10):
messages = [{"role": "user", "content": user_message}]
for i in range(max_iterations):
response = client.chat.completions.create(
model="grok-4.5",
messages=messages,
tools=tools
)
message = response.choices[0].message
messages.append(message)
# If no tool_call, the conversation is over
if not message.tool_calls:
return message.content
# Execute all requested tools
for tool_call in message.tool_calls:
args = json.loads(tool_call.function.arguments)
result = execute_function(tool_call.function.name, args)
messages.append({
"role": "tool",
"tool_call_id": tool_call.id,
"content": json.dumps(result)
})
return "Maximum number of iterations reached"
Varijabla max_iterations ključna je sigurnosna mjera za sprječavanje beskonačnih petlji. U proizvodnji postavi razuman limit (5–10 krugova).
Kontekst u više krugova s Responses API-jem
Responses API nudi dva mehanizma za održavanje konteksta:
1. Pohrana na daljinu
# First message
r1 = client.responses.create(
model="grok-4.5",
input="What's the weather like in Paris?",
tools=tools,
store_messages=True
)
# Tool result
r2 = client.responses.create(
model="grok-4.5",
input=[{
"type": "function_call_output",
"call_id": r1.output[0].call_id,
"output": {temp: 18}
}],
previous_response_id=r1.id,
store_messages=True
)
# Follow-up question (context is preserved)
r3 = client.responses.create(
model="grok-4.5",
input="What about tomorrow?",
previous_response_id=r2.id,
tools=tools,
store_messages=True
)
Prednost: ne moraš upravljati poviješću poruka. xAI je automatski pohranjuje i dohvaća putem previous_response_id.
2. Šifrirani sadržaj na strani klijenta
response = client.responses.create(
model="grok-4.5",
input="Search for flight prices to Nice",
tools=tools,
use_encrypted_content=True
)
S use_encrypted_content=True, primaš rezoniranje i izlaze alata u šifriranom obliku. Šalješ ih natrag kakvi jesu u narednim zahtjevima, bez mogućnosti da ih pročitaš. Ovo je korisno kada ne želiš da podaci prolaze kao čisti tekst kroz tvoj poslužitelj.
Obrasci razgovora u više krugova
Obrazac: Pretraživanje pa radnja
Turn 1 : User → "Find a cheap Paris-Nice flight"
Model → tool_call: search_flights(from="CDG", to="NCE")
Client → result : [{flight1}, {flight2}, {flight3}]
Turn 2 : Model → "I found 3 flights. The cheapest is €89. Do you want to book it?"
User → "Yes, book the €89 flight"
Turn 3 : Model → tool_call: book_flight(flight_id="FL123", passengers=1)
Obrazac: Agregacija podataka
Turn 1 : Model → tool_call: get_sales(month="march")
Turn 2 : Model → tool_call: get_expenses(month="march")
Turn 3 : Model → tool_call: get_headcount(month="march")
Turn 4 : Model → "Here is the monthly report: sales +12%, expenses -3%, headcount stable."
Obrazac: Progresivno pročišćavanje
Turn 1 : Model → tool_call: search_products(query="running shoes")
Result → 150 products
Turn 2 : Model → "I found 150 products. What size and budget?"
User → "42, max €120"
Turn 3 : Model → tool_call: search_products(query="running shoes", size=42, max_price=120)
Result → 8 products
Upravljanje memorijom
U dugim razgovorima povijest – koja uključuje svaki tool_call i svaki rezultat alata – brzo raste, a s njom i trošak svakog kruga. Dostupne su ti tri strategije, od ručnih do potpuno delegiranih. Periodično sažimanje kondenzira starije krugove u odlomak ubačen u sistemski prompt: zadržavaš bit prošlih razmjena za djelić njihove težine u tokenima, uz cijenu gubitka nekih detalja. Klizni prozor je grublji, ali jednostavniji: zadrži samo posljednjih N krugova, prihvaćajući da će model zaboraviti početak razgovora – prikladno kada starije razmjene više nemaju operativnu važnost. Pohrana na daljinu, naposljetku, delegira problem xAI-u s store_messages=True: povijest živi na strani poslužitelja, a tvoja aplikacija nosi samo referencu. Pravi izbor ovisi o tome što tvoja aplikacija treba pamtiti i koliko dugo.
Ključne točke
max_turnsograničava krugove alata na strani poslužitelja – alati na strani klijenta resetiraju brojač- Implementiraj petlju s
max_iterationsza sprječavanje beskonačnih petlji previous_response_idpovezuje razgovore bez ponovnog slanja povijestistore_messages=Truedelegira pohranu konteksta xAI-uuse_encrypted_content=Trueštiti podatke u prijenosu- Upravljaj memorijom u dugim razgovorima (sažimanje, klizni prozor)