max_turns ja serveri/kliendi tööriistad
Sellel lehel
Serveri ja kliendi tööriistad
xAI platvorm eristab kahte tüüpi tööriistu, mida Grok vestluses kasutada saab:
- Serveripoolsed tööriistad: veebiotsing, koodi käivitamine, X-i otsing. Need tööriistad käivituvad automaatselt xAI serverites. Grok kutsub need välja, saab tulemuse ja jätkab ilma sinu sekkumiseta.
- Kliendipoolsed tööriistad: sinu loodud funktsioonid (funktsioonide kutsumine). Kui Grok soovib üht sinu funktsiooni kasutada, tagastab API sulle funktsioonikutsu. Sinu kood käivitab selle ja saadab tulemuse API-le tagasi.
See eristus on võtmetähtsusega, et mõista max_turns käitumist.
Parameeter max_turns
max_turns kontrollib assistendi ja tööriistade käikude arvu, mida Grok saab ühe API päringu raames sooritada. Iga serveritööriista kasutamine kulutab ühe käigu.
response = await client.chat.completions.create(
model="grok-4.5",
messages=[{"role": "user", "content": "Search for the latest news on Python 3.13"}],
tools=[...],
max_turns=5 # Grok saab kasutada kuni 5 serveritööriista
)
Kui Grok peab tegema veebiotsingu, seejärel käivitama koodi tulemuste analüüsimiseks ja lõpetuseks tegema teise otsingu, kulutab see 3 käiku. Seades max_turns=5, jääb tal alles 2 käiku.
Lähtestamine kliendi tööriistade kaudu
Pea meeles olulist reeglit: kliendipoolsete tööriistade kutsumine lähtestab max_turns loenduri. Kui sinu kood töötleb funktsioonikutsu ja saadab tulemuse uues API päringus tagasi, saab Grok oma täie käikude kvoodi tagasi.
# Esimene päring: max_turns=3
response = await client.chat.completions.create(
model="grok-4.5",
messages=messages,
tools=my_tools,
max_turns=3
)
# Grok taotleb kliendi funktsiooni kutsumist
if response.choices[0].message.tool_calls:
# Sa käivitad funktsiooni lokaalselt
tool_result = execute_tool(response.choices[0].message.tool_calls[0])
# Teine päring: max_turns lähtestub väärtusele 3
messages.append(response.choices[0].message)
messages.append({"role": "tool", "content": tool_result, ...})
response = await client.chat.completions.create(
model="grok-4.5",
messages=messages,
tools=my_tools,
max_turns=3 # uus loendur
)
See lähtestamine on loogiline: iga API päring on iseseisev. max_turns loendur kehtib ainult sama päringu raames tehtud käikudele.
Hübriidsed töövood
Serveri ja kliendi tööriistade kombineerimine võimaldab luua keerukaid töövood. Näiteks saab Grok:
- Teha veebiotsingu (serveritööriist, 1 käik)
- Käivitada koodi tulemuste analüüsimiseks (serveritööriist, 1 käik)
- Paluda sinu kohandatud funktsioonil tulemused salvestada (klienditööriist, lähtestamine)
- Teha uus otsing salvestatud tulemuste põhjal (serveritööriist, 1 käik uue loenduriga)
async def hybrid_workflow(question: str) -> str:
messages = [{"role": "user", "content": question}]
while True:
response = await client.chat.completions.create(
model="grok-4.5",
messages=messages,
tools=server_and_client_tools,
max_turns=5
)
message = response.choices[0].message
# Kui kliendi tööriista kutset pole, on lõplik vastus olemas
if not message.tool_calls:
return message.content
# Töötle kliendi tööriistade kutsed
messages.append(message)
for tool_call in message.tool_calls:
result = await execute_local_tool(tool_call)
messages.append({
"role": "tool",
"tool_call_id": tool_call.id,
"content": result
})
See tsükli muster haldab automaatselt Groki ja sinu lokaalsete funktsioonide vahelist suhtlust. Tsükkel jätkub seni, kuni Grok peab sinu tööriistu kutsuma. See peatub, kui mudel annab lõpliku tekstivastuse.
max_turns seadistamine
- max_turns=1: Grok saab kasutada ainult üht serveritööriista. Piisab lihtsaks veebiotsinguks.
- max_turns=3–5: hea tasakaal enamiku juhtude jaoks. Grok saab aheldada otsingu, analüüsi ja kontrollimise.
- max_turns=10+: keerukate ülesannete jaoks, mis nõuavad palju iteratsioone. Jälgi tokenite kulusid.
Liiga suur max_turns väärtus ei maksa midagi, kui seda ei kasutata, kuid liiga väike väärtus võib katkestada Groki arutluskäigu keset ülesannet.
Peamised punktid
- Serveritööriistad (veebiotsing, koodi käivitamine) kulutavad
max_turnskäike - Klienditööriistad (sinu funktsioonid) lähtestavad loenduri iga uue päringuga
while Truetsükli muster haldab edasi-tagasi suhtlust kuni lõpliku vastuseni- Alusta väärtusest
max_turns=5ja kohanda seda vastavalt ülesande keerukusele - Iga serverikäik kulutab lisatokeneid (kumulatiivne kontekst)