Kombiniranje orodij na strežniku in odjemalcu
Na tej strani
Hibridni delovni tokovi
Prava moč API-ja Responses se pokaže, ko v enem samem zahtevku združiš orodja na strežniku (ki jih samodejno izvaja xAI) in orodja na odjemalcu (tvoje funkcije po meri). Model ta orodja usklajuje avtonomno in ustvarja kompleksne delovne tokove z le nekaj vrsticami kode.
Združevanje orodij na strežniku in funkcij
response = client.responses.create(
model="grok-4.20-0309-reasoning",
input="Search for the latest Ligue 1 soccer results and send a summary to my team.",
tools=[
{"type": "web_search"},
{
"type": "function",
"name": "send_team_message",
"description": "Sends a message to the team via Slack",
"parameters": {
"type": "object",
"properties": {
"channel": {"type": "string"},
"message": {"type": "string"}
},
"required": ["channel", "message"]
}
}
]
)
V tem scenariju model:
- Samodejno sproži
web_search(na strani strežnika), da poišče rezultate - Vključi podatke v povzetek
- Pokliče
send_team_message(na strani odjemalca), tako da tvoja koda pošlje sporočilo v Slack
Hibridni tok izvajanja
Tok se razlikuje glede na vrsto orodja:
Samo orodja na strežniku
Request → [model → web_search → result → model] → Final response
Vse se zgodi na strani xAI. Neposredno prejmeš končni odgovor z integriranimi rezultati.
Samo orodja na odjemalcu
Request → [model → function_call] → PAUSE
Your code executes the function
Result → [model] → Final response
Model se zaustavi, tvoja koda izvrši funkcijo, nato pa pošlješ rezultat nazaj.
Hibridni tok
Request → [model → web_search → result → model → function_call] → PAUSE
Your code executes the function
Result → [model] → Final response
Model najprej uporabi orodja na strežniku (samodejno), nato pa pokliče tvojo funkcijo, ko potrebuje tvojo infrastrukturo.
Pogosti vzorci kombinacij
Iskanje + dejanje
Združi web_search ali x_search s funkcijo za dejanje:
tools = [
{"type": "web_search"},
{"type": "x_search"},
{
"type": "function",
"name": "create_report",
"description": "Creates a report in the CRM",
"parameters": {
"type": "object",
"properties": {
"title": {"type": "string"},
"content": {"type": "string"},
"tags": {"type": "array", "items": {"type": "string"}}
},
"required": ["title", "content"]
}
}
]
Izračun + obvestilo
Združi code_interpreter s funkcijo za obvestila:
tools = [
{"type": "code_interpreter"},
{
"type": "function",
"name": "send_alert",
"description": "Sends an alert if a threshold is exceeded",
"parameters": {
"type": "object",
"properties": {
"metric": {"type": "string"},
"value": {"type": "number"},
"threshold": {"type": "number"}
},
"required": ["metric", "value"]
}
}
]
max_turns in hibridna orodja
Obnašanje parametra max_turns je v hibridnem kontekstu ključno:
max_turnsomejuje število korakov na strani strežnika znotraj enega samega zahtevka- Ko model pokliče funkcijo na odjemalcu in tvoja koda vrne rezultat, se začne nova dodelitev
max_turns
V praksi to pomeni, da klici odjemalca ne izčrpajo tvoje kvote korakov na strežniku. Model lahko opravi 3 spletna iskanja, pokliče tvojo funkcijo in nato po prejemu rezultata opravi še 3 dodatna iskanja.
Večkratni kontekst s shranjevanjem
Za kompleksne delovne toke, ki obsegajo več interakcij, združi shranjevanje in veriženje:
# Turn 1: initial search
r1 = client.responses.create(
model="grok-4.20-0309-reasoning",
input="Analyze AI market trends.",
tools=[{"type": "web_search"}, {"type": "code_interpreter"}],
store=True,
max_turns=5
)
# Turn 2: deepen with your internal data
r2 = client.responses.create(
model="grok-4.20-0309-reasoning",
input="Compare with our internal data.",
tools=[{
"type": "function",
"name": "query_internal_db",
"description": "Queries the internal database",
"parameters": {"type": "object", "properties": {"query": {"type": "string"}}}
}],
previous_response_id=r1.id,
store=True
)
Ključne ugotovitve
- V enem zahtevku združi orodja na strežniku in funkcije na odjemalcu za hibridne delovne toke
- Orodja na strežniku se izvedejo samodejno; funkcije na odjemalcu zaustavijo generiranje
max_turnsse ponastavi po vsaki izmenjavi z odjemalcem- Pogosti vzorci: iskanje + dejanje, izračun + obvestilo, agregacija iz več virov
- Za večkratne delovne toke uporabi
store: trueinprevious_response_id