Combinarea instrumentelor de server și de client
Pe această pagină
Fluxuri de lucru hibride
Adevărata putere a API-ului Responses apare atunci când combinați instrumentele de server (executate automat de xAI) și instrumentele de client (funcțiile dumneavoastră personalizate) într-o singură cerere. Modelul orchestrează aceste instrumente în mod autonom, creând fluxuri de lucru complexe în doar câteva linii de cod.
Combinarea instrumentelor de server și a funcțiilor
response = client.responses.create(
model="grok-4.20-0309-reasoning",
input="Search for the latest Ligue 1 soccer results and send a summary to my team.",
tools=[
{"type": "web_search"},
{
"type": "function",
"name": "send_team_message",
"description": "Sends a message to the team via Slack",
"parameters": {
"type": "object",
"properties": {
"channel": {"type": "string"},
"message": {"type": "string"}
},
"required": ["channel", "message"]
}
}
]
)
În acest scenariu, modelul:
- Declanșează automat
web_search(lato server) pentru a găsi rezultatele - Incorporează datele într-un rezumat
- Apelează
send_team_message(lato client) astfel încât codul dumneavoastră să trimită mesajul pe Slack
Fluxul de execuție hibrid
Fluxul diferă în funcție de tipul instrumentului:
Doar instrumente de server
Request → [model → web_search → result → model] → Final response
Totul se întâmplă în partea xAI. Primiți răspunsul final direct, cu rezultatele integrate.
Doar instrumente de client
Request → [model → function_call] → PAUSE
Your code executes the function
Result → [model] → Final response
Modelul face o pauză, codul dumneavoastră se execută, apoi trimiteți rezultatul înapoi.
Flux hibrid
Request → [model → web_search → result → model → function_call] → PAUSE
Your code executes the function
Result → [model] → Final response
Modelul utilizează mai întâi instrumentele de server (automat), apoi apelează funcția dumneavoastră atunci când are nevoie de infrastructura dumneavoastră.
Modele comune de combinare
Căutare + Acțiune
Combinați web_search sau x_search cu o funcție de acțiune:
tools = [
{"type": "web_search"},
{"type": "x_search"},
{
"type": "function",
"name": "create_report",
"description": "Creates a report in the CRM",
"parameters": {
"type": "object",
"properties": {
"title": {"type": "string"},
"content": {"type": "string"},
"tags": {"type": "array", "items": {"type": "string"}}
},
"required": ["title", "content"]
}
}
]
Calcul + Notificare
Combinați code_interpreter cu o funcție de notificare:
tools = [
{"type": "code_interpreter"},
{
"type": "function",
"name": "send_alert",
"description": "Sends an alert if a threshold is exceeded",
"parameters": {
"type": "object",
"properties": {
"metric": {"type": "string"},
"value": {"type": "number"},
"threshold": {"type": "number"}
},
"required": ["metric", "value"]
}
}
]
max_turns și instrumentele hibride
Comportamentul max_turns este important într-un context hibrid:
max_turnslimitează ciclurile lato server într-o singură cerere- Atunci când modelul apelează o funcție de client, iar codul dumneavoastră returnează rezultatul, începe o nouă alocare a
max_turns
În practică, acest lucru înseamnă că apelurile client nu epuizează bugetul dumneavoastră de cicluri server. Modelul poate efectua 3 căutări web, poate apela funcția dumneavoastră, apoi poate efectua încă 3 căutări după primirea rezultatului.
Context multi-ciclu cu stocare
Pentru fluxuri de lucru complexe care se întind pe mai multe interacțiuni, combinați stocarea și înlănțuirea:
# Turn 1: initial search
r1 = client.responses.create(
model="grok-4.20-0309-reasoning",
input="Analyze AI market trends.",
tools=[{"type": "web_search"}, {"type": "code_interpreter"}],
store=True,
max_turns=5
)
# Turn 2: deepen with your internal data
r2 = client.responses.create(
model="grok-4.20-0309-reasoning",
input="Compare with our internal data.",
tools=[{
"type": "function",
"name": "query_internal_db",
"description": "Queries the internal database",
"parameters": {"type": "object", "properties": {"query": {"type": "string"}}}
}],
previous_response_id=r1.id,
store=True
)
Puncte cheie
- Combinați instrumentele de server și funcțiile de client într-o singură cerere pentru fluxuri de lucru hibride
- Instrumentele de server se execută automat; funcțiile de client întrerup generarea
max_turnsse resetează după fiecare dus-întors către client- Modele comune: căutare + acțiune, calcul + notificare, agregare din mai multe surse
- Utilizați
store: trueșiprevious_response_idpentru fluxuri de lucru multi-ciclu