Mitme tööriistaga torustik
Sellel lehel
Tööriistade järjestikune orkestreerimine
Eelmises tunnis käsitletud ilmateenuse agent kasutas sõltumatuid tööriistu. Mitme tööriistaga torustikus suunatakse ühe tööriista tulemused järgmisele väljakutsele. Mudel orkestreerib järjestuse automaatselt – sinu ülesandeks on pakkuda tööriistad ja teostada väljakutsed.
Torustiku arhitektuur
Tüüpiline torustik järgib seda skeemi:
Otsing → Analüüs → Tegevus → Teavitamine
Iga samm toodab andmeid, mida tarbib järgmine. Mudel haldab seda orkestreerimist loomulikult tänu vestluse kontekstile.
Näide: konkurentsiluure torustik
Kujuta ette torustikku, mis jälgib konkurentide hindu ja genereerib aruande:
tools = [
{
"type": "function",
"function": {
"name": "scrape_competitor_prices",
"description": "Retrieve current prices from a competitor "
"for a list of products. Returns an array "
"of {product, price, availability}.",
"parameters": {
"type": "object",
"properties": {
"competitor": {
"type": "string",
"description": "Competitor name"
},
"products": {
"type": "array",
"items": {"type": "string"},
"description": "List of products to check"
}
},
"required": ["competitor", "products"]
}
}
},
{
"type": "function",
"function": {
"name": "compare_with_our_prices",
"description": "Compare competitor prices with our prices. "
"Returns percentage gaps and adjustment "
"recommendations.",
"parameters": {
"type": "object",
"properties": {
"competitor_prices": {
"type": "array",
"items": {
"type": "object",
"properties": {
"product": {"type": "string"},
"price": {"type": "number"}
}
}
}
},
"required": ["competitor_prices"]
}
}
},
{
"type": "function",
"function": {
"name": "generate_report",
"description": "Generate a PDF report with the benchmark "
"analysis results. Returns the report URL.",
"parameters": {
"type": "object",
"properties": {
"title": {"type": "string"},
"data": {"type": "object"},
"format": {
"type": "string",
"enum": ["pdf", "csv", "json"]
}
},
"required": ["title", "data"]
}
}
},
{
"type": "function",
"function": {
"name": "send_notification",
"description": "Send an email or Slack notification "
"with a summary and a link to the report.",
"parameters": {
"type": "object",
"properties": {
"channel": {
"type": "string",
"enum": ["email", "slack"]
},
"recipient": {"type": "string"},
"message": {"type": "string"},
"attachment_url": {"type": "string"}
},
"required": ["channel", "recipient", "message"]
}
}
}
]
Torustiku käivitamine
Kui kasutaja küsib: „Analüüsi CompetitorX hindu meie viie populaarseima toote jaoks ja saada aruanne müügimeeskonnale“, orkestreerib mudel järgmist:
Turn 1 : scrape_competitor_prices(competitor="CompetitorX", products=[...])
Turn 2 : compare_with_our_prices(competitor_prices=[results from turn 1])
Turn 3 : generate_report(title="CompetitorX Price Monitoring", data={...})
Turn 4 : send_notification(channel="slack", recipient="#sales", ...)
Igas voorus kasutatakse eelmise vooru tulemusi. Mudel edastab andmeid ühelt tööriistalt teisele loomulikul teel.
Serveri ja kliendi tööriistade kombineerimine torustikus
Võimsaimad torustikud ühendavad serveri ja kliendi tööriistu:
tools = [
{"type": "web_search"}, # Server: web search
{
"type": "function",
"function": {
"name": "extract_data",
"description": "Extract structured data from raw text",
"parameters": { ... }
}
},
{
"type": "function",
"function": {
"name": "save_to_crm",
"description": "Save extracted data to the CRM",
"parameters": { ... }
}
}
]
Voog: mudel teostab veebiotsingu (automaatselt serveri poolel), kutsub seejärel sinu andmete ekstraheerimise funktsiooni (kliendi poolt) ja salvestab lõpuks andmed CRM-i (kliendi poolt).
Muster: hajutamine / koondamine (fan-out / fan-in)
Mõned torustikud nõuavad hajutamise (fan-out) mustrit (mitu paralleelset väljakutset), millele järgneb koondamine (fan-in, tulemuste agregeerimine):
┌→ scrape_site_A ─┐
Request ─┤→ scrape_site_B ─┤→ aggregate_results → generate_report
└→ scrape_site_C ─┘
Mudel haldab seda loomulikult paralleelsete väljakutsetega:
Turn 1 : [scrape_site_A, scrape_site_B, scrape_site_C] (parallel)
Turn 2 : aggregate_results(data=[result_A, result_B, result_C])
Turn 3 : generate_report(aggregated_data={...})
Tõrgete käsitlemine torustikus
Tugev torustik käsitleb tõrkeid igas etapis:
def execute_with_retry(name, args, max_retries=2):
for attempt in range(max_retries + 1):
try:
result = execute_function(name, args)
if "error" not in result:
return result
except Exception:
pass
if attempt < max_retries:
time.sleep(1) # Wait before retry
return {
"error": f"Failed after {max_retries + 1} attempts",
"function": name,
"partial_data": None
}
Kui samm ebaõnnestub, saab mudel:
- Proovida uuesti kohandatud parameetritega
- Jätta sammu vahele ja jätkata osaliste andmetega
- Teavitada kasutajat ja küsida juhiseid
Peamised punktid
- Mitme tööriistaga torustik aheldab ühe tööriista tulemused järgmisega
- Mudel orkestreerib järjestuse automaatselt tänu kontekstile
- Hajutamise/koondamise muster ühendab paralleelsed väljakutsed ja agregeerimise
- Kombineeri serveri tööriistu (web_search) ja kliendi tööriistu (sinu funktsioonid) hübriidtorustike loomiseks
- Käitle tõrkeid igas etapis, kasutades uuestiproovimist ja varuplaane
- Igal torustiku tööriistal peab olema selge ja üksik vastutusvaldkond