Cevovod z več orodji
Na tej strani
Usklajevanje orodij zaporedno
Vremenski agent iz prejšnje lekcije je uporabljal neodvisna orodja. V cevovodu z več orodji rezultati enega orodja napajajo naslednji klic. Model samodejno uskladi zaporedje – tvoja naloga je zagotoviti orodja in izvesti klice.
Arhitektura cevovoda
Tipičen cevovod sledi tej shemi:
Iskanje → Analiza → Dejanje → Obvestilo
Vsak korak proizvede podatke, ki jih porabi naslednji. Model to usklajevanje naravno obvlada zahvaljujoč kontekstu pogovora.
Primer: cevovod za konkurenčno obveščanje
Predstavljaj si cevovod, ki spremlja cene konkurentov in ustvarja poročila:
tools = [
{
"type": "function",
"function": {
"name": "scrape_competitor_prices",
"description": "Retrieve current prices from a competitor "
"for a list of products. Returns an array "
"of {product, price, availability}.",
"parameters": {
"type": "object",
"properties": {
"competitor": {
"type": "string",
"description": "Competitor name"
},
"products": {
"type": "array",
"items": {"type": "string"},
"description": "List of products to check"
}
},
"required": ["competitor", "products"]
}
}
},
{
"type": "function",
"function": {
"name": "compare_with_our_prices",
"description": "Compare competitor prices with our prices. "
"Returns percentage gaps and adjustment "
"recommendations.",
"parameters": {
"type": "object",
"properties": {
"competitor_prices": {
"type": "array",
"items": {
"type": "object",
"properties": {
"product": {"type": "string"},
"price": {"type": "number"}
}
}
}
},
"required": ["competitor_prices"]
}
}
},
{
"type": "function",
"function": {
"name": "generate_report",
"description": "Generate a PDF report with the benchmark "
"analysis results. Returns the report URL.",
"parameters": {
"type": "object",
"properties": {
"title": {"type": "string"},
"data": {"type": "object"},
"format": {
"type": "string",
"enum": ["pdf", "csv", "json"]
}
},
"required": ["title", "data"]
}
}
},
{
"type": "function",
"function": {
"name": "send_notification",
"description": "Send an email or Slack notification "
"with a summary and a link to the report.",
"parameters": {
"type": "object",
"properties": {
"channel": {
"type": "string",
"enum": ["email", "slack"]
},
"recipient": {"type": "string"},
"message": {"type": "string"},
"attachment_url": {"type": "string"}
},
"required": ["channel", "recipient", "message"]
}
}
}
]
Izvajanje cevovoda
Ko uporabnik zaprosi: „Analiziraj cene CompetitorX za naših 5 najboljših izdelkov in poročilo pošlji prodajni ekipi”, model uskladi:
Turn 1 : scrape_competitor_prices(competitor="CompetitorX", products=[...])
Turn 2 : compare_with_our_prices(competitor_prices=[results from turn 1])
Turn 3 : generate_report(title="CompetitorX Price Monitoring", data={...})
Turn 4 : send_notification(channel="slack", recipient="#sales", ...)
Vsak obrat uporabi rezultate prejšnjega. Model naravno posreduje podatke od enega orodja do naslednjega.
Združevanje strežniških in odjemalčevih orodij v cevovodu
Najzmogljivejši cevovodi združujejo strežniška in odjemalčeva orodja:
tools = [
{"type": "web_search"}, # Server: web search
{
"type": "function",
"function": {
"name": "extract_data",
"description": "Extract structured data from raw text",
"parameters": { ... }
}
},
{
"type": "function",
"function": {
"name": "save_to_crm",
"description": "Save extracted data to the CRM",
"parameters": { ... }
}
}
]
Potek: model izvede spletno iskanje (samodejno na strani strežnika), nato pokliče tvojo funkcijo za ekstrakcijo (na strani odjemalca) in nato shrani podatke v CRM (na strani odjemalca).
Vzorec: razpršitev / zbiranje (fan-out / fan-in)
Nekateri cevovodi zahtevajo vzorec razpršitve (več vzporednih klicev), ki mu sledi zbiranje (agregacija rezultatov):
┌→ scrape_site_A ─┐
Request ─┤→ scrape_site_B ─┤→ aggregate_results → generate_report
└→ scrape_site_C ─┘
Model to naravno obvlada z vzporednimi klici:
Turn 1 : [scrape_site_A, scrape_site_B, scrape_site_C] (parallel)
Turn 2 : aggregate_results(data=[result_A, result_B, result_C])
Turn 3 : generate_report(aggregated_data={...})
Obravnava napak v cevovodu
Zanesljiv cevovod obravnava napake na vsakem koraku:
def execute_with_retry(name, args, max_retries=2):
for attempt in range(max_retries + 1):
try:
result = execute_function(name, args)
if "error" not in result:
return result
except Exception:
pass
if attempt < max_retries:
time.sleep(1) # Wait before retry
return {
"error": f"Failed after {max_retries + 1} attempts",
"function": name,
"partial_data": None
}
Ko korak odpove, lahko model:
- Poskusi znova s prilagojenimi parametri
- Preskoči korak in nadaljuje z delnimi podatki
- Obvesti uporabnika in zahteva navodila
Ključne ugotovitve
- Cevovod z več orodji povezuje rezultate enega orodja z naslednjim
- Model samodejno uskladi zaporedje zahvaljujoč kontekstu
- Vzorec razpršitve/zbiranja združuje vzporedne klice in agregacijo
- Za hibridne cevovode združi strežniška orodja (web_search) in odjemalčeva orodja (tvoje funkcije)
- Napake obravnavaj na vsakem koraku s ponovnimi poskusi in nadomestnimi rešitvami
- Vsako orodje v cevovodu mora imeti jasno, enojno odgovornost