Pipeline s viacerými nástrojmi
Na tejto strane
Orchestrovanie nástrojov v sekvencii
Agent pre počasie z predchádzajúcej lekcie používal nezávislé nástroje. V pipeline s viacerými nástrojmi výsledky z jedného nástroja napájajú ďalšie volanie. Model automaticky orchestruje sekvenciu – tvojou úlohou je poskytnúť nástroje a vykonať volania.
Architektúra pipeline
Typická pipeline nasleduje túto schému:
Search → Analysis → Action → Notification
Každý krok produkuje dáta, ktoré spotrebuje nasledujúci krok. Model túto orchestráciu zvláda prirodzene vďaka kontextu konverzácie.
Príklad: pipeline konkurenčnej inteligencie
Predstav si pipeline, ktorá monitoruje ceny konkurencie a generuje report:
tools = [
{
"type": "function",
"function": {
"name": "scrape_competitor_prices",
"description": "Retrieve current prices from a competitor "
"for a list of products. Returns an array "
"of {product, price, availability}.",
"parameters": {
"type": "object",
"properties": {
"competitor": {
"type": "string",
"description": "Competitor name"
},
"products": {
"type": "array",
"items": {"type": "string"},
"description": "List of products to check"
}
},
"required": ["competitor", "products"]
}
}
},
{
"type": "function",
"function": {
"name": "compare_with_our_prices",
"description": "Compare competitor prices with our prices. "
"Returns percentage gaps and adjustment "
"recommendations.",
"parameters": {
"type": "object",
"properties": {
"competitor_prices": {
"type": "array",
"items": {
"type": "object",
"properties": {
"product": {"type": "string"},
"price": {"type": "number"}
}
}
}
},
"required": ["competitor_prices"]
}
}
},
{
"type": "function",
"function": {
"name": "generate_report",
"description": "Generate a PDF report with the benchmark "
"analysis results. Returns the report URL.",
"parameters": {
"type": "object",
"properties": {
"title": {"type": "string"},
"data": {"type": "object"},
"format": {
"type": "string",
"enum": ["pdf", "csv", "json"]
}
},
"required": ["title", "data"]
}
}
},
{
"type": "function",
"function": {
"name": "send_notification",
"description": "Send an email or Slack notification "
"with a summary and a link to the report.",
"parameters": {
"type": "object",
"properties": {
"channel": {
"type": "string",
"enum": ["email", "slack"]
},
"recipient": {"type": "string"},
"message": {"type": "string"},
"attachment_url": {"type": "string"}
},
"required": ["channel", "recipient", "message"]
}
}
}
]
Vykonávanie pipeline
Keď používateľ požiada: „Analyzuj ceny CompetitorX pre našich top 5 produktov a pošli report obchodnému tímu“, model orchestruje:
Turn 1 : scrape_competitor_prices(competitor="CompetitorX", products=[...])
Turn 2 : compare_with_our_prices(competitor_prices=[results from turn 1])
Turn 3 : generate_report(title="CompetitorX Price Monitoring", data={...})
Turn 4 : send_notification(channel="slack", recipient="#sales", ...)
Každý krok využíva výsledky z toho predchádzajúceho. Model prirodzene prenáša dáta z jedného nástroja do druhého.
Kombinácia serverových a klientskych nástrojov v pipeline
Najsilnejšie pipeline kombinujú serverové a klientske nástroje:
tools = [
{"type": "web_search"}, # Server: web search
{
"type": "function",
"function": {
"name": "extract_data",
"description": "Extract structured data from raw text",
"parameters": { ... }
}
},
{
"type": "function",
"function": {
"name": "save_to_crm",
"description": "Save extracted data to the CRM",
"parameters": { ... }
}
}
]
Tok: model vykoná vyhľadávanie na webe (automaticky na strane servera), potom zavolá tvoju funkciu na extrakciu (na strane klienta) a následne uloží dáta do CRM (na strane klienta).
Vzor: fan-out / fan-in
Niektoré pipeline vyžadujú vzor fan-out (viacero paralelných volaní), po ktorom nasleduje fan-in (agregácia výsledkov):
┌→ scrape_site_A ─┐
Request ─┤→ scrape_site_B ─┤→ aggregate_results → generate_report
└→ scrape_site_C ─┘
Model to zvláda prirodzene pomocou paralelných volaní:
Turn 1 : [scrape_site_A, scrape_site_B, scrape_site_C] (parallel)
Turn 2 : aggregate_results(data=[result_A, result_B, result_C])
Turn 3 : generate_report(aggregated_data={...})
Spracovanie zlyhaní v pipeline
Robustná pipeline ošetruje zlyhania v každom kroku:
def execute_with_retry(name, args, max_retries=2):
for attempt in range(max_retries + 1):
try:
result = execute_function(name, args)
if "error" not in result:
return result
except Exception:
pass
if attempt < max_retries:
time.sleep(1) # Wait before retry
return {
"error": f"Failed after {max_retries + 1} attempts",
"function": name,
"partial_data": None
}
Keď krok zlyhá, model môže:
- Skúsiť to znova s upravenými parametrami
- Preskočiť krok a pokračovať s čiastočnými dátami
- Informovať používateľa a požiadať o inštrukcie
Kľúčové poznatky
- Pipeline s viacerými nástrojmi reťazí výsledky z jedného nástroja do druhého
- Model automaticky orchestruje sekvenciu vďaka kontextu
- Vzor fan-out/fan-in kombinuje paralelné volania a agregáciu
- Pre hybridné pipeline kombinuj serverové nástroje (web_search) a klientske nástroje (tvoje funkcie)
- Ošetruj zlyhania v každom kroku pomocou opakovaných pokusov a záložných riešení
- Každý nástroj v pipeline musí mať jasnú, jedinú zodpovednosť