Vieliaukštis įrankių vamzdynas
Šiame puslapyje
Įrankių sekos orchestravimas
Ankstesnėje pamokoje nagrinėtas oro sąlygų agentas naudojo nepriklausomus įrankius. Daugiaįrankiame vamzdyne vieno įrankio rezultatai maitina kitą kvietimą. Modelis automatiškai suderina seką – tavo užduotis yra pateikti įrankius ir vykdyti kvietimus.
Vamzdyno architektūra
Tipiškas vamzdynas laikosi šios schemos:
Paieška → Analizė → Veiksmas → Pranešimas
Kiekvienas žingsnis sukuria duomenis, kuriuos sunaudoja kitas. Modelis natūraliai tvarko šį orchestravimą dėka pokalbio konteksto.
Pavyzdys: konkurencinės žvalgybos vamzdynas
Įsivaizduok vamzdyną, kuris stebi konkurentų kainas ir generuoja ataskaitą:
tools = [
{
"type": "function",
"function": {
"name": "scrape_competitor_prices",
"description": "Retrieve current prices from a competitor "
"for a list of products. Returns an array "
"of {product, price, availability}.",
"parameters": {
"type": "object",
"properties": {
"competitor": {
"type": "string",
"description": "Competitor name"
},
"products": {
"type": "array",
"items": {"type": "string"},
"description": "List of products to check"
}
},
"required": ["competitor", "products"]
}
}
},
{
"type": "function",
"function": {
"name": "compare_with_our_prices",
"description": "Compare competitor prices with our prices. "
"Returns percentage gaps and adjustment "
"recommendations.",
"parameters": {
"type": "object",
"properties": {
"competitor_prices": {
"type": "array",
"items": {
"type": "object",
"properties": {
"product": {"type": "string"},
"price": {"type": "number"}
}
}
}
},
"required": ["competitor_prices"]
}
}
},
{
"type": "function",
"function": {
"name": "generate_report",
"description": "Generate a PDF report with the benchmark "
"analysis results. Returns the report URL.",
"parameters": {
"type": "object",
"properties": {
"title": {"type": "string"},
"data": {"type": "object"},
"format": {
"type": "string",
"enum": ["pdf", "csv", "json"]
}
},
"required": ["title", "data"]
}
}
},
{
"type": "function",
"function": {
"name": "send_notification",
"description": "Send an email or Slack notification "
"with a summary and a link to the report.",
"parameters": {
"type": "object",
"properties": {
"channel": {
"type": "string",
"enum": ["email", "slack"]
},
"recipient": {"type": "string"},
"message": {"type": "string"},
"attachment_url": {"type": "string"}
},
"required": ["channel", "recipient", "message"]
}
}
}
]
Vamzdyno vykdymas
Kai vartotojas prašo: „Išanalizuok ‘CompetitorX’ kainas mūsų 5 populiariausiems produktams ir išsiųsk ataskaitą pardavimų komandai“, modelis suderina:
Turn 1 : scrape_competitor_prices(competitor="CompetitorX", products=[...])
Turn 2 : compare_with_our_prices(competitor_prices=[results from turn 1])
Turn 3 : generate_report(title="CompetitorX Price Monitoring", data={...})
Turn 4 : send_notification(channel="slack", recipient="#sales", ...)
Kiekvienas posūkis naudoja ankstesniojo rezultatus. Modelis natūraliai perduoda duomenis iš vieno įrankio kitam.
Serverio ir kliento įrankių derinimas vamzdyne
Galingiausi vamzdynai sujungia serverio ir kliento įrankius:
tools = [
{"type": "web_search"}, # Server: web search
{
"type": "function",
"function": {
"name": "extract_data",
"description": "Extract structured data from raw text",
"parameters": { ... }
}
},
{
"type": "function",
"function": {
"name": "save_to_crm",
"description": "Save extracted data to the CRM",
"parameters": { ... }
}
}
]
Eiga: modelis atlieka paiešką internete (automatiškai serverio pusėje), tada kviečia tavo duomenų ištraukimo funkciją (kliento pusėje), galiausiai išsaugo duomenis CRM sistemoje (kliento pusėje).
Šablonas: išskleidimas / suglaudimas (fan-out / fan-in)
Kai kuriems vamzdynams reikia išskleidimo (fan-out) šablono (kelie lygiagretūs kvietimai), po kurio seka suglaudimas (fan-in) – rezultatų agregavimas:
┌→ scrape_site_A ─┐
Request ─┤→ scrape_site_B ─┤→ aggregate_results → generate_report
└→ scrape_site_C ─┘
Modelis tai tvarko natūraliai naudodamas lygiagrečius kvietimus:
Turn 1 : [scrape_site_A, scrape_site_B, scrape_site_C] (parallel)
Turn 2 : aggregate_results(data=[result_A, result_B, result_C])
Turn 3 : generate_report(aggregated_data={...})
Klaidų valdymas vamzdyne
Patikimas vamzdynas tvarko klaidas kiekviename žingsnyje:
def execute_with_retry(name, args, max_retries=2):
for attempt in range(max_retries + 1):
try:
result = execute_function(name, args)
if "error" not in result:
return result
except Exception:
pass
if attempt < max_retries:
time.sleep(1) # Wait before retry
return {
"error": f"Failed after {max_retries + 1} attempts",
"function": name,
"partial_data": None
}
Kai žingsnis nepavyksta, modelis gali:
- Bandyti iš naujo su pakoreguotais parametrais
- Praleisti žingsnį ir tęsti su daliniais duomenimis
- Informuoti vartotoją ir paprašyti nurodymų
Svarbiausi punktai
- Daugiaįrankis vamzdynas sujungia vieno įrankio rezultatus su kitu
- Modelis automatiškai suderina seką dėka konteksto
- Išskleidimo/suglaudimo (fan-out/fan-in) šablonas derina lygiagrečius kvietimus ir agregavimą
- Hibridiniams vamzdynams derink serverio įrankius (web_search) ir kliento įrankius (tavo funkcijas)
- Kiekviename žingsnyje valdyk klaidas naudodamas pakartotinius bandymus ir atsarginius variantus
- Kiekvienas vamzdyno įrankis turi turėti aiškią, vienintelę atsakomybę