Konveijers ar vairākiem rīkiem
Šajā lapā
Rīku secīga orchestrēšana
Laika ziņu aģents no iepriekšējās nodarbības izmantoja neatkarīgus rīkus. Konveijerā ar vairākiem rīkiem viena rīka rezultāti baro nākamo izsaukumu. Modelis automātiski orchestrē secību — tavs uzdevums ir nodrošināt rīkus un izpildīt izsaukumus.
Konveijera arhitektūra
Tipisks konveijers seko šai shēmai:
Meklēšana → Analīze → Darbība → Paziņojums
Katrs solis ģenerē datus, ko patērē nākamais. Modelis dabiski pārvalda šo orchestrēšanu, pateicoties sarunas kontekstam.
Piemērs: konkurences izlūkošanas konveijers
Iedomājies konveijeru, kas uzrauga konkurentu cenas un ģenerē pārskatu:
tools = [
{
"type": "function",
"function": {
"name": "scrape_competitor_prices",
"description": "Retrieve current prices from a competitor "
"for a list of products. Returns an array "
"of {product, price, availability}.",
"parameters": {
"type": "object",
"properties": {
"competitor": {
"type": "string",
"description": "Competitor name"
},
"products": {
"type": "array",
"items": {"type": "string"},
"description": "List of products to check"
}
},
"required": ["competitor", "products"]
}
}
},
{
"type": "function",
"function": {
"name": "compare_with_our_prices",
"description": "Compare competitor prices with our prices. "
"Returns percentage gaps and adjustment "
"recommendations.",
"parameters": {
"type": "object",
"properties": {
"competitor_prices": {
"type": "array",
"items": {
"type": "object",
"properties": {
"product": {"type": "string"},
"price": {"type": "number"}
}
}
}
},
"required": ["competitor_prices"]
}
}
},
{
"type": "function",
"function": {
"name": "generate_report",
"description": "Generate a PDF report with the benchmark "
"analysis results. Returns the report URL.",
"parameters": {
"type": "object",
"properties": {
"title": {"type": "string"},
"data": {"type": "object"},
"format": {
"type": "string",
"enum": ["pdf", "csv", "json"]
}
},
"required": ["title", "data"]
}
}
},
{
"type": "function",
"function": {
"name": "send_notification",
"description": "Send an email or Slack notification "
"with a summary and a link to the report.",
"parameters": {
"type": "object",
"properties": {
"channel": {
"type": "string",
"enum": ["email", "slack"]
},
"recipient": {"type": "string"},
"message": {"type": "string"},
"attachment_url": {"type": "string"}
},
"required": ["channel", "recipient", "message"]
}
}
}
]
Konveijera izpilde
Kad lietotājs jautā: „Analizē CompetitorX cenas mūsu 5 populārākajiem produktiem un nosūti pārskatu pārdošanas komandai”, modelis orchestrē:
Turn 1 : scrape_competitor_prices(competitor="CompetitorX", products=[...])
Turn 2 : compare_with_our_prices(competitor_prices=[results from turn 1])
Turn 3 : generate_report(title="CompetitorX Price Monitoring", data={...})
Turn 4 : send_notification(channel="slack", recipient="#sales", ...)
Katrs gājiens izmanto iepriekšējā gājiena rezultātus. Modelis dabiski nodod datus no viena rīka uz nākamo.
Servera un klienta rīku apvienošana konveijerā
Visjaudīgākie konveijeri apvieno servera un klienta rīkus:
tools = [
{"type": "web_search"}, # Server: web search
{
"type": "function",
"function": {
"name": "extract_data",
"description": "Extract structured data from raw text",
"parameters": { ... }
}
},
{
"type": "function",
"function": {
"name": "save_to_crm",
"description": "Save extracted data to the CRM",
"parameters": { ... }
}
}
]
Plūsma: modelis veic tīmekļa meklēšanu (automātiski servera pusē), tad izsauc tavu datu ekstrakcijas funkciju (klienta pusē) un visbeidzot saglabā datus CRM sistēmā (klienta pusē).
Raksts: izplešanās / saplūšana (fan-out / fan-in)
Dažiem konveijeriem nepieciešams izplešanās (fan-out) raksts (vairāki paralēli izsaukumi), kam seko saplūšana (fan-in) jeb rezultātu apkopošana:
┌→ scrape_site_A ─┐
Request ─┤→ scrape_site_B ─┤→ aggregate_results → generate_report
└→ scrape_site_C ─┘
Modelis to dabiski pārvalda, veicot paralēlus izsaukumus:
Turn 1 : [scrape_site_A, scrape_site_B, scrape_site_C] (parallel)
Turn 2 : aggregate_results(data=[result_A, result_B, result_C])
Turn 3 : generate_report(aggregated_data={...})
Kļūdu apstrāde konveijerā
Noturīgs konveijers apstrādā kļūdas katrā solī:
def execute_with_retry(name, args, max_retries=2):
for attempt in range(max_retries + 1):
try:
result = execute_function(name, args)
if "error" not in result:
return result
except Exception:
pass
if attempt < max_retries:
time.sleep(1) # Wait before retry
return {
"error": f"Failed after {max_retries + 1} attempts",
"function": name,
"partial_data": None
}
Ja solis neizdodas, modelis var:
- Mēģināt vēlreiz ar pielāgotiem parametriem
- Izlaist soli un turpināt ar daļējiem datiem
- Informēt lietotāju un pieprasīt norādījumus
Galvenās atziņas
- Konveijers ar vairākiem rīkiem savieno viena rīka rezultātus ar nākamo
- Modelis automātiski orchestrē secību, pateicoties kontekstam
- Izplešanās/saplūšanas (fan-out/fan-in) raksts apvieno paralēlus izsaukumus un apkopošanu
- Apvieno servera rīkus (web_search) un klienta rīkus (tavas funkcijas) hibrīdkonveijeros
- Apstrādā kļūdas katrā solī, izmantojot atkārtotus mēģinājumus un rezerves risinājumus
- Katram konveijera rīkam jābūt skaidrai, vienotai atbildībai