Tööriistade otsing: dünaamilised tööriistad
Sellel lehel
Tööriistade otsing: dünaamilised tööriistad
Demo-agent saab hakkama kolme või nelja tööriistaga. Ettevõtte agent aga kogub paratamatult kümneid, vahel isegi sadu: arveldus, personalijuhtimine, CRM, dokumendid, planeerimine. Sellises mastaabis muutub kataloogi tervikuna iga päringuga mudelile saatmine ebatõhusaks ja tokenite mõttes kalliks. Tööriistade otsing lahendab selle probleemi, valides iga päringu jaoks dünaamiliselt asjakohased tööriistad.
Liiga paljude tööriistade probleem
Kujuta ette agenti 50 tööriistaga. Iga API väljakutse korral saadetakse prompti kõigi 50 tööriista skeemid. See tarbib tuhandeid tokeneid ja võib mudelit segadusse ajada: mida pikem on nimekiri, seda sarnasemaks muutuvad kirjeldused ja seda rohkem mudel kõhkleb naabertööriistade vahel. Kulud kasvavad, täpsus langeb – halvem kombinatsioon on võimatu.
# Probleem: liiga palju tööriistu
agent = Agent(
name="Super Agent",
instructions="You can do anything.",
tools=[tool_1, tool_2, tool_3, ... , tool_50], # 50 tööriista = palju tokeneid
)
Tööriistade otsingu lubamine
Tööriistade otsing kasutab semantilist indeksit, et valida päringu põhjal asjakohased tööriistad. Määratled tööriistad nagu tavaliselt, kuid parameeter tool_use_behavior="auto" võimaldab mudelil valida kataloogist, laadimata kõike ette. Allpool toodud näites ei käivita maksemeeldetuletuse saatmise päring HR-i tööriistu ja vastupidi.
from agents import Agent, Runner, function_tool
# Määratle palju tööriistu
@function_tool
def create_invoice(client: str, amount: float) -> str:
"""Creates an invoice for a client."""
return f"Invoice created for {client}: €{amount}"
@function_tool
def send_reminder(invoice_id: str) -> str:
"""Sends a payment reminder for an unpaid invoice."""
return f"Reminder sent for invoice {invoice_id}"
@function_tool
def generate_hr_report(month: str) -> str:
"""Generates a human resources report for a given month."""
return f"HR report generated for {month}"
@function_tool
def schedule_interview(candidate: str, date: str) -> str:
"""Schedules a job interview with a candidate."""
return f"Interview scheduled with {candidate} on {date}"
# Palju muid tööriistu...
agent = Agent(
name="Enterprise Agent",
instructions="You manage company operations.",
tools=[
create_invoice,
send_reminder,
generate_hr_report,
schedule_interview,
# ... 50 muud tööriista
],
tool_use_behavior="auto", # Mudel valib dünaamiliselt
)
Muster: manuaalne tööriistade valik
Kui soovid tööriistade valiku üle täielikku kontrolli, rakenda oma loogika. Põhimõte on lihtne: väike ruuteri-agent loeb päringu ja nimetab vaid asjakohase valdkonna. Seejärel ehidad spetsialiseeritud agendi lennult, kasutades ainult selle valdkonna tööriistu. Fraas „saada meeldetuletus arvele F-2026-114“ väljub ruuterilt vastusega accounting ja täitev agent ei näe kunagi HR-i tööriistu.
from agents import Agent, Runner, function_tool
# Grupeeri tööriistad valdkonniti
accounting_tools = [create_invoice, send_reminder]
hr_tools = [generate_hr_report, schedule_interview]
# Ruuteri-agent, mis valib valdkonna
router = Agent(
name="Router",
instructions="""Determine the domain of the request.
Respond only with 'accounting' or 'hr'.""",
model="gpt-5.6-terra", # Kiire ja odav ruutimiseks
output_type=str,
)
async def handle_request(message: str):
# 1. samm: määra valdkond
route = await Runner.run(router, message)
domain = route.final_output.strip().lower()
# 2. samm: loo õigete tööriistadega spetsialiseeritud agent
if domain == "accounting":
tools = accounting_tools
instructions = "You manage the company's accounting."
elif domain == "hr":
tools = hr_tools
instructions = "You manage human resources."
else:
tools = accounting_tools + hr_tools
instructions = "You manage company operations."
specialized_agent = Agent(
name=f"{domain.capitalize()} Agent",
instructions=instructions,
tools=tools,
model="gpt-5.6-terra",
)
result = await Runner.run(specialized_agent, message)
return result.final_output
Kasutamine gpt-5.6-terra nii ruutimiseks kui ka täitmiseks kuulub mudelite eelmisse põlvkonda; mustri taga olev loogika jääb GPT-5.6 perekonnaga identseks, kus jõupingutuse seaded eristavad kiiret ruuterit täitjast.
Muster: kontekstitundlikud dünaamilised tööriistad
Valik ei sõltu ainult esitatud küsimusest; see sõltub ka sellest, kes küsib. Saad kohandada saadaolevaid tööriistu vastavalt sisse logitud kasutajale, tappes kaks kärbest ühe hoobiga: saadetakse vähem tokeneid ja, mis veel olulisem, jõustatakse juurdepääsukontrollid enne, kui mudel üldse arutlema hakkab. Müügitöötaja saab pakkumiste tööriistad, kuid delete_account lihtsalt ei eksisteeri tema agendis.
from dataclasses import dataclass
@dataclass
class UserContext:
role: str # "admin", "manager", "employee"
department: str
def get_tools_for_role(ctx: UserContext) -> list:
"""Returns authorized tools based on role."""
base_tools = [search_document, view_schedule]
if ctx.role in ("admin", "manager"):
base_tools.extend([create_invoice, generate_hr_report])
if ctx.role == "admin":
base_tools.extend([modify_permissions, delete_account])
if ctx.department == "sales":
base_tools.extend([search_client, create_quote])
return base_tools
async def create_agent_for_user(ctx: UserContext):
tools = get_tools_for_role(ctx)
return Agent(
name="Custom Agent",
instructions=f"You assist a {ctx.role} in the {ctx.department} department.",
tools=tools,
model="gpt-5.6-terra",
)
Tööriistade kirjelduste optimeerimine
Sõltumata valitud valikumehhanismist, tugineb see ühele materjalile: sinu kirjelduste tekstile. Nende kirjelduste kvaliteet mõjutab otseselt valiku asjakohasust. Võrdle allpool olevaid kahte deklaratsiooni: esimene ei ütle kasutusstsenaariumi kohta midagi, teine aga nimetab sisendid, väljundi ja olukorra, millal seda kasutada.
# Halb: ebamäärane kirjeldus
@function_tool
def process_data(data: str) -> str:
"""Processes data."""
return "OK"
# Hea: täpne ja kontekstualiseeritud kirjeldus
@function_tool
def calculate_gross_margin(revenue: float, production_cost: float) -> str:
"""Calculates gross margin as a percentage from revenue
and production cost. Useful for quarterly financial analysis."""
margin = ((revenue - production_cost) / revenue) * 100
return f"Gross margin: {margin:.1f}% (Revenue: €{revenue}, Costs: €{production_cost})"
Hea tööriista kirjeldus on nagu hea docstring: see selgitab, millal tööriista kasutada, mitte ainult seda, mida see teeb. Võta kümme minutit, et vaadata oma agendi kirjeldused üle, küsides ühe kohta, kas kolleeg suudaks ainult seda lauset lugedes valida õige tööriista. Täpselt seda harjutust teeb ka mudel.
Peamised punktid
- Tööriistade otsing valib iga päringu jaoks dünaamiliselt asjakohased tööriistad
- Paljude tööriistade korral saab ruuteri-agent valdkonna eelnevalt kindlaks määrata
- Kohanda saadaolevaid tööriistu vastavalt kasutaja rollile ja kontekstile
- Tööriista kirjelduse kvaliteet mõjutab valiku täpsust
- Kasuta kiireks ruutimiseks kerget mudelit ja täitmiseks võimekat mudelit