Търсене на инструменти: Динамични инструменти
На тази страница
Търсене на инструменти: Динамични инструменти
Един демонстрационен агент се справя отлично с три или четири инструмента. Един корпоративен агент обаче неизбежно натрупва десетки, понякога стотици: фактуриране, човешки ресурси, CRM, документи, планиране. При такъв мащаб изпращането на целия каталог към модела с всяка заявка става неефективно и скъпо по отношение на токени. Търсенето на инструменти (Tool Search) решава този проблем, като динамично избира съответните инструменти за всяка заявка.
Проблемът с твърде много инструменти
Представете си агент с 50 инструмента. При всяко API извикване схемите на всичките 50 инструмента се изпращат в промпта. Това консумира хиляди токени и може да обърка модела: колкото по-дълъг е списъкът, толкова по-подобни стават описанията и толкова повече моделът се колебае между съседните инструменти. Разходите растат, докато прецизността спада – най-лошата възможна комбинация.
# Problem: too many tools
agent = Agent(
name="Super Agent",
instructions="You can do anything.",
tools=[tool_1, tool_2, tool_3, ... , tool_50], # 50 tools = lots of tokens
)
Активиране на търсене на инструменти
Търсенето на инструменти използва семантичен индекс, за да избира съответните инструменти въз основа на заявката. Вие декларирате инструментите си както обикновено, но параметърът tool_use_behavior="auto" позволява на модела да избира от каталога, вместо да зарежда всичко предварително. В примера по-долу заявка за изпращане на напомняне за плащане няма да задейства инструменти за човешки ресурси и обратното.
from agents import Agent, Runner, function_tool
# Define many tools
@function_tool
def create_invoice(client: str, amount: float) -> str:
"""Creates an invoice for a client."""
return f"Invoice created for {client}: €{amount}"
@function_tool
def send_reminder(invoice_id: str) -> str:
"""Sends a payment reminder for an unpaid invoice."""
return f"Reminder sent for invoice {invoice_id}"
@function_tool
def generate_hr_report(month: str) -> str:
"""Generates a human resources report for a given month."""
return f"HR report generated for {month}"
@function_tool
def schedule_interview(candidate: str, date: str) -> str:
"""Schedules a job interview with a candidate."""
return f"Interview scheduled with {candidate} on {date}"
# Many other tools...
agent = Agent(
name="Enterprise Agent",
instructions="You manage company operations.",
tools=[
create_invoice,
send_reminder,
generate_hr_report,
schedule_interview,
# ... 50 other tools
],
tool_use_behavior="auto", # The model selects dynamically
)
Шаблон: Ръчен избор на инструменти
Ако искате пълен контрол върху избора на инструменти, внедрете собствена логика. Принципът е прост: малък агент-рутер прочита заявката и просто назовава съответния домейн. След това изграждате специализирания агент в реално време само с инструментите за този домейн. Фраза като „изпрати напомняне за фактура F-2026-114“ излиза от рутера с отговора accounting и изпълнителният агент никога не вижда инструментите за човешки ресурси.
from agents import Agent, Runner, function_tool
# Group tools by domain
accounting_tools = [create_invoice, send_reminder]
hr_tools = [generate_hr_report, schedule_interview]
# A router agent that selects the domain
router = Agent(
name="Router",
instructions="""Determine the domain of the request.
Respond only with 'accounting' or 'hr'.""",
model="gpt-5.6-terra", # Fast and cheap for routing
output_type=str,
)
async def handle_request(message: str):
# Step 1: Determine the domain
route = await Runner.run(router, message)
domain = route.final_output.strip().lower()
# Step 2: Create the specialized agent with the right tools
if domain == "accounting":
tools = accounting_tools
instructions = "You manage the company's accounting."
elif domain == "hr":
tools = hr_tools
instructions = "You manage human resources."
else:
tools = accounting_tools + hr_tools
instructions = "You manage company operations."
specialized_agent = Agent(
name=f"{domain.capitalize()} Agent",
instructions=instructions,
tools=tools,
model="gpt-5.6-terra",
)
result = await Runner.run(specialized_agent, message)
return result.final_output
Използването на gpt-5.6-terra както за рутинг, така и за изпълнение, принадлежи към предишното поколение модели; логиката зад шаблона остава идентична със семейството GPT-5.6, където настройките за усилие разграничават бързия рутер от изпълнителя.
Шаблон: Контекстно-зависими динамични инструменти
Изборът не зависи само от зададения въпрос; той зависи и от това кой пита. Можете да адаптирате наличните инструменти въз основа на влезлия потребител, убивайки две зайци с един куршум: по-малко изпратени токени и, което е по-важно, наложени контроли за достъп, преди моделът дори да започне да разсъждава. Един търговски служител получава инструменти за оферти, но delete_account просто не съществува в неговия агент.
from dataclasses import dataclass
@dataclass
class UserContext:
role: str # "admin", "manager", "employee"
department: str
def get_tools_for_role(ctx: UserContext) -> list:
"""Returns authorized tools based on role."""
base_tools = [search_document, view_schedule]
if ctx.role in ("admin", "manager"):
base_tools.extend([create_invoice, generate_hr_report])
if ctx.role == "admin":
base_tools.extend([modify_permissions, delete_account])
if ctx.department == "sales":
base_tools.extend([search_client, create_quote])
return base_tools
async def create_agent_for_user(ctx: UserContext):
tools = get_tools_for_role(ctx)
return Agent(
name="Custom Agent",
instructions=f"You assist a {ctx.role} in the {ctx.department} department.",
tools=tools,
model="gpt-5.6-terra",
)
Оптимизиране на описанията на инструментите
Независимо кой механизъм за избор избирате, той разчита на един единствен материал: текста на вашите описания. Качеството на тези описания директно влияе върху релевантността на избора. Сравнете двете декларации по-долу: първата не казва нищо за сценария на употреба, докато втората назовава входовете, изхода и кога да се използва.
# Bad: vague description
@function_tool
def process_data(data: str) -> str:
"""Processes data."""
return "OK"
# Good: precise and contextualized description
@function_tool
def calculate_gross_margin(revenue: float, production_cost: float) -> str:
"""Calculates gross margin as a percentage from revenue
and production cost. Useful for quarterly financial analysis."""
margin = ((revenue - production_cost) / revenue) * 100
return f"Gross margin: {margin:.1f}% (Revenue: €{revenue}, Costs: €{production_cost})"
Едно добро описание на инструмент е като добър docstring: то обяснява кога да се използва инструментът, а не просто какво прави. Отделете десет минути, за да прегледате описанията на вашия агент, като си задавате за всяко от тях дали колега би могъл да избере правилния инструмент, прочитайки само това изречение. Това е точно упражнението, което моделът изпълнява.
Ключови изводи
- Търсенето на инструменти динамично избира съответните инструменти за всяка заявка
- При много инструменти, агент-рутер може да определи домейна предварително
- Адаптирайте наличните инструменти въз основа на ролята и контекста на потребителя
- Качеството на описанието на инструмента влияе върху точността на избора
- Използвайте лек модел за бърз рутинг и мощен модел за изпълнение