Комбиниране на сървърни и клиентски инструменти
На тази страница
Две категории инструменти на една платформа
API на Grok разграничава два фундаментално различни типа инструменти въз основа на тяхното изпълнение. Разбирането на тази разлика е от съществено значение за проектирането на стабилни архитектури.
Вградени инструменти (сървърна страна)
xAI изпълнява тези инструменти автоматично на своите сървъри. Вие не управлявате нищо – няма локално изпълнение, няма препращане на резултати. Моделът ги извиква и получава резултатите директно.
| Инструмент | Идентификатор | Описание |
|---|---|---|
| Web Search | web_search | Търсене в уеб в реално време |
| X Search | x_search | Търсене в X/Twitter |
| Code Interpreter | code_interpreter | Изпълнение на Python в пясъчник |
| Collections Search | collections_search | Търсене във вашите качени документи |
| Remote MCP | mcp | Връзка с външни MCP сървъри |
Персонализирани функции (клиентска страна)
Това са вашите собствени функции, дефинирани чрез извикване на функции (function calling). Моделът връща tool_call, вашият код изпълнява функцията и вие изпращате резултата обратно. Това е механизмът, който научихте в предишните уроци.
Комбиниране на двата типа в една заявка
Силата на Grok API се крие във възможността да комбинирате сървърни и клиентски инструменти в една единствена заявка:
tools = [
# Сървърен инструмент — изпълнява се автоматично от xAI
{"type": "web_search"},
# Клиентски инструмент — изпълнява се от вашия код
{
"type": "function",
"function": {
"name": "save_to_database",
"description": "Save information to the database",
"parameters": {
"type": "object",
"properties": {
"key": {"type": "string"},
"value": {"type": "string"}
},
"required": ["key", "value"]
}
}
}
]
Когато моделът получи тази заявка, той може:
- Да използва
web_search, за да намери информация (автоматично изпълнение на сървъра) - Да извика
save_to_database, за да запази резултата (връща се към клиента)
Хибриден поток
Поведението се различава в зависимост от типа инструмент:
- Сървърен инструмент: моделът извиква инструмента, xAI го изпълнява, резултатът се интегрира автоматично и моделът продължава работа.
- Клиентски инструмент: моделът връща
tool_callна клиента, изпълнението спира и възобновява работа, когато вие изпратите резултата обратно.
Когато моделът използва и двата типа в една и съща заявка, сървърните инструменти се изпълняват първи (без ваша намеса). След това, ако моделът има нужда и от клиентски инструмент, той ви връща tool_call, като резултатите от сървърните инструменти вече са интегрирани в неговия контекст.
Примери от реалния свят
Търсене в уеб + бизнес логика
# Потребителят пита: "Намери цената на Биткойн и я запази"
# Моделът:
# 1. Извиква web_search, за да намери цената (сървърна страна, автоматично)
# 2. Извиква save_price(symbol="BTC", price=68432) (клиентска страна)
Търсене в X + известие
# "Уведоми ме за туитове за нашия продукт от вчера насам"
# Моделът:
# 1. Извиква x_search, за да намери туитовете (сървърна страна)
# 2. Извиква send_notification(count=12, summary="...") (клиентска страна)
Code Interpreter + съхранение
# "Изчисли средната стойност на тези данни и запази резултата"
# Моделът:
# 1. Извиква code_interpreter за изчислението (сървърна страна)
# 2. Извиква save_result(key="avg", value="42.5") (клиентска страна)
Таксуване за сървърни инструменти
Вградените инструменти се таксуват по два начина:
- Токени: стандартно потребление (вход + изход)
- Извиквания: фиксирана цена за всяко извикване на инструмент
Моделът може да извика няколко сървърни инструмента за една заявка – разходите се сумират. Имайте предвид това, когато активирате web_search: моделът може да извърши множество търсения, за да прецизира резултатите си.
Ключови изводи
- Два типа инструменти: сървърни (автоматични) и клиентски (извикване на функции)
- Сървърните инструменти (
web_search,x_search,code_interpreter) се изпълняват без ваша намеса - Можете да комбинирате и двата типа в една заявка
- Сървърните инструменти се изпълняват първи, след което моделът може да извика вашите функции
- Всяко извикване на сървърен инструмент се таксува (токени + цена на извикване)
- Цитатите се генерират автоматично за данни, получени от сървърни инструменти