Funkciju izsaukšana ar balsi
Šajā lapā
Funkciju izpilde sarunas laikā ar balsi
Funkciju izsaukšana ar balsi ļauj tavam aģentam sarunas laikā veikt reālas darbības: vaicāt datubāzi, noformēt pasūtījumu, nosūtīt e-pastu vai izsaukt ārēju API. Aģents pats lemj, kad izsaukt funkciju, balstoties uz lietotāja teikto.
Aģents identificē nepieciešamību
Lietotājs pasaka kaut ko, kas prasa funkcijas izsaukumu. Aģents ģenerē argumentus.
Tava lietotne izpilda funkciju
Tu saņem argumentus, izmantojot notikumu function_call_arguments.done, un izpildi savu biznesa loģiku.
Tu nosūti rezultātu atpakaļ
Nosūti conversation.item.create ar tipu function_call_output un call_id.
Aģents turpina sarunu
Nosūti response.create, lai aģents iekļautu rezultātu savā mutiskajā atbildē.
Funkcijas deklarēšana
Funkcijas deklarē session.update masīvā tools:
{
"type": "session.update",
"session": {
"tools": [
{
"type": "function",
"name": "get_balance",
"description": "Gets the balance of a customer's bank account",
"parameters": {
"type": "object",
"properties": {
"client_id": {
"type": "string",
"description": "Customer ID"
}
},
"required": ["client_id"]
}
}
]
}
}
Funkcijas izsaukuma saņemšana un apstrāde
Kad aģents nolemj izsaukt funkciju, tu vispirms saņem argumentus kā plūsmu, pēc tam visus uzreiz:
let functionArgs = "";
ws.on("message", (data) => {
const event = JSON.parse(data);
switch (event.type) {
case "response.function_call_arguments.delta":
functionArgs += event.delta;
break;
case "response.function_call_arguments.done":
const args = JSON.parse(event.arguments);
const callId = event.call_id;
const functionName = event.name;
// Izpildi funkciju
handleFunctionCall(functionName, args, callId);
break;
}
});
async function handleFunctionCall(name, args, callId) {
let result;
switch (name) {
case "get_balance":
result = await getBalance(args.client_id);
break;
default:
result = { error: "Unknown function" };
}
// Nosūti rezultātu atpakaļ
ws.send(JSON.stringify({
type: "conversation.item.create",
item: {
type: "function_call_output",
call_id: callId,
output: JSON.stringify(result)
}
}));
// Lūdz aģentam turpināt
ws.send(JSON.stringify({
type: "response.create"
}));
}
Paralēli funkciju izsaukumi
Aģents var nolemt vienlaikus izsaukt vairākas funkcijas. Tad tu saņem vairākus function_call_arguments.done notikumus. Noteikums ir šāds:
- Atrisini katru funkciju pirms atbildēšanas
- Iesniedz katru rezultātu, izmantojot vienu
conversation.item.createkatram rezultātam - Nosūti vienu
response.createbeigās
const pendingCalls = new Map();
let expectedCalls = 0;
case "response.function_call_arguments.done":
const result = await executeFunction(event.name, event.arguments);
pendingCalls.set(event.call_id, result);
if (pendingCalls.size === expectedCalls) {
// Katra funkcija ir atrisināta
for (const [callId, output] of pendingCalls) {
ws.send(JSON.stringify({
type: "conversation.item.create",
item: {
type: "function_call_output",
call_id: callId,
output: JSON.stringify(output)
}
}));
}
// Viens response.create visiem izvadiem
ws.send(JSON.stringify({ type: "response.create" }));
pendingCalls.clear();
}
break;
Labākā prakse
- Skaidri apraksti: tava funkciju aprakstu kvalitāte nosaka, kad aģents tās izmantos
- Ātra izpilde: funkcija, kas ilgst vairāk nekā 2 vai 3 sekundes, radīs neērtu klusumu
- Kļūdu apstrāde: atgriez lasāmu kļūdas ziņojumu, nevis tehnisku izņēmumu
- Mutisks apstiprinājums: sensitīvām darbībām (maksājumi, dzēšana) liec lietotājam tās apstiprināt pirms izpildes
Galvenās atziņas
- Funkciju izsaukšana ar balsi seko četru soļu ciklam: noteikšana, izpilde, rezultāta atgriešana, turpināšana
- Funkcijas deklarē
session.update, norādot to parametru JSON shēmu - Rezultāts jānosūta atpakaļ, izmantojot
conversation.item.createartype: "function_call_output" - Vienmēr nosūti
response.createpēc rezultātu iesniegšanas - Paralēlu izsaukumu gadījumā sagaidi visus rezultātus, pirms nosūti vienu
response.create