Κλήση συναρτήσεων μέσω φωνής
Σε αυτήν τη σελίδα
Εκτέλεση συναρτήσεων από μια φωνητική συνομιλία
Η κλήση συναρτήσεων μέσω φωνής επιτρέπει στον πράκτορά σας να ενεργοποιεί πραγματικές ενέργειες κατά τη διάρκεια μιας συνομιλίας: ερώτημα σε βάση δεδομένων, καταχώρηση παραγγελίας, αποστολή email ή κλήση εξωτερικού API. Ο πράκτορας αποφασίζει πότε θα καλέσει μια συνάρτηση με βάση αυτά που λέει ο χρήστης.
Ο πράκτορας εντοπίζει την ανάγκη
Ο χρήστης λέει κάτι που απαιτεί κλήση συνάρτησης. Ο πράκτορας δημιουργεί τα ορίσματα.
Η εφαρμογή σας εκτελεί τη συνάρτηση
Λαμβάνετε τα ορίσματα μέσω του συμβάντος function_call_arguments.done και εκτελείτε την επιχειρηματική σας λογική.
Στέλνετε πίσω το αποτέλεσμα
Στείλτε conversation.item.create με τον τύπο function_call_output και το call_id.
Ο πράκτορας συνεχίζει τη συνομιλία
Στείλτε response.create ώστε ο πράκτορας να ενσωματώσει το αποτέλεσμα στην προφορική του απάντηση.
Δήλωση μιας συνάρτησης
Δηλώνετε τις συναρτήσεις στον πίνακα tools του session.update:
{
"type": "session.update",
"session": {
"tools": [
{
"type": "function",
"name": "get_balance",
"description": "Gets the balance of a customer's bank account",
"parameters": {
"type": "object",
"properties": {
"client_id": {
"type": "string",
"description": "Customer ID"
}
},
"required": ["client_id"]
}
}
]
}
}
Λήψη και διαχείριση κλήσης συνάρτησης
Όταν ο πράκτορας αποφασίσει να καλέσει μια συνάρτηση, λαμβάνετε τα ορίσματα ως ροή και στη συνέχεια όλα μαζί:
let functionArgs = "";
ws.on("message", (data) => {
const event = JSON.parse(data);
switch (event.type) {
case "response.function_call_arguments.delta":
functionArgs += event.delta;
break;
case "response.function_call_arguments.done":
const args = JSON.parse(event.arguments);
const callId = event.call_id;
const functionName = event.name;
// Run the function
handleFunctionCall(functionName, args, callId);
break;
}
});
async function handleFunctionCall(name, args, callId) {
let result;
switch (name) {
case "get_balance":
result = await getBalance(args.client_id);
break;
default:
result = { error: "Unknown function" };
}
// Send back the result
ws.send(JSON.stringify({
type: "conversation.item.create",
item: {
type: "function_call_output",
call_id: callId,
output: JSON.stringify(result)
}
}));
// Ask the agent to continue
ws.send(JSON.stringify({
type: "response.create"
}));
}
Παράλληλες κλήσεις συναρτήσεων
Ο πράκτορας μπορεί να αποφασίσει να καλέσει πολλές συναρτήσεις ταυτόχρονα. Σε αυτή την περίπτωση, λαμβάνετε πολλά συμβάντα function_call_arguments.done. Ο κανόνας είναι:
- Επιλύστε κάθε συνάρτηση πριν απαντήσετε
- Υποβάλετε κάθε αποτέλεσμα, με ένα
conversation.item.createανά αποτέλεσμα - Στείλτε ένα μόνο
response.createστο τέλος
const pendingCalls = new Map();
let expectedCalls = 0;
case "response.function_call_arguments.done":
const result = await executeFunction(event.name, event.arguments);
pendingCalls.set(event.call_id, result);
if (pendingCalls.size === expectedCalls) {
// Every function is resolved
for (const [callId, output] of pendingCalls) {
ws.send(JSON.stringify({
type: "conversation.item.create",
item: {
type: "function_call_output",
call_id: callId,
output: JSON.stringify(output)
}
}));
}
// A single response.create for all the outputs
ws.send(JSON.stringify({ type: "response.create" }));
pendingCalls.clear();
}
break;
Βέλτιστες πρακτικές
- Σαφείς περιγραφές: η ποιότητα των περιγραφών των συναρτήσεών σας καθορίζει πότε θα τις χρησιμοποιήσει ο πράκτορας
- Γρήγορη εκτέλεση: μια συνάρτηση που διαρκεί περισσότερο από 2 ή 3 δευτερόλεπτα δημιουργεί μια άβολη σιωπή
- Διαχείριση σφαλμάτων: επιστρέψτε ένα ευανάγνωστο μήνυμα σφάλματος αντί για μια τεχνική εξαίρεση
- Προφορική επιβεβαίωση: για ευαίσθητες ενέργειες (πληρωμές, διαγραφές), ζητήστε από τον χρήστη να επιβεβαιώσει πριν τις εκτελέσετε
Βασικά σημεία
- Η κλήση συναρτήσεων μέσω φωνής ακολουθεί έναν τετραμερή κύκλο: εντοπισμός, εκτέλεση, επιστροφή αποτελέσματος, συνέχιση
- Δηλώνετε τις συναρτήσεις στο
session.updateμε ένα σχήμα JSON για τις παραμέτρους τους - Το αποτέλεσμα πρέπει να σταλεί πίσω μέσω του
conversation.item.createμεtype: "function_call_output" - Στέλνετε πάντα
response.createμετά την υποβολή των αποτελεσμάτων - Για παράλληλες κλήσεις, περιμένετε όλα τα αποτελέσματα πριν στείλετε ένα μόνο
response.create