Korlátok és legjobb gyakorlatok
Ezen az oldalon
A függvényhívás technikai korlátai
Mielőtt belevágnál a megvalósításba, meg kell értened a rendszer korlátait. A Grok függvényhívása erőteljes eszköz, de specifikus megszorítások között működik, amelyeket mesterszinten kell kezelned a robusztus alkalmazások felépítéséhez.
Legfeljebb 200 eszköz kérésenként
A Grok API egyetlen kérésben legfeljebb 200 eszközdefiníciót fogad el. Ez a korlát nagylelkű – a legtöbb alkalmazás csupán 5–20 eszközt használ. Ha azonban skálázható rendszert építesz (bővítmények, eszközpiactér), számolnod kell ezzel a határral.
Minden eszközdefiníció helyet foglal el a kontextusablakban. Konkrétabban:
- Egy egyszerű eszköz (2–3 paraméter) körülbelül 50–100 tokent fogyaszt
- Egy összetett eszköz (10+ paraméter, részletes leírások) meghaladhatja a 300 tokent
- 200 összetett eszköz = 60 000 token kizárólag a definíciókhoz
Ezért kell stratégiát alkotnod: csak az aktuális kéréshez releváns eszközöket deklarálj.
A modell nem garantálja az argumentumok érvényességét
A Grok mindent megtesz, hogy a sémának megfelelő argumentumokat generáljon, de nem tévedhetetlen. A modell képes lehet:
- Helytelen dátumformátumot generálni
stringtípust átadni ott, aholintegervárható- Ritka esetekben kihagyni egy kötelező mezőt
- Nem létező enum értékeket hallucinálni
A kliensoldali kódodnak mindig validálnia kell a fogadott argumentumokat a függvény végrehajtása előtt.
import json
def handle_tool_call(tool_call):
args = json.loads(tool_call.function.arguments)
# Validálás végrehajtás előtt
if "city" not in args:
return {"error": "A város paraméter kötelező"}
if not isinstance(args["city"], str):
return {"error": "A városnak szövegnek kell lennie"}
return get_weather(args["city"], args.get("unit", "celsius"))
Hibakezelés
Ha egy függvény meghibásodik, a hibát vissza kell küldened a modellnek, ahelyett, hogy csendben összeomlanál. A modell ezután:
- Újrafogalmazhatja a kérését javított paraméterekkel
- Tájékoztathatja a felhasználót a problémáról
- Megpróbálhat egy alternatív eszközt használni
try:
result = search_database(query=args["query"])
return json.dumps(result)
except ConnectionError:
return json.dumps({
"error": "Az adatbázis nem elérhető",
"suggestion": "Próbáld újra néhány másodperc múlva"
})
Hiba esetén is mindig strukturált JSON-t adj vissza. A modell érti a hibaüzeneteket, és ennek megfelelően igazítja a válaszát.
Egyedi és egyértelmű nevek
A függvényneveknek egyedinek kell lenniük az eszközlistában. Ha két eszköz ugyanazt a nevet viseli, a viselkedés meghatározatlan – az API elutasíthatja a kérést, vagy figyelmen kívül hagyhatja az egyiket.
Fogadj el egy konzisztens elnevezési konvenciót:
✅ Bevált gyakorlatok:
get_weather → adatlekérés
search_products → keresés
create_ticket → létrehozás
update_order_status → frissítés
delete_draft → törlés
❌ Kerülendő:
fn1, fn2 → érthetetlen
doStuff → túl általános
getWeatherData → camelCase (a snake_case előnyösebb)
Leírások: a minőség elsődleges tényezője
A leírások minősége közvetlenül meghatározza a függvényhívás megbízhatóságát. Íme egy összehasonlító táblázat:
| Gyenge leírás | Hatékony leírás |
|---|---|
| "Keresés" | "Termékek keresése név, kategória vagy ártartomány alapján az e-kereskedelmi katalógusban" |
| "Üzenet küldése" | "E-mail küldése egy címzettnek. Tárgyat és üzenettörzset igényel. Nem támogat mellékleteket." |
| "Számítás" | "Az ÁFA-t is tartalmazó végösszeg kiszámítása az adó nélküli árból és az ÁFA-kulcsból. Az összeget euróban, két tizedesjegy pontossággal adja vissza." |
Az eszközök számának optimalizálása
Ahelyett, hogy minden kérésnél 200 eszközt deklarálnál, dinamikusan válaszd ki azokat, amelyek valóban számítanak. Az első szűrő a kontextus: ha a felhasználó az időjárásról beszél, a számlázási eszközök betöltése csak zajt generál – egy könnyű előszűrés (kulcsszavak alapján vagy egy első osztályozó hívással) elegendő ahhoz, hogy csak a releváns családot mutasd be. A második szűrő a szerepkör: egy ügyfélszolgálatos ügynöknek nincs szüksége adminisztrátori eszközökre, ezek eltávolítása pedig ugyanolyan fontos a pontosság, mint a biztonság szempontjából. A harmadik a lépés: egy több lépésből álló munkafolyamatban minden fázisnak megvannak a saját eszközei – ezek fokozatos betöltése segít a modellnek arra koncentrálni, amit éppen most kell tennie.
Az előny kétszeres és azonnali: kevesebb bemeneti token kérésenként (az eszközdefiníciók minden hívásnál költséget jelentenek), és jobb kiválasztási pontosság – egy modell, amely hat jól leírt eszköz közül választ, ritkán hibázik, míg ugyanez a modell kétszáz definíció előtt állva hajlamos összekeverni a hasonló variánsokat.
Biztonság: soha ne bízz a modellben
A függvényhívás potenciális behatolási vektor lehet. Egy rosszindulatú felhasználó úgy fogalmazhatja meg a kérését, hogy manipulálja a függvényeknek átadott argumentumokat. Biztonsági szabályok:
- Validálj minden argumentumot szerveroldalon
- Korlátozd a jogosultságokat: egy olvasó függvény ne tudjon írni
- Naplózd a hívásokat: kövess nyomon minden függvényhívást auditálási céllal
- Tisztítsd meg a bemeneteket: speciális karakterek escape-elése SQL vagy shell lekérdezések előtt
Főbb megállapítások
- Legfeljebb 200 eszköz kérésenként – de a hatékonyság érdekében törekedj az 5–20-ra
- Mindig validáld az argumentumokat kliensoldalon a végrehajtás előtt
- A hibákat strukturált JSON formátumban küldd vissza a modellnek
- A nevek legyenek egyediek, snake_case formátumúak és egyértelműek
- A részletes leírások drasztikusan javítják a megbízhatóságot
- Dinamikusan válaszd ki a releváns eszközöket minden kéréshez
- Soha ne bízz az argumentumokban validálás nélkül