Begränsningar och bästa praxis
På denna sida
Tekniska begränsningar för funktionsanrop
Innan du börjar implementera måste du förstå systemets gränser. Groks funktionsanrop är kraftfulla, men de opererar inom specifika begränsningar som du måste behärska för att bygga robusta applikationer.
Maximalt 200 verktyg per begäran
Grok API:t accepterar upp till 200 verktygsdefinitioner i en enda begäran. Denna gräns är generös – de flesta applikationer använder bara 5 till 20. Men om du bygger ett skalbart system (plugins, verktygsmarknad) måste du ta hänsyn till detta.
Varje verktygsdefinition tar upp plats i kontextfönstret. Mer specifikt:
- Ett enkelt verktyg (2–3 parametrar) konsumerar cirka 50–100 token
- Ett komplext verktyg (10+ parametrar, detaljerade beskrivningar) kan överstiga 300 token
- 200 komplexa verktyg = 60 000 token enbart för definitioner
Därför måste du vara strategisk: deklarera endast de verktyg som är relevanta för den aktuella begäran.
Modellen garanterar inte giltigheten hos argument
Grok gör sitt bästa för att generera argument som matchar schemat, men det är inte ofelbart. Modellen kan:
- Generera ett felaktigt datumformat
- Skicka en
stringdär ettintegerförväntas - Utlämna ett obligatoriskt fält i sällsynta fall
- Hallucinera enum-värden som inte finns
Din klientkods måste alltid validera mottagna argument innan funktionen exekveras.
import json
def handle_tool_call(tool_call):
args = json.loads(tool_call.function.arguments)
# Validera innan exekvering
if "city" not in args:
return {"error": "The city parameter is required"}
if not isinstance(args["city"], str):
return {"error": "city must be a string"}
return get_weather(args["city"], args.get("unit", "celsius"))
Felhantering
När en funktion misslyckas måste du returnera felet till modellen istället för att krascha tyst. Modellen kan då:
- Omformulera sin begäran med korrigerade parametrar
- Informera användaren om problemet
- Försöka med ett alternativt verktyg
try:
result = search_database(query=args["query"])
return json.dumps(result)
except ConnectionError:
return json.dumps({
"error": "Database unavailable",
"suggestion": "Retry in a few seconds"
})
Returnera alltid strukturerad JSON, även vid fel. Modellen förstår felmeddelanden och anpassar sitt svar därefter.
Unika och explicita namn
Funktionsnamn måste vara unika i verktygslistan. Om två verktyg delar samma namn är beteendet odefinierat – API:t kan avvisa begäran eller ignorera ett av dem.
Anta en konsekvent namngivningskonvention:
✅ Bästa praxis:
get_weather → datahämtning
search_products → sökning
create_ticket → skapande
update_order_status → uppdatering
delete_draft → radering
❌ Undvik:
fn1, fn2 → obegripligt
doStuff → för vagt
getWeatherData → camelCase (föredra snake_case)
Beskrivningar: den viktigaste kvalitetsfaktorn
Beskrivningarnas kvalitet avgör direkt tillförlitligheten hos funktionsanrop. Här är en jämförelsetabell:
| Svag beskrivning | Effektiv beskrivning |
|---|---|
| "Search" | "Search for products by name, category, or price range in the e-commerce catalog" |
| "Send message" | "Send an email to a recipient. Requires a subject and message body. Does not support attachments." |
| "Calculate" | "Calculate the total price including tax from a pre-tax price and a VAT rate. Returns the amount in euros with 2 decimal places." |
Optimering av antalet verktyg
Istället för att deklarera 200 verktyg vid varje begäran, välj dynamiskt de som faktiskt spelar roll. Det första filtret är kontext: om användaren pratar om väder lägger tillägget av faktureringsverktyg bara till brus – en lätt upstream-routning (efter nyckelord eller ett första klassificeringsanrop) räcker för att endast presentera den relevanta familjen. Det andra filtret är roll: en supportagent behöver inte admin-verktyg, och att ta bort dem handlar lika mycket om precision som om säkerhet. Det tredje är steg: i ett flerstegsarbetsflöde har varje fas sina egna verktyg – att ladda dem efter hand håller modellen fokuserad på vad den behöver göra just nu.
Fördelen är twofold och omedelbar: färre input-token per begäran (verktygsdefinitioner kostar dig vid varje anrop), och bättre urvalsnoggrannhet – en modell som väljer mellan sex välbeskrivna verktyg gör sällan fel, medan samma modell som ställs inför tvåhundra definitioner tenderar att förväxla nära varianter.
Säkerhet: lita aldrig på modellen
Funktionsanrop är en potentiell injektionsvektor. En illvillig användare kan formulera sin begäran för att manipulera argument som skickas till funktioner. Säkerhetsregler:
- Validera alla argument på serversidan
- Begränsa behörigheter: en läsfunktion ska inte kunna skriva
- Logga anrop: spåra varje funktionsanrop för granskning
- Sanera indata: escape:a specialtecken innan SQL-/shell-frågor
Viktiga punkter
- Maximalt 200 verktyg per begäran – men sikta på 5–20 för effektivitet
- Validera alltid argument på klientsidan innan exekvering
- Returnera fel till modellen i strukturerad JSON
- Namn måste vara unika, använda snake_case och vara explicita
- Detaljerade beskrivningar förbättrar tillförlitligheten drastiskt
- Välj dynamiskt relevanta verktyg för varje begäran
- Lita aldrig på argument utan validering