Den 5-trins eksekveringsflow
På denne side
Hvordan Grok beslutter at bruge et værktøj
Når du aktiverer ét eller flere værktøjer i din API-anmodning, bruger modellen dem ikke nødvendigvis. Den følger en struktureret beslutningsproces i fem trin for at afgøre, om et værktøj er nødvendigt, hvilket der skal bruges, og hvordan resultaterne integreres i svaret.
At forstå dette flow hjælper dig med at forudsige modellens adfærd og optimere dine prompts for at opnå præcise resultater.
Flowets 5 trin
Trin 1: Analyse af anmodningen
Modellen starter med at analysere brugerens besked for at identificere, hvad der bliver spurgt om. Den vurderer spørgsmålets karakter: Er det et faktaspørgsmål, der kræver nyeste data? En kompleks beregning? Et meningsspørgsmål, der ikke kræver værktøjer?
Denne analyse er afgørende. Hvis modellen allerede har informationen i sine træningsdata, og der ikke kræves realtidsdata, kan den vælge at svare direkte uden at aktivere et værktøj.
Trin 2: Beslutning om kald
Baseret på sin analyse beslutter modellen, om den skal kalde et værktøj eller svare direkte. Denne beslutning afhænger af tre faktorer. For det første spørgsmålets karakter: En forespørgsel om aktuelle begivenheder peger naturligt mod Websøgning, mens et spørgsmål om, hvad folk siger lige nu om et emne, peger mod X-søgning. For det andet det omfang, du har defineret: Modellen vælger kun blandt værktøjer, der er aktiveret i dit tools-array – et fraværende værktøj eksisterer simpelthen ikke for den. Endelig dens egen tillid: Hvis den mener, den kan svare korrekt ud fra hukommelsen, undgår den kaldet, hvilket er den ønskede adfærd de fleste gange.
Du beholder kontrollen over denne beslutning via prompten: „Søg efter de seneste oplysninger om…” peger tydeligt mod Websøgning, mens en neutral formulering overlader beslutningen til modellen selv.
Trin 3: Eksekvering
Behandlingen varierer afhængigt af værktøjskategorien:
- Indbygget værktøj: Eksekveringen er automatisk og transparent. xAI-serveren udfører søgningen eller kodeeksekveringen, og resultatet sendes direkte til modellen. Du ser ikke dette trin i API-svaret.
- Funktionskald: Modellen returnerer et objekt, der beskriver funktionen, der skal kaldes, og dens argumenter. Din kode skal udføre funktionen og returnere resultatet via en ny anmodning.
Trin 4: Resultatbehandling
Når resultaterne er indhentet, evaluerer modellen dem, før den svarer – og her bliver flowet virkelig agent-baseret. Hvis resultaterne er tilstrækkelige, går den direkte videre til at formulere det endelige svar. Hvis de er utilstrækkelige – søgningen er for snæver, resultaterne er irrelevante – kan den udstede et nyt kald med justerede parametre, hvor den udvider eller forfiner sin forespørgsel, uden at du behøver at gribe ind. Og ved et virkelig komplekst spørgsmål kæder den flere værktøjer sammen: f.eks. en websøgning for at indsamle tal, efterfulgt af Kodeeksekvering for at analysere dem.
Denne iterative adfærd er værdifuld for svarets kvalitet, men den har en direkte konsekvens for regningen: Hvert værktøjskald faktureres separat, og et spørgsmål, der udløser tre søgninger, koster tre invocationer. Hold denne mekanisme i tankerne, når du estimerer dine omkostninger.
Trin 5: Endeligt svar
Modellen formulerer sit svar ved at integrere de indsamlede oplysninger. Hvis web- eller X-kilder er blevet konsulteret, inkluderer svaret automatisk citationer med de originale URLs. Disse citationer er tilgængelige i feltet citations i svarobjektet.
Praktiske implikationer
Kumulative omkostninger
Modellen kan foretage flere værktøjskald for en enkelt brugeranmodning. Hvert kald faktureres uafhængigt ud over token-forbruget. En tvetydig prompt kan generere unødvendige kald og øge dine omkostninger.
Kontrol via prompt
Du kan ikke tvinge modellen til at bruge et specifikt værktøj, men du kan guide den stærkt via din system-prompt eller brugerbesked. Klare instruktioner reducerer unødvendige kald.
Ikke-deterministisk adfærd
Valget af at bruge et værktøj eller ej kan variere mellem to identiske kald, især ved høje temperaturindstillinger. Brug en lav temperatur (0,0 til 0,3) for at opnå reproducerbare resultater.
Vigtige pointer
- Modellen følger et 5-trins flow: analyse, beslutning, eksekvering, behandling, svar
- Den anmoder kun om et værktøj, hvis den finder det nødvendigt – det sker ikke automatisk
- Flere kald er mulige og øger omkostningerne
- En præcis prompt reducerer unødvendige kald og forbedrer relevansen
- Citationer inkluderes automatisk, når kilder er blevet konsulteret