Izvrši i vrati rezultat
Na ovoj stranici
Korak koji u potpunosti kontroliraš
Primio/la si tool_call od modela. On ti govori koju funkciju pozvati i s kojim argumentima—ništa više. Sada tvoj kod preuzima kontrolu: izvršava funkciju, dohvaća rezultat i šalje ga natrag modelu kao poruku s ulogom tool. Ova lekcija pokriva cijeli taj krug. Ovo je jedini trenutak u ciklusu u kojem ti donosiš sve odluke.
Izvrši funkciju na strani klijenta
Vratimo se rječniku za usmjeravanje iz Lekcije 4 i povežimo ga s odgovorom modela.
import json
from functools import partial
# Funkcije su već definirane
available_functions = {
"retrieve_payment_status": partial(retrieve_payment_status, df),
"retrieve_payment_date": partial(retrieve_payment_date, df),
}
# Model je vratio tool_call
tool_call = response.choices[0].message.tool_calls[0]
function_name = tool_call.function.name
function_params = json.loads(tool_call.function.arguments)
# Izvrši funkciju
if function_name in available_functions:
result = available_functions[function_name](**function_params)
print(f"Result: {result}")
# → '{"status": "paid"}'
else:
result = json.dumps({"error": f"Function {function_name} not available"})
Ovdje rade dva mehanizma. Prvi je **function_params, koji raspakirava rječnik iz JSON-a u imenovane argumente: ako je model generirao {"transaction_id": "T1001"}, poziv je točno ekvivalentan retrieve_payment_status(transaction_id="T1001"). Drugi je blok else. Manje je uočljiv, ali ključan. Model može halucinirati ime funkcije koje ne postoji u tvom rječniku za usmjeravanje; bez ove provjere, tvoja aplikacija bi bacila KeyError i razgovor bi se naglo zaustavio. S njom, greška postaje podatak s kojim model može elegantno upravljati.
Izgradi poruku alata (Tool Message)
Rezultat se mora vratiti modelu u specifičnom formatu—kao poruka s ulogom "tool":
tool_message = {
"role": "tool",
"name": function_name,
"content": result, # Mora biti string
"tool_call_id": tool_call.id
}
| Polje | Uloga |
|---|---|
role | "tool"—identificira poruku kao rezultat funkcije |
name | Ime izvršene funkcije |
content | Rezultat kao JSON string |
tool_call_id | ID izvornog tool_call—omogućuje modelu da poveže rezultat s ispravnim pozivom |
Pošalji rezultat i dobij konačni odgovor
Model nema memoriju od jednog poziva do drugog: ne sjeća se da je išta tražio od tebe. Zato moraš za njega ponovno izgraditi cijeli razgovor, uključujući i njegov vlastiti zahtjev za poziv alata, prije nego što mu predočiš rezultat.
# 1. Dodaj poruku asistenta (s tool_call)
messages.append(response.choices[0].message)
# 2. Dodaj rezultat funkcije
messages.append({
"role": "tool",
"name": function_name,
"content": result,
"tool_call_id": tool_call.id
})
# 3. Ponovno pozovi model s punim kontekstom
final_response = client.chat.complete(
model="mistral-large-latest",
messages=messages,
tools=tools
)
# 4. Prikaži konačni odgovor
print(final_response.choices[0].message.content)
# → "Payment T1001 status is: paid."
Redoslijed dviju operacija append nije pregovarački: poruka asistenta koja nosi tool_call mora doći prije poruke tool koja na nju odgovara. Zamjena mjesta stvara nedosljednu povijest koju API odbija.
Cijeli tijek u jednom bloku
Evo cjelokupnog procesa, od korisnikovog pitanja do konačnog odgovora:
import os
import json
from mistralai.client import Mistral
from functools import partial
# Konfiguracija
client = Mistral(api_key=os.environ["MISTRAL_API_KEY"])
model = "mistral-large-latest"
# Funkcije i alati (definirani ranije)
available_functions = {
"retrieve_payment_status": partial(retrieve_payment_status, df),
"retrieve_payment_date": partial(retrieve_payment_date, df),
}
# Koraci 1-2: Korisnikovo pitanje + API poziv
messages = [
{"role": "user", "content": "What is the status of payment T1001?"}
]
response = client.chat.complete(
model=model, messages=messages, tools=tools
)
# Koraci 3-4: Izdvoji tool_call i izvrši ga
message = response.choices[0].message
if message.tool_calls:
tool_call = message.tool_calls[0]
function_name = tool_call.function.name
function_params = json.loads(tool_call.function.arguments)
# Izvršavanje na strani klijenta
result = available_functions[function_name](**function_params)
# Korak 5: Pošalji rezultat natrag modelu
messages.append(message)
messages.append({
"role": "tool",
"name": function_name,
"content": result,
"tool_call_id": tool_call.id
})
final_response = client.chat.complete(
model=model, messages=messages, tools=tools
)
print(final_response.choices[0].message.content)
else:
print(message.content)
Struktura poruke u svakom koraku
Vrijedi inspectirati listu messages nakon što se ciklus završi, jer je to najbolji način za otklanjanje grešaka u pozivanju funkcija. Sadrži četiri poruke.
# Poruka 1: Korisnikovo pitanje
{"role": "user", "content": "What is the status of payment T1001?"}
# Poruka 2: Odgovor modela s tool_call
{"role": "assistant", "tool_calls": [{"id": "call_abc123", ...}]}
# Poruka 3: Rezultat funkcije
{"role": "tool", "name": "retrieve_payment_status",
"content": '{"status": "paid"}', "tool_call_id": "call_abc123"}
# Poruka 4 (implicitna): Konačni odgovor modela
# → "Payment T1001 status is: paid."
Prati ID call_abc123: rođen je u Poruci 2 i ponovno se pojavljuje u Poruci 3. Ta nit povezuje zahtjev s njegovim odgovorom. Ova struktura je temeljni obrazac pozivanja funkcija; svaka varijacija na koju kasnije naiđeš, bilo da je višekružna ili paralelna, samo ga ponavlja ili duplicira.
Pazi na format sadržaja
Jedna se greška pojavljuje češće od svih ostalih, a svodi se na tip polja content: ono uvijek mora biti string.
# Ispravno — JSON string
{"content": '{"status": "paid"}'}
# Ispravno — običan tekst
{"content": "The status is paid"}
# Neispravno — Python rječnik (uzrokovat će grešku)
{"content": {"status": "paid"}}
Razlika između prvog i trećeg primjera leži u navodnicima koji okružuju JSON. Ako tvoja funkcija vraća rječnik, pretvori ga s json.dumps() prije slanja—upravo zato su sve funkcije u Lekciji 4 završavale s json.dumps().
Ključne točke
- Izvršavanje funkcije događa se na strani klijenta, u tvom kodu—nikada od strane modela
- Rezultat se šalje natrag u poruci s ulogom
"tool"i odgovarajućimtool_call_id - Sadržaj (
content) poruke alata mora biti string (JSON string) - Nakon slanja rezultata, ponovno pozivaš
chat.complete()kako bi model mogao formulirati konačni odgovor - Uvijek provjeri postoji li tražena funkcija u tvom rječniku za usmjeravanje