Vykonanie a vrátenie výsledku
Na tejto strane
Krok, ktorý máš plne pod kontrolou
Dostal si od modelu tool_call. Hovorí ti, ktorú funkciu zavolať a s akými argumentmi – nič viac. Teraz preberá štafetu tvoj kód: vykoná funkciu, získa výsledok a pošle ho späť modelu ako správu s rolou tool. Táto lekcia pokrýva celú túto cestu tam a späť. Je to jediný moment v cykle, keď robíš všetky rozhodnutia ty.
Vykonanie funkcie na strane klienta
Vráťme sa k dispatch slovníku z Lekcie 4 a prepojme ho s odpoveďou modelu.
import json
from functools import partial
# Funkcie už definované
available_functions = {
"retrieve_payment_status": partial(retrieve_payment_status, df),
"retrieve_payment_date": partial(retrieve_payment_date, df),
}
# Model vrátil tool_call
tool_call = response.choices[0].message.tool_calls[0]
function_name = tool_call.function.name
function_params = json.loads(tool_call.function.arguments)
# Vykonanie funkcie
if function_name in available_functions:
result = available_functions[function_name](**function_params)
print(f"Result: {result}")
# → '{"status": "paid"}'
else:
result = json.dumps({"error": f"Function {function_name} not available"})
Tu fungujú dva mechanizmy. Prvým je **function_params, ktoré rozbalí slovník z JSONu na pomenované argumenty: ak model vygeneroval {"transaction_id": "T1001"}, volanie je presne ekvivalentné retrieve_payment_status(transaction_id="T1001"). Druhým je blok else. Nie je síce taký efektný, ale je nevyhnutný. Model môže halucinovať názov funkcie, ktorá vo tvojom dispatchi neexistuje; bez tejto kontroly tvoja aplikácia vyhodí KeyError a konverzácia úplne zastaví. S ňou sa chyba stane dátami, ktoré model dokáže elegantne spracovať.
Vytvorenie správy typu Tool
Výsledok sa musí vrátiť modelu v špecifickom formáte – ako správa s rolou "tool":
tool_message = {
"role": "tool",
"name": function_name,
"content": result, # Musí to byť reťazec
"tool_call_id": tool_call.id
}
| Pole | Úloha |
|---|---|
role | "tool" – identifikuje správu ako výsledok funkcie |
name | Názov vykonanej funkcie |
content | Výsledok ako JSON reťazec |
tool_call_id | ID pôvodného tool_call – umožňuje modelu priradiť výsledok k správnemu volaniu |
Odoslanie výsledku a získanie konečnej odpovede
Model si medzi jednotlivými volaniami nič nepamätá: nepamätá si, že ťa o niečo požiadal. Preto mu musíš znovu zostaviť celú konverzáciu vrátane jeho vlastnej požiadavky na volanie nástroja, až potom mu predložíš výsledok.
# 1. Pridanie správy asistenta (s tool_call)
messages.append(response.choices[0].message)
# 2. Pridanie výsledku funkcie
messages.append({
"role": "tool",
"name": function_name,
"content": result,
"tool_call_id": tool_call.id
})
# 3. Opätovné volanie modelu s úplným kontextom
final_response = client.chat.complete(
model="mistral-large-latest",
messages=messages,
tools=tools
)
# 4. Zobrazenie konečnej odpovede
print(final_response.choices[0].message.content)
# → "Payment T1001 status is: paid."
Poradie týchto dvoch operácií append je nemenné: správa asistenta obsahujúca tool_call musí prísť pred správu tool, ktorá na ňu odpovedá. Ich prehodenie vytvorí nekonzistentnú históriu, ktorú API odmietne.
Celý tok v jednom bloku
Tu je celý proces od používateľovej otázky až po konečnú odpoveď:
import os
import json
from mistralai.client import Mistral
from functools import partial
# Konfigurácia
client = Mistral(api_key=os.environ["MISTRAL_API_KEY"])
model = "mistral-large-latest"
# Funkcie a nástroje (definované vyššie)
available_functions = {
"retrieve_payment_status": partial(retrieve_payment_status, df),
"retrieve_payment_date": partial(retrieve_payment_date, df),
}
# Kroky 1-2: Používateľova otázka + volanie API
messages = [
{"role": "user", "content": "What is the status of payment T1001?"}
]
response = client.chat.complete(
model=model, messages=messages, tools=tools
)
# Kroky 3-4: Extrahovanie tool_call a vykonanie
message = response.choices[0].message
if message.tool_calls:
tool_call = message.tool_calls[0]
function_name = tool_call.function.name
function_params = json.loads(tool_call.function.arguments)
# Vykonanie na strane klienta
result = available_functions[function_name](**function_params)
# Krok 5: Odoslanie výsledku späť modelu
messages.append(message)
messages.append({
"role": "tool",
"name": function_name,
"content": result,
"tool_call_id": tool_call.id
})
final_response = client.chat.complete(
model=model, messages=messages, tools=tools
)
print(final_response.choices[0].message.content)
else:
print(message.content)
Štruktúra správ v každom kroku
Oplatí sa preskúmať zoznam messages po dokončení cyklu, pretože je to najlepší spôsob, ako ladiť nefunkčné volania funkcií. Obsahuje štyri správy.
# Správa 1: Používateľova otázka
{"role": "user", "content": "What is the status of payment T1001?"}
# Správa 2: Odpoveď modelu s tool_call
{"role": "assistant", "tool_calls": [{"id": "call_abc123", ...}]}
# Správa 3: Výsledok funkcie
{"role": "tool", "name": "retrieve_payment_status",
"content": '{"status": "paid"}', "tool_call_id": "call_abc123"}
# Správa 4 (implicitná): Konečná odpoveď modelu
# → "Payment T1001 status is: paid."
Sleduj ID call_abc123: narodí sa v Správe 2 a znovu sa objaví v Správe 3. Táto nit spája požiadavku s jej odpoveďou. Táto štruktúra je základným vzorom volania funkcií; každá variácia, na ktorú neskôr narazíš, či už ide o viacnásobné kolá alebo paralelné volania, ho len opakuje alebo duplikuje.
Daj si pozor na formát obsahu
Jedna chyba sa vyskytuje častejšie než všetky ostatné a týka sa typu poľa content: musí to byť vždy reťazec.
# Správne — JSON reťazec
{"content": '{"status": "paid"}'}
# Správne — obyčajný text
{"content": "The status is paid"}
# Nesprávne — Python slovník (spôsobí chybu)
{"content": {"status": "paid"}}
Rozdiel medzi prvým a tretím príkladom spočíva v úvodzovkách obklopujúcich JSON. Ak tvoja funkcia vráti slovník, pred odoslaním ho musíš previesť pomocou json.dumps() – presne preto všetky funkcie v Lekcii 4 končili volaním json.dumps().
Kľúčové poznatky
- Vykonávanie funkcií prebieha na strane klienta, v tvojom kóde – nikdy nie priamo modelom
- Výsledok sa posiela späť v správe s rolou
"tool"a zodpovedajúcimtool_call_id contentsprávy typu tool musí byť reťazec (JSON reťazec)- Po odoslaní výsledku znova zavoláš
chat.complete(), aby model mohol sformulovať konečnú odpoveď - Vždy over, či požadovaná funkcia existuje v tvojom dispatch slovníku