Provedení funkce a vrácení výsledku
Na této stránce
Krok, který máš plně pod kontrolou
Obdržel jsi od modelu volání tool_call. Sděluje ti, kterou funkci zavolat a s jakými argumenty – nic víc. Nyní přebírá otěže tvůj kód: provede funkci, získá výsledek a odešle jej zpět modelu jako zprávu s rolí tool. Tato lekce pokrývá celou tuto cestu tam a zpět. Je to jediný okamžik v cyklu, kdy rozhoduješ o všem ty.
Provedení funkce na straně klienta
Vraťme se k dispatch slovníku z lekce 4 a propojme jej s odpovědí modelu.
import json
from functools import partial
# Funkce již definovány
available_functions = {
"retrieve_payment_status": partial(retrieve_payment_status, df),
"retrieve_payment_date": partial(retrieve_payment_date, df),
}
# Model vrátil tool_call
tool_call = response.choices[0].message.tool_calls[0]
function_name = tool_call.function.name
function_params = json.loads(tool_call.function.arguments)
# Provedení funkce
if function_name in available_functions:
result = available_functions[function_name](**function_params)
print(f"Result: {result}")
# → '{"status": "paid"}'
else:
result = json.dumps({"error": f"Function {function_name} not available"})
Zde fungují dva mechanismy. Prvním je **function_params, který rozbalí slovník z JSONu na pojmenované argumenty: pokud model vygeneroval {"transaction_id": "T1001"}, je volání přesně ekvivalentní retrieve_payment_status(transaction_id="T1001"). Druhým je blok else. Není tak efektní, ale je zásadní. Model může halucinovat název funkce, který ve tvém dispatch slovníku neexistuje; bez této kontroly by tvá aplikace vyhodila KeyError a konverzace by okamžitě skončila. S touto kontrolou se chyba stane datem, které model dokáže elegantně zpracovat.
Vytvoření zprávy typu Tool
Výsledek se musí vrátit modelu v konkrétním formátu – jako zpráva s rolí "tool":
tool_message = {
"role": "tool",
"name": function_name,
"content": result, # Musí být řetězec
"tool_call_id": tool_call.id
}
| Pole | Úloha |
|---|---|
role | "tool" – identifikuje zprávu jako výsledek funkce |
name | Název provedené funkce |
content | Výsledek jako JSON řetězec |
tool_call_id | ID původního tool_call – umožňuje modelu spárovat výsledek se správným voláním |
Odeslání výsledku a získání konečné odpovědi
Model si nepamatuje nic z jednoho volání do druhého: nepamatuje si, že tě o něco žádal. Musíš mu tedy znovu sestavit celou konverzaci, včetně jeho vlastní žádosti o volání nástroje, než mu předložíš výsledek.
# 1. Přidání zprávy asistenta (s tool_call)
messages.append(response.choices[0].message)
# 2. Přidání výsledku funkce
messages.append({
"role": "tool",
"name": function_name,
"content": result,
"tool_call_id": tool_call.id
})
# 3. Opětovné volání modelu s úplným kontextem
final_response = client.chat.complete(
model="mistral-large-latest",
messages=messages,
tools=tools
)
# 4. Zobrazení konečné odpovědi
print(final_response.choices[0].message.content)
# → "Payment T1001 status is: paid."
Pořadí těchto dvou operací append je neměnné: zpráva asistenta nesoucí tool_call musí přijít před zprávu tool, která na ni odpovídá. Jejich prohození vytvoří nekonzistentní historii, kterou API odmítne.
Kompletní tok v jednom bloku
Zde je celý proces od uživatelovy otázky až po konečnou odpověď:
import os
import json
from mistralai.client import Mistral
from functools import partial
# Konfigurace
client = Mistral(api_key=os.environ["MISTRAL_API_KEY"])
model = "mistral-large-latest"
# Funkce a nástroje (definovány dříve)
available_functions = {
"retrieve_payment_status": partial(retrieve_payment_status, df),
"retrieve_payment_date": partial(retrieve_payment_date, df),
}
# Kroky 1-2: Uživatelova otázka + volání API
messages = [
{"role": "user", "content": "What is the status of payment T1001?"}
]
response = client.chat.complete(
model=model, messages=messages, tools=tools
)
# Kroky 3-4: Extrakce tool_call a provedení
message = response.choices[0].message
if message.tool_calls:
tool_call = message.tool_calls[0]
function_name = tool_call.function.name
function_params = json.loads(tool_call.function.arguments)
# Provedení na straně klienta
result = available_functions[function_name](**function_params)
# Krok 5: Odeslání výsledku zpět modelu
messages.append(message)
messages.append({
"role": "tool",
"name": function_name,
"content": result,
"tool_call_id": tool_call.id
})
final_response = client.chat.complete(
model=model, messages=messages, tools=tools
)
print(final_response.choices[0].message.content)
else:
print(message.content)
Struktura zpráv v každém kroku
Stojí za to prohlédnout si seznam messages po dokončení cyklu, protože je to nejlepší způsob, jak ladit nefunkční volání funkcí. Obsahuje čtyři zprávy.
# Zpráva 1: Uživatelova otázka
{"role": "user", "content": "What is the status of payment T1001?"}
# Zpráva 2: Odpověď modelu s tool_call
{"role": "assistant", "tool_calls": [{"id": "call_abc123", ...}]}
# Zpráva 3: Výsledek funkce
{"role": "tool", "name": "retrieve_payment_status",
"content": '{"status": "paid"}', "tool_call_id": "call_abc123"}
# Zpráva 4 (implicitní): Konečná odpověď modelu
# → "Payment T1001 status is: paid."
Sleduj ID call_abc123: narodí se ve zprávě 2 a znovu se objeví ve zprávě 3. Toto vlákno spojuje žádost s její odpovědí. Tato struktura je základním vzorem volání funkcí; každá variace, na kterou později narazíš, ať už vícekolová nebo paralelní, jej pouze opakuje nebo duplikuje.
Pozor na formát obsahu
Jedna chyba se objevuje častěji než všechny ostatní a týká se typu pole content: musí to být vždy řetězec.
# Správně — JSON řetězec
{"content": '{"status": "paid"}'}
# Správně — prostý text
{"content": "The status is paid"}
# Nesprávně — Python slovník (způsobí chybu)
{"content": {"status": "paid"}}
Rozdíl mezi prvním a třetím příkladem spočívá v uvozovkách obklopujících JSON. Pokud tvoje funkce vrací slovník, převeď jej pomocí json.dumps() před odesláním – přesně proto všechny funkce v lekci 4 končily voláním json.dumps().
Klíčové poznatky
- Provedení funkce probíhá na straně klienta, ve tvém kódu – nikdy ne modelem
- Výsledek se odešle zpět ve zprávě s rolí
"tool"a odpovídajícímtool_call_id contentzprávy tool musí být řetězec (JSON řetězec)- Po odeslání výsledku znovu zavoláš
chat.complete(), aby model mohl formulovat konečnou odpověď - Vždy ověř, zda požadovaná funkce existuje v tvém dispatch slovníku