Pāriet uz galveno saturu
Latviešu— Izvēlēties valodu
Izvēlne

Izpildīt un atgriezt rezultātu

Nodarbība 6 no 14 Atjaunota 2026. gada 2. novembris Programmētājs
Šajā lapā
  1. Solis, ko tu pilnībā kontrolē
  2. Funkcijas izpilde klienta pusē
  3. Ziņojuma par rīku (Tool Message) izveide
  4. Rezultāta nosūtīšana un galīgās atbildes saņemšana
  5. Pilna plūsma vienā blokā
  6. Ziņojuma struktūra katrā solī
  7. Pievērs uzmanību satura formātam
  8. Galvenās atziņas

Solis, ko tu pilnībā kontrolē

Tu esi saņēmis tool_call no modeļa. Tas tev norāda, kuru funkciju izsaukt un ar kādiem argumentiem — neko vairāk. Tagad pārņem tavs kods: tas izpilda funkciju, iegūst rezultātu un nosūta to atpakaļ modelim kā ziņojumu ar lomu tool. Šī nodarbība aptver visu šo ciklu. Tas ir vienīgais brīdis, kad tu pieņem visus lēmumus.

Funkcijas izpilde klienta pusē

Atgriezīsimies pie dispersijas vārdnīcas no 4. nodarbības un sasaistīsim to ar modeļa atbildi.

import json
from functools import partial

# Funkcijas jau ir definētas
available_functions = {
    "retrieve_payment_status": partial(retrieve_payment_status, df),
    "retrieve_payment_date": partial(retrieve_payment_date, df),
}

# Modelis atgrieza tool_call
tool_call = response.choices[0].message.tool_calls[0]
function_name = tool_call.function.name
function_params = json.loads(tool_call.function.arguments)

# Funkcijas izpilde
if function_name in available_functions:
    result = available_functions[function_name](**function_params)
    print(f"Result: {result}")
    # → '{"status": "paid"}'
else:
    result = json.dumps({"error": f"Function {function_name} not available"})

Šeit darbojas divi mehānismi. Pirmais ir **function_params, kas izvērš vārdnīcu no JSON nosauktos argumentos: ja modelis ģenerēja {"transaction_id": "T1001"}, izsaukums ir precīzi ekvivalents retrieve_payment_status(transaction_id="T1001"). Otrais ir bloks else. Tas nav tik iespaidīgs, bet ir būtisks. Modelis var halucinēt funkcijas nosaukumu, kas nepastāv tavā dispersijā; bez šīs pārbaudes tava lietotne izraisīs KeyError un saruna apstāsies. Ar to kļūda pārvēršas datos, kurus modelis var eleganti apstrādāt.

Ziņojuma par rīku (Tool Message) izveide

Rezultāts ir jānosūta atpakaļ modelim specifiskā formātā — kā ziņojums ar lomu "tool":

tool_message = {
    "role": "tool",
    "name": function_name,
    "content": result,  # Jābūt virknei (string)
    "tool_call_id": tool_call.id
}
LauksLoma
role"tool" — identificē ziņojumu kā funkcijas rezultātu
nameIzpildītās funkcijas nosaukums
contentRezultāts kā JSON virkne
tool_call_idSākotnējā tool_call ID — ļauj modelim saskaņot rezultātu ar pareizo izsaukumu

Rezultāta nosūtīšana un galīgās atbildes saņemšana

Modelim nav atmiņas no viena izsaukuma uz nākamo: tas neatceras, ka ir tevi kaut ko lūdzis. Tāpēc tev ir jāpārbūvē visa saruna tam, ieskaitot tā paša pieprasījumu pēc rīka izsaukuma, pirms tu prezentē rezultātu.

# 1. Pievieno asistenta ziņojumu (ar tool_call)
messages.append(response.choices[0].message)

# 2. Pievieno funkcijas rezultātu
messages.append({
    "role": "tool",
    "name": function_name,
    "content": result,
    "tool_call_id": tool_call.id
})

# 3. Atkārtoti izsauc modeli ar pilnu kontekstu
final_response = client.chat.complete(
    model="mistral-large-latest",
    messages=messages,
    tools=tools
)

# 4. Parādi galīgo atbildi
print(final_response.choices[0].message.content)
# → "Payment T1001 status is: paid."

Divu append operāciju secība nav apspriežama: asistenta ziņojumam, kas nes tool_call, ir jābūt pirms tool ziņojuma, kas uz to atbild. To samainīšana vietām rada neatbilstošu vēsturi, ko API noraida.

Pilna plūsma vienā blokā

Lūk, viss process no lietotāja jautājuma līdz galīgajai atbildei:

import os
import json
from mistralai.client import Mistral
from functools import partial

# Konfigurācija
client = Mistral(api_key=os.environ["MISTRAL_API_KEY"])
model = "mistral-large-latest"

# Funkcijas un rīki (definēti iepriekš)
available_functions = {
    "retrieve_payment_status": partial(retrieve_payment_status, df),
    "retrieve_payment_date": partial(retrieve_payment_date, df),
}

# 1.–2. solis: Lietotāja jautājums + API izsaukums
messages = [
    {"role": "user", "content": "What is the status of payment T1001?"}
]

response = client.chat.complete(
    model=model, messages=messages, tools=tools
)

# 3.–4. solis: Ekstrahē tool_call un izpildi to
message = response.choices[0].message

if message.tool_calls:
    tool_call = message.tool_calls[0]
    function_name = tool_call.function.name
    function_params = json.loads(tool_call.function.arguments)

    # Izpilde klienta pusē
    result = available_functions[function_name](**function_params)

    # 5. solis: Nosūti rezultātu atpakaļ modelim
    messages.append(message)
    messages.append({
        "role": "tool",
        "name": function_name,
        "content": result,
        "tool_call_id": tool_call.id
    })

    final_response = client.chat.complete(
        model=model, messages=messages, tools=tools
    )
    print(final_response.choices[0].message.content)
else:
    print(message.content)

Ziņojuma struktūra katrā solī

Ir vērts pārbaudīt sarakstu messages, kad cikls ir pabeigts, jo tas ir labākais veids, kā atkļūdot nepareizi strādājošu funkciju izsaukšanu. Tas satur četrus ziņojumus.

# 1. ziņojums: Lietotāja jautājums
{"role": "user", "content": "What is the status of payment T1001?"}

# 2. ziņojums: Modeļa atbilde ar tool_call
{"role": "assistant", "tool_calls": [{"id": "call_abc123", ...}]}

# 3. ziņojums: Funkcijas rezultāts
{"role": "tool", "name": "retrieve_payment_status",
 "content": '{"status": "paid"}', "tool_call_id": "call_abc123"}

# 4. ziņojums (netiešs): Modeļa galīgā atbilde
# → "Payment T1001 status is: paid."

Izseko ID call_abc123: tas piedzimst 2. ziņojumā un atkal parādās 3. ziņojumā. Šī pavediens saista pieprasījumu ar tā atbildi. Šī struktūra ir funkciju izsaukšanas fundamentālais raksts; katra variācija, ko sastapsi vēlāk, neatkarīgi no tā, vai tā ir daudzpakāpju vai paralēla, to vienkārši atkārto vai dublē.

Pievērs uzmanību satura formātam

Viena kļūda parādās biežāk nekā visas pārējās, un tā slēpjas lauka content tipā: tam vienmēr jābūt virknei (string).

# Pareizi — JSON virkne
{"content": '{"status": "paid"}'}

# Pareizi — vienkāršs teksts
{"content": "The status is paid"}

# Nepareizi — Python vārdnīca (izraisīs kļūdu)
{"content": {"status": "paid"}}

Atšķirība starp pirmo un trešo piemēru slēpjas pēdiņās, kas ietver JSON. Ja tava funkcija atgriež vārdnīcu, pirms nosūtīšanas to konvertē ar json.dumps() — tieši tāpēc 4. nodarbības funkcijas visas beidzās ar json.dumps().

Galvenās atziņas

  • Funkciju izpilde notiek klienta pusē, tavā kodā — nekad to neveic modelis
  • Rezultāts tiek nosūtīts atpakaļ ziņojumā ar lomu "tool" un atbilstošo tool_call_id
  • Rīka ziņojuma content ir jābūt virknei (JSON virknei)
  • Pēc rezultāta nosūtīšanas tu atkārtoti izsauc chat.complete(), lai modelis varētu formulēt galīgo atbildi
  • Vienmēr pārbaudi, vai pieprasītā funkcija eksistē tavā dispersijas vārdnīcā