5-astmeline protsess
Selge protokoll sinu ja mudeli vahel
Mistrali funktsioonide kutsumine järgib hästi määratletud viieastmelist protsessi. Selle protokolli loetavus seisneb selles, et igal sammul on ainult üks vastutaja: kas sina (arendaja), mudel või kasutaja. Ühtegi sammu ei jagata ja ükski neist pole ebamäärane. Võta aega, et see tööjaotus pähe õppida enne esimese koodirea kirjutamist: enamik funktsioonide kutsumisega seotud vigu tekib siis, kui arendaja eeldab, et mudel tegeleb sammuga, mis tegelikult on tema vastutada.
Määratle funktsioonid (Arendaja)
Kirjeldad iga kättesaadava funktsiooni JSON-skeemiga: nimi, kirjeldus, parameetrid, tüübid ja kohustuslikud väljad. Mudel näeb ainult seda spetsifikatsiooni, mitte sinu koodi.
Kasutaja esitab küsimuse (Kasutaja)
Kasutaja esitab oma küsimuse loomulikus keeles. Saadad selle päringu Mistrali mudelile koos kättesaadavate tööriistade loendiga.
Genereeri argumendid (Mudel)
Mudel analüüsib päringut, valib sobiva funktsiooni ja genereerib argumendid JSON-vormingus. See ei käivita funktsiooni – see ütleb sulle vaid, mida kutsuda ja milliste parameetritega.
Käivita funktsioon (Arendaja)
Sinu kood eraldab mudeli vastusest funktsiooni nime ja argumendid, käivitab vastava funktsiooni ja toob tulemuse.
Genereeri lõplik vastus (Mudel)
Saadad funktsiooni tulemuse mudelile tagasi. See integreerib tulemuse vestluse konteksti ja formuleerib kasutajale loomuliku vastuse.
Voog detailides
Need viis sammu kaardistuvad otse koodiga. Liigume need läbi ühe tahtlikult minimaalse näite abil: kasutaja soovib teada makse T1001 staatust. Kasutame seda sama näidet läbiva niidina kuni „Pythoni rakenduse“ ploki lõpuni, nii et tutvu selle identifikaatoritega juba praegu.
1. samm: Sa määratled tööriistad
tools = [
{
"type": "function",
"function": {
"name": "get_payment_status",
"description": "Retrieves the status of a payment given its transaction ID",
"parameters": {
"type": "object",
"properties": {
"transaction_id": {
"type": "string",
"description": "The unique transaction identifier (e.g., T1001)"
}
},
"required": ["transaction_id"]
}
}
}
]
Siin pole midagi käivitatavat koodi: see on kirjeldus. Mudel saab teada, et eksisteerib funktsioon nimega get_payment_status, mida see teeb ja et see nõuab string-tüüpi transaction_id. See ei saa kunagi teada, kuidas funktsioon on realiseeritud.
2. samm: Kasutaja esitab oma küsimuse
messages = [
{"role": "user", "content": "What is the status of payment T1001?"}
]
3. samm: Mudel genereerib argumendid
from mistralai.client import Mistral
client = Mistral(api_key="your-api-key")
response = client.chat.complete(
model="mistral-large-latest",
messages=messages,
tools=tools
)
# The model returns a tool_call:
# function.name = "get_payment_status"
# function.arguments = '{"transaction_id": "T1001"}'
Mudel eraldas lausest „T1001“ ja paigutas selle õigele väljale. Pane tähele, et arguments saabub stringina, mitte sõnastikuna: selle detailiga tegeled järgmises sammus.
4. samm: Sa käivitad funktsiooni
import json
tool_call = response.choices[0].message.tool_calls[0]
args = json.loads(tool_call.function.arguments)
result = get_payment_status(**args)
# → {"status": "paid", "date": "2026-03-15"}
5. samm: Mudel formuleerib vastuse
messages.append(response.choices[0].message)
messages.append({
"role": "tool",
"name": "get_payment_status",
"content": json.dumps(result),
"tool_call_id": tool_call.id
})
final = client.chat.complete(
model="mistral-large-latest",
messages=messages,
tools=tools
)
print(final.choices[0].message.content)
# → "Payment T1001 was made on March 15, 2026."
Ajaloole lisatakse kaks sõnumit, mitte kunagi ainult üks: assistendi sõnum, mis kannab kutse päringut, millele järgneb tulemust kandev sõnum. tool_call_id seob need kaks omavahel. Kui jätad kummagi neist välja, lükkab API päringu tagasi või vastab mudel teemast kõrvale kaldudes.
Voomustrid
Sõltuvalt päringu keerukusest võib see voog võtta erinevaid vorme. Lihtsaim juhtum on see, kui funktsiooni ei kaasata: kasutaja esitab üldise küsimuse – „Mida sa teha oskad?“ – ja mudel vastab otse, puutumata kunagi tööriistu. Järgmine on lihtne kutse, mille just läbi käisime: üks funktsioon, üks tulemus, üks vastus.
Järgmised kaks vormi on huvitavamad. Järjestikuses ahelas kutsub mudel esmalt ühe funktsiooni, loeb tulemuse ja kasutab seda teise kutse otsustamiseks – tüüpiliselt hangitakse kliendi ID enne tema arvete pärimist. Paralleelsel kutsel taotleb ta mitme funktsiooni samaaegset käivitamist, kuna ükski neist ei sõltu teisest. Pühendame neile kahele mustrile terved tunnid; praegu pea meeles, et mõlemad tuginevad täpselt ülaltoodud viiele sammule, lihtsalt korratuna.
Peamised punktid
- Funktsioonide kutsumine järgib 5-astmelist protsessi selgete vastutusaladega
- Mudel ei saa kunagi funktsiooni otse käivitada – see genereerib vaid argumendid
- Sinu kood on väravavaht: see otsustab, kas funktsiooni käivitada või mitte
- Funktsiooni tulemus saadetakse mudelile tagasi, et see saaks formuleerida loomuliku vastuse
- Voog võib olla lihtne (üks kutse) või keeruline (järjestikune, paralleelne)