Sarunas bez aģenta
Šajā lapā
Tiešais modeļa režīms
Lai izmantotu Conversations API, tev ne vienmēr ir jāizveido aģenta objekts. Mistral ļauj uzsākt sarunu tieši ar modeli, nodrošinot noturību bez aģenta konfigurācijas slāņa. Šī iespēja tieši izriet no iepriekš apskatītās arhitektūras: saruna ir neatkarīga no aģenta, tāpēc tā var pastāvēt pilnīgi patstāvīgi.
Ir vairāki scenāriji, kuros šī pieeja ir vēlamāka par reģistrēta aģenta izmantošanu. Tev var būt nepieciešama noturība, nedefinējot atkārtoti izmantojamu aģentu, piemēram, tāpēc, ka katrs pavediens tavā lietotnē ir unikāls. Tu vari ātri testēt uzvedību, izmantojot iebūvētos rīkus, un aģenta izveide un dzēšana katram mēģinājumam tevi palēninātu. Tavs lietojuma gadījums var būt vienreizējs: nekas neattaisno konfigurācijas saglabāšanu, ko izmantosi tikai vienu reizi. Vai arī tavas instrukcijas var būt dinamiskas, aprēķinātas izpildlaikā, balstoties uz lietotāja profilu vai aktuālo dokumentu — tādā gadījumā statisks aģents būtu nepareizs rīks.
Sarunas uzsākšana ar modeli
agent_id vietā tu norādi tieši model:
from mistralai.client import Mistral
import os
client = Mistral(api_key=os.environ["MISTRAL_API_KEY"])
response = client.beta.conversations.start(
model="mistral-medium-latest",
inputs=[
{"role": "user", "content": "Who is Albert Einstein?"}
]
)
print(response.outputs[-1].content)
Viss ir atkarīgs no šī parametra izvēles. Izmantojot agent_id, izsaukums mantos aģenta reģistrēto konfigurāciju: tā instrukcijas, rīkus un aizsardzības mehānismus. Izmantojot model, tu esi tiešajā režīmā un konfigurē visu pašā pieprasījumā — nekas netiek saglabāts pāri vienam izsaukumam.
Rīku pievienošana tiešajā režīmā
Iebūvētie rīki nav paredzēti tikai aģentiem. Tu tos deklarē pieprasījumā tieši tāpat, kā to darītu, veidojot aģentu.
response = client.beta.conversations.start(
model="mistral-large-latest",
inputs=[
{"role": "user", "content": "What are the latest Ligue 1 results?"}
],
tools=[{"type": "web_search"}]
)
Funkcionāli tas ir līdzvērtīgs aģentam ar web_search, bet bez konfigurācijas noturības. Atšķirība parādās desmitajā izsaukumā: izmantojot aģentu, tu būtu vienreiz un uz visiem laikiem mainījis temperatūru; šeit tev tā jānorāda katrā pieprasījumā, un nekas negarantē, ka kāds aizmirsts izsaukums tavā kodā izmantos tos pašus iestatījumus.
Dinamisku instrukciju nodošana
Tiešajā režīmā sistēmas prompts iegūst system ziņojuma formu, kas novietots ievades sākumā.
response = client.beta.conversations.start(
model="mistral-large-latest",
inputs=[
{"role": "system", "content": "You are an expert in French cuisine. Answer in 3 sentences maximum."},
{"role": "user", "content": "How do I make a perfect béarnaise sauce?"}
]
)
Tas nodrošina tādu pašu elastību kā aģenta instrukcijas, bet īslaicīgi — un, kas ir būtiski, šo virkni var izveidot izpildlaikā, ko reģistrēta aģenta instrukcija neļauj darīt.
Sarunas turpināšana tiešajā režīmā
Noturības mehānisms darbojas tieši tāpat kā ar aģentu: pirmais izsaukums atgriež conversation_id, nākamie izsaukumi tam pievienojas, un katrs papildinājums savukārt atgriež jaunu identifikatoru.
# Pirmā apmaiņa
response1 = client.beta.conversations.start(
model="mistral-large-latest",
inputs=[{"role": "user", "content": "Tell me about the French Revolution."}]
)
# Otrā apmaiņa — konteksts tiek saglabāts
response2 = client.beta.conversations.append(
conversation_id=response1.conversation_id,
inputs="Who were the main figures?"
)
# Modelis zina, ka runājam par Franču revolūciju
Otrais jautājums nenosauc savu tematu, un tam tas nav vajadzīgs: noturība nav atkarīga no aģenta esamības, bet tikai no sarunas.
Aģents pret tiešo režīmu: kā izlemt
Izveido aģentu tiklīdz viena un tā pati konfigurācija kalpo vairākām sarunām, jo tad tu iegūsti vienu modificēšanas punktu: instrukcijas labošana atjaunina visus turpmākos pavedienus. Tas ir arī vienīgais ceļš, ja tavas instrukcijas ir stabilas no sesijas uz sesiju, ja plāno nodot uzdevumus starp vairākiem aģentiem (ko detalizēti aplūkos šim tematam veltītā nodarbība) vai ja tava organizācija pieprasa centralizētu, auditējamu konfigurāciju, kur vari atbildēt uz jautājumu: „Ar kādām instrukcijām tika izpildīts šis asistents?”
Paliec tiešajā režīmā simetriskajos gadījumos: prototipēšana vai vienreizēja lietošana, instrukcijas, kas mainās ar katru sarunu, nav nepieciešama uzdevumu nodošana vai vēlme samazināt API izsaukumus, izslēdzot aģenta izveidi un dzēšanu. Izstrādes procesā šis pēdējais iemesls bieži vien ir pietiekams pats par sevi.
Piemērs: Jautājums piespiedu kontekstā
Zemāk esošā funkcija lieliski ilustrē tiešo režīmu. Konteksts ir arguments, tāpēc tas atšķiras katrā izsaukumā, un ap to tiek veidots sistēmas prompts, lai novērstu modeļa atsaukšanos uz ārējām zināšanām. Neviens reģistrēts aģents nevarētu nest šo ierobežojumu, jo tas mainās ar katru izpildi.
def ask_question(context: str, question: str):
"""Ask a question within a given context, without creating an agent."""
response = client.beta.conversations.start(
model="mistral-large-latest",
inputs=[
{"role": "system", "content": f"Context: {context}. Answer using only this context."},
{"role": "user", "content": question}
]
)
return response.outputs[-1].content
# Lietošana
answer = ask_question(
context="Corsen AI is a French startup specializing in sovereign AI, founded in 2025.",
question="When was Corsen AI founded?"
)
Izmanto šo paraugu savām vajadzībām, aizstājot fiksēto kontekstu ar faktiski attiecīgo tekstu — apskatīto produktu lapu, izvēlēto dokumenta izrakstu — un tu iegūsi ierobežotu jautājumu un atbilžu bloku bez jebkādas administrējamas konfigurācijas.
Galvenās atziņas
- Sarunas var uzsākt, izmantojot
model=agent_id=vietā - Tiešais režīms piedāvā noturību bez aģenta konfigurācijas slāņa
- Rīkus un instrukcijas vari nodot tieši pieprasījumā
- Tiešais režīms ir ideāls prototipēšanai un vienreizējai lietošanai
- Uzdevumu nodošanai un atkārtoti izmantojamām konfigurācijām priekšroka dodama aģenta izveidei