Konverzácie bez agenta
Na tejto strane
Priamy režim modelu
Na používanie API konverzácií nemusíš vždy vytvárať objekt Agent. Mistral ti umožňuje začať konverzáciu priamo s modelom, čo ti poskytuje perzistenciu bez vrstvy konfigurácie agenta. Táto schopnosť priamo vyplýva z architektúry, ktorú sme prebrali skôr: konverzácia je nezávislá od agenta, takže môže dokonale existovať sama o sebe.
Existuje niekoľko scenárov, keď je toto riešenie vhodnejšie ako použitie registrovaného agenta. Možno potrebuješ perzistenciu bez definovania opakovane použiteľného agenta, napríklad preto, že každé vlákno v tvojej aplikácii je jedinečné. Možno rýchlo testuješ správanie so vstavanými nástrojmi a vytváranie a následné mazanie agenta pre každý pokus ťa spomaľuje. Tvoj prípad použitia môže byť jednorazový: nič neoprávňuje ukladanie konfigurácie, ktorú použiješ len raz. Alebo tvoje inštrukcie môžu byť dynamické, vypočítané behom programu na základe profilu používateľa alebo aktuálneho dokumentu – v takom prípade by statický agent bol nesprávnym nástrojom.
Spustenie konverzácie s modelom
Namiesto odovzdania agent_id odovzdáš priamo model:
from mistralai.client import Mistral
import os
client = Mistral(api_key=os.environ["MISTRAL_API_KEY"])
response = client.beta.conversations.start(
model="mistral-medium-latest",
inputs=[
{"role": "user", "content": "Who is Albert Einstein?"}
]
)
print(response.outputs[-1].content)
Všetko závisí od tejto voľby parametra. Pri agent_id volanie dedí registrovanú konfiguráciu agenta: jeho inštrukcie, nástroje a ochranné mechanizmy. Pri model si v priamom režime a všetko konfiguruješ priamo v požiadavke – nič sa neuchováva nad rámec tohto volania.
Pridávanie nástrojov v priamom režime
Vstavané nástroje nie sú vyhradené len pre agentov. Deklaruješ ich v požiadavke presne tak, ako by si to urobil pri vytváraní agenta.
response = client.beta.conversations.start(
model="mistral-large-latest",
inputs=[
{"role": "user", "content": "What are the latest Ligue 1 results?"}
],
tools=[{"type": "web_search"}]
)
Funkčne je to ekvivalentné agentovi s web_search, ale bez perzistencie konfigurácie. Rozdiel sa prejaví pri desiatom volaní: pri agentovi by si zmenil teplotu raz a navždy; tu ju musíš opakovať v každej požiadavke a nič nezaručuje, že zabudnuté volanie niekde v tvojom kóde používa rovnaké nastavenia.
Odovzdávanie dynamických inštrukcií
V priamom režime má systémový prompt formu správy system umiestnenej na začiatku vstupov.
response = client.beta.conversations.start(
model="mistral-large-latest",
inputs=[
{"role": "system", "content": "You are an expert in French cuisine. Answer in 3 sentences maximum."},
{"role": "user", "content": "How do I make a perfect béarnaise sauce?"}
]
)
Poskytuje ti to rovnakú flexibilitu ako inštrukcie agenta, ale sú epizodické – a čo je kľúčové, tento reťazec môžeš zostaviť behom programu, čo inštrukcia registrovaného agenta neumožňuje.
Pokračovanie v konverzácii v priamom režime
Mechanizmus perzistencie funguje presne tak ako pri agentovi: prvé volanie vráti conversation_id, následné volania sa naň napoja a každé pripojenie vráti zase nový identifikátor.
# Prvá výmena
response1 = client.beta.conversations.start(
model="mistral-large-latest",
inputs=[{"role": "user", "content": "Tell me about the French Revolution."}]
)
# Druhá výmena — kontext je zachovaný
response2 = client.beta.conversations.append(
conversation_id=response1.conversation_id,
inputs="Who were the main figures?"
)
# Model vie, že hovoríme o Francúzskej revolúcii
Druhá otázka nemení svoj predmet a ani to nepotrebuje: perzistencia nezávisí od existencie agenta, ale iba od konverzácie.
Agent versus priamy režim: Ako sa rozhodnúť
Vytvor agenta hneď, ako tá istá konfigurácia slúži viacerým konverzáciám, pretože potom získaš jediný bod úpravy: oprava inštrukcie aktualizuje všetky budúce vlákna. Je to tiež jediná cesta, ak sú tvoje inštrukcie od relácie k relácii stabilné, ak plánuješ odovzdávanie medzi viacerými agentmi – čo podrobne rozvedie lekcia venovaná tejto téme – alebo ak tvoja organizácia vyžaduje centralizovanú, auditovateľnú konfiguráciu, kde môžeš odpovedať na otázku: „S akými inštrukciami bol tento asistent spustený?“
Zostaň v priamom režime pre symetrické prípady: prototyp alebo jednorazové použitie, inštrukcie, ktoré sa menia s každou konverzáciou, žiadna potreba odovzdávania alebo túžba znížiť počet volaní API elimináciou vytvárania a mazania agentov. Vo fáze vývoja je tento posledný dôvod často sám o sebe dostatočný.
Príklad: Otázka vo vynútenom kontexte
Nižšie uvedená funkcia dokonale ilustruje priamy režim. Kontext je argument, takže sa líši pri každom volaní, a systémový prompt je zostavený okolo neho, aby sa zabránilo modelu čerpať z externých vedomostí. Žiadny registrovaný agent by toto obmedzenie neunesol, keďže sa mení pri každom vyvolaní.
def ask_question(context: str, question: str):
"""Ask a question within a given context, without creating an agent."""
response = client.beta.conversations.start(
model="mistral-large-latest",
inputs=[
{"role": "system", "content": f"Context: {context}. Answer using only this context."},
{"role": "user", "content": question}
]
)
return response.outputs[-1].content
# Usage
answer = ask_question(
context="Corsen AI is a French startup specializing in sovereign AI, founded in 2025.",
question="When was Corsen AI founded?"
)
Tento vzor znovu využij pre svoje potreby nahradením pevného kontextu skutočne relevantným textom – prehliadaným produktovým listom, vybraným úryvkom z dokumentu – a získaš stavebný prvok pre rámcované otázky a odpovede bez akejkoľvek konfigurácie na správu.
Kľúčové poznatky
- Konverzácie možno spustiť pomocou
model=namiestoagent_id= - Priamy režim ponúka perzistenciu bez vrstvy konfigurácie Agent
- Nástroje a inštrukcie môžeš odovzdať priamo v požiadavke
- Priamy režim je ideálny pre prototypovanie a jednorazové použitie
- Pre odovzdávanie a opakovane použiteľné konfigurácie uprednostni vytvorenie agenta