Разговори без агент
На тази страница
Директен режим на модела
Не е необходимо винаги да създавате обект „Агент“, за да използвате API за разговори (Conversations API). Mistral Ви позволява да започнете разговор директно с модел, осигурявайки постоянство без слоя за конфигурация на агента. Тази възможност произтича директно от архитектурата, която разгледахме по-рано: разговорът е независим от агента, така че може да съществува напълно самостоятелно.
Няколко сценария правят този подход за предпочитане пред използването на регистриран агент. Може да искате постоянство, без да дефинирате агент за многократна употреба, например защото всяка нишка във Вашето приложение е уникална. Може бързо да тествате поведение с вградени инструменти, а създаването и изтриването на агент за всеки опит Ви забавя. Вашият случай на употреба може да бъде еднократен: нищо не оправдава запазването на конфигурация, която ще използвате само веднъж. Или инструкциите Ви може да са динамични, изчислявани по време на изпълнение въз основа на профила на потребителя или текущия документ – в такъв случай статичният агент би бил грешният инструмент.
Започване на разговор с модел
Вместо да предавате agent_id, предавате директно model:
from mistralai.client import Mistral
import os
client = Mistral(api_key=os.environ["MISTRAL_API_KEY"])
response = client.beta.conversations.start(
model="mistral-medium-latest",
inputs=[
{"role": "user", "content": "Who is Albert Einstein?"}
]
)
print(response.outputs[-1].content)
Всичко зависи от този избор на параметър. При agent_id, извикването наследява регистрираната конфигурация на агента: неговите инструкции, инструменти и предпазни механизми. При model сте в директен режим и конфигурирате всичко в самата заявка – нищо не се запомня след края на извикването.
Добавяне на инструменти в директен режим
Вградените инструменти не са запазени само за агентите. Вие ги декларирате в заявката, точно както бихте направили при създаване на агент.
response = client.beta.conversations.start(
model="mistral-large-latest",
inputs=[
{"role": "user", "content": "What are the latest Ligue 1 results?"}
],
tools=[{"type": "web_search"}]
)
Това е функционално еквивалентно на агент с web_search, но без постоянство на конфигурацията. Разликата се проявява при десетото извикване: с агент бихте променили температурата веднъж завинаги; тук трябва да я повтаряте във всяка заявка и нищо не гарантира, че забравено извикване някъде във Вашия код използва същите настройки.
Предаване на динамични инструкции
В директен режим системният промпт приема формата на съобщение system, поставено в началото на входните данни.
response = client.beta.conversations.start(
model="mistral-large-latest",
inputs=[
{"role": "system", "content": "You are an expert in French cuisine. Answer in 3 sentences maximum."},
{"role": "user", "content": "How do I make a perfect béarnaise sauce?"}
]
)
Това Ви осигурява същата гъвкавост като инструкциите на агента, но ефимерна – и което е от решаващо значение, този низ може да бъде изграден по време на изпълнение, което инструкцията на регистриран агент не позволява.
Продължаване на разговор в директен режим
Механизмът за постоянство работи точно както при агент: първото извикване връща conversation_id, следващите извиквания се прикачват към него и всяко добавяне връща нов идентификатор на свой ред.
# Първи обмен
response1 = client.beta.conversations.start(
model="mistral-large-latest",
inputs=[{"role": "user", "content": "Tell me about the French Revolution."}]
)
# Втори обмен — контекстът се запазва
response2 = client.beta.conversations.append(
conversation_id=response1.conversation_id,
inputs="Who were the main figures?"
)
# Моделът знае, че говорим за Френската революция
Вторият въпрос не назовава своя обект и няма нужда от това: постоянството не зависи от съществуването на агент, а само от разговора.
Агент срещу директен режим: Как да решите
Създайте агент веднага щом една и съща конфигурация обслужва множество разговори, защото тогава печелите единна точка за модификация: коригирането на инструкция обновява всички бъдещи нишки. Това е също единственият път, ако инструкциите Ви са стабилни от сесия до сесия, ако планирате предаване между множество агенти – което урокът, посветен на тази тема, ще детайлизира – или ако Вашата организация изисква централизирана, одитируема конфигурация, където можете да отговорите на въпроса: „С какви инструкции беше изпълнен този асистент?“.
Останете в директен режим за симетричните случаи: прототип или еднократна употреба, инструкции, които се променят с всеки разговор, липса на нужда от предаване или желание за намаляване на API извикванията чрез премахване на създаването и изтриването на агенти. По време на разработка тази последна причина често е достатъчна сама по себе си.
Пример: Въпрос в рамките на принудителен контекст
Функцията по-долу илюстрира перфектно директния режим. Контекстът е аргумент, така че се различава при всяко извикване, а системният промпт е изграден около него, за да предотврати използването на външни знания от модела. Никой регистриран агент не може да носи това ограничение, тъй като то се променя при всяко изпълнение.
def ask_question(context: str, question: str):
"""Ask a question within a given context, without creating an agent."""
response = client.beta.conversations.start(
model="mistral-large-latest",
inputs=[
{"role": "system", "content": f"Context: {context}. Answer using only this context."},
{"role": "user", "content": question}
]
)
return response.outputs[-1].content
# Usage
answer = ask_question(
context="Corsen AI is a French startup specializing in sovereign AI, founded in 2025.",
question="When was Corsen AI founded?"
)
Използвайте повторно този шаблон за собствените си нужди, като замените твърдо кодиранния контекст с действително релевантния текст – разгледания продуктов лист, избрания откъс от документа – и ще получите градивен елемент за въпроси и отговори в рамките, без никаква конфигурация за администриране.
Ключови изводи
- Разговорите могат да бъдат стартирани с
model=вместоagent_id= - Директният режим предлага постоянство без слоя за конфигурация на агента
- Можете да предавате инструменти и инструкции директно в заявката
- Директният режим е идеален за прототипиране и еднократна употреба
- За предаване и конфигурации за многократна употреба предпочитайте създаването на агент