Rozmowy bez agenta
Na tej stronie
Tryb bezpośredni modelu
Nie zawsze musisz tworzyć obiekt Agenta, aby korzystać z API Conversations. Mistral pozwala rozpocząć rozmowę bezpośrednio z modelem, zapewniając trwałość bez warstwy konfiguracji Agenta. Ta możliwość wynika bezpośrednio z architektury, którą omówiliśmy wcześniej: rozmowa jest niezależna od agenta, więc może istnieć całkowicie samodzielnie.
Istnieje kilka scenariuszy, w których jest to preferowane rozwiązanie względem używania zarejestrowanego agenta. Możesz potrzebować trwałości bez definiowania wielokrotnego użytku agenta, na przykład dlatego, że każdy wątek w Twojej aplikacji jest unikalny. Możesz szybko testować zachowanie za pomocą wbudowanych narzędzi, a tworzenie i usuwanie agenta dla każdej próby spowalnia pracę. Twój przypadek użycia może być jednorazowy: nic nie uzasadnia zapisywania konfiguracji, której użyjesz tylko raz. Lub Twoje instrukcje mogą być dynamiczne, obliczane w czasie rzeczywistym na podstawie profilu użytkownika lub bieżącego dokumentu – w takim przypadku statyczny agent byłby niewłaściwym narzędziem.
Rozpoczynanie rozmowy z modelem
Zamiast przekazywać agent_id, przekazujesz bezpośrednio model:
from mistralai.client import Mistral
import os
client = Mistral(api_key=os.environ["MISTRAL_API_KEY"])
response = client.beta.conversations.start(
model="mistral-medium-latest",
inputs=[
{"role": "user", "content": "Who is Albert Einstein?"}
]
)
print(response.outputs[-1].content)
Wszystko zależy od wyboru tego parametru. Przy użyciu agent_id wywołanie dziedziczy zarejestrowaną konfigurację agenta: jego instrukcje, narzędzia i zabezpieczenia. Przy użyciu model znajdujesz się w trybie bezpośrednim i konfigurujesz wszystko w samym żądaniu – nic nie jest zapamiętywane poza tym wywołaniem.
Dodawanie narzędzi w trybie bezpośrednim
Wbudowane narzędzia nie są zastrzeżone wyłącznie dla agentów. Deklarujesz je w żądaniu, dokładnie tak samo, jak podczas tworzenia agenta.
response = client.beta.conversations.start(
model="mistral-large-latest",
inputs=[
{"role": "user", "content": "What are the latest Ligue 1 results?"}
],
tools=[{"type": "web_search"}]
)
Jest to funkcjonalnie równoważne agentowi z web_search, ale bez utrwalania konfiguracji. Różnica ujawnia się przy dziesiątym wywołaniu: przy agencie zmieniłbyś temperaturę raz na zawsze; tutaj musisz powtarzać ją w każdym żądaniu i nic nie gwarantuje, że zapomniane gdzieś w kodzie wywołanie użyje tych samych ustawień.
Przekazywanie dynamicznych instrukcji
W trybie bezpośrednim monit systemowy przyjmuje formę wiadomości system umieszczonej na początku listy inputs.
response = client.beta.conversations.start(
model="mistral-large-latest",
inputs=[
{"role": "system", "content": "You are an expert in French cuisine. Answer in 3 sentences maximum."},
{"role": "user", "content": "How do I make a perfect béarnaise sauce?"}
]
)
Daje Ci to taką samą elastyczność jak instrukcje agenta, ale w sposób efemeryczny – co kluczowe, ten ciąg znaków może być budowany w czasie rzeczywistym, na co nie pozwalają instrukcje zarejestrowanego agenta.
Kontynuowanie rozmowy w trybie bezpośrednim
Mechanizm trwałości działa dokładnie tak samo jak w przypadku agenta: pierwsze wywołanie zwraca conversation_id, kolejne wywołania dołączają do niego, a każde dołączenie zwraca z kolei nowy identyfikator.
# Pierwsza wymiana
response1 = client.beta.conversations.start(
model="mistral-large-latest",
inputs=[{"role": "user", "content": "Tell me about the French Revolution."}]
)
# Druga wymiana — kontekst jest zachowany
response2 = client.beta.conversations.append(
conversation_id=response1.conversation_id,
inputs="Who were the main figures?"
)
# Model wie, że rozmawiamy o rewolucji francuskiej
Drugie pytanie nie nazywa swojego tematu i nie musi tego robić: trwałość nie zależy od istnienia agenta, lecz wyłącznie od rozmowy.
Agent kontra tryb bezpośredni: jak podjąć decyzję
Stwórz agenta, gdy ta sama konfiguracja obsługuje wiele rozmów, ponieważ zyskujesz wtedy jeden punkt modyfikacji: poprawienie instrukcji aktualizuje wszystkie przyszłe wątki. Jest to również jedyna droga, jeśli Twoje instrukcje są stabilne od sesji do sesji, jeśli planujesz przekazywanie zadań między wieloma agentami – co szczegółowo omówi lekcja poświęcona temu tematowi – lub jeśli Twoja organizacja wymaga scentralizowanej, podlegającej audytowi konfiguracji, gdzie możesz odpowiedzieć na pytanie: „Z jakimi instrukcjami wykonano tego asystenta?“.
Pozostań w trybie bezpośrednim w przypadkach symetrycznych: prototypowanie lub użycie jednorazowe, instrukcje zmieniające się przy każdej rozmowie, brak potrzeby przekazywania zadań lub chęć zmniejszenia liczby wywołań API poprzez eliminację tworzenia i usuwania agenta. W fazie rozwoju ten ostatni powód często wystarcza sam w sobie.
Przykład: Pytanie w wymuszonym kontekście
Poniższa funkcja doskonale ilustruje tryb bezpośredni. Kontekst jest argumentem, więc różni się przy każdym wywołaniu, a monit systemowy jest budowany wokół niego, aby zapobiec czerpaniu przez model wiedzy zewnętrznej. Żaden zarejestrowany agent nie mógłby przenosić tego ograniczenia, ponieważ zmienia się ono przy każdym wywołaniu.
def ask_question(context: str, question: str):
"""Ask a question within a given context, without creating an agent."""
response = client.beta.conversations.start(
model="mistral-large-latest",
inputs=[
{"role": "system", "content": f"Context: {context}. Answer using only this context."},
{"role": "user", "content": question}
]
)
return response.outputs[-1].content
# Usage
answer = ask_question(
context="Corsen AI is a French startup specializing in sovereign AI, founded in 2025.",
question="When was Corsen AI founded?"
)
Wykorzystaj ten wzorzec do własnych potrzeb, zastępując zakodowany na sztywno kontekst faktycznie istotnym tekstem – oglądaną kartą produktu, wybranym fragmentem dokumentu – a uzyskasz gotowy blok budulcowy do pytań i odpowiedzi w określonych ramach, bez żadnej konfiguracji do administrowania.
Kluczowe wnioski
- Rozmowy można rozpoczynać za pomocą
model=zamiastagent_id= - Tryb bezpośredni oferuje trwałość bez warstwy konfiguracji Agenta
- Możesz przekazywać narzędzia i instrukcje bezpośrednio w żądaniu
- Tryb bezpośredni jest idealny do prototypowania i użytku jednorazowego
- Do przekazywania zadań i konfiguracji wielokrotnego użytku preferuj tworzenie agenta