Gesprekken zonder Agent
Op deze pagina
Directe Modelmodus
U hoeft niet altijd een Agent-object te maken om de Conversations API te gebruiken. Mistral stelt u in staat om direct een gesprek met een model te starten, waardoor u persistentie krijgt zonder de configuratielaag van de Agent. Deze mogelijkheid vloeit rechtstreeks voort uit de architectuur die we eerder hebben behandeld: het gesprek is onafhankelijk van de agent en kan dus prima op zichzelf bestaan.
Er zijn verschillende scenario’s waarin dit de voorkeur heeft boven het gebruik van een geregistreerde agent. Misschien wilt u persistentie zonder een herbruikbare agent te definiëren, bijvoorbeeld omdat elke thread in uw applicatie uniek is. Misschien test u snel gedrag met ingebouwde tools, en vertraagt het voor elke proef maken en verwijderen van een agent u. Uw usecase kan eenmalig zijn: niets rechtvaardigt het opslaan van een configuratie die u maar één keer gebruikt. Of uw instructies kunnen dynamisch zijn, berekend tijdens runtime op basis van het gebruikersprofiel of het huidige document—in dat geval is een statische agent het verkeerde instrument.
Een gesprek starten met een model
In plaats van een agent_id door te geven, geeft u direct een model op:
from mistralai.client import Mistral
import os
client = Mistral(api_key=os.environ["MISTRAL_API_KEY"])
response = client.beta.conversations.start(
model="mistral-medium-latest",
inputs=[
{"role": "user", "content": "Who is Albert Einstein?"}
]
)
print(response.outputs[-1].content)
Alles hangt af van deze parameterkeuze. Met agent_id erft de oproep de geregistreerde configuratie van de agent: de instructies, tools en beveiligingsmaatregelen. Met model bevindt u zich in de directe modus en configureert u alles in de aanvraag zelf—er wordt niets onthouden buiten de oproep om.
Tools toevoegen in directe modus
Ingebouwde tools zijn niet voorbehouden aan agents. U declareert ze in de aanvraag, precies zoals u dat zou doen tijdens het maken van een agent.
response = client.beta.conversations.start(
model="mistral-large-latest",
inputs=[
{"role": "user", "content": "What are the latest Ligue 1 results?"}
],
tools=[{"type": "web_search"}]
)
Dit is functioneel equivalent aan een agent met web_search, maar zonder configuratiepersistentie. Het verschil wordt zichtbaar bij de tiende oproep: met een agent zou u de temperatuur eenmalig en definitief hebben gewijzigd; hier moet u deze bij elke aanvraag herhalen, en niets garandeert dat een vergeten oproep ergens in uw code dezelfde instellingen gebruikt.
Dynamische instructies doorgeven
In directe modus neemt de systeemprompt de vorm aan van een system-bericht dat bovenaan de inputs wordt geplaatst.
response = client.beta.conversations.start(
model="mistral-large-latest",
inputs=[
{"role": "system", "content": "You are an expert in French cuisine. Answer in 3 sentences maximum."},
{"role": "user", "content": "How do I make a perfect béarnaise sauce?"}
]
)
Dit geeft u dezelfde flexibiliteit als agent-instructies, maar dan ephemeraal—en cruciaal is dat deze string tijdens runtime kan worden opgebouwd, wat een geregistreerde agent-instructie niet toestaat.
Een gesprek voortzetten in directe modus
Het persistentiemechanisme werkt exact zoals bij een agent: de eerste oproep retourneert een conversation_id, volgende oproepen haken hierop aan, en elke toevoeging retourneert op zijn beurt een nieuwe identifier.
# Eerste uitwisseling
response1 = client.beta.conversations.start(
model="mistral-large-latest",
inputs=[{"role": "user", "content": "Tell me about the French Revolution."}]
)
# Tweede uitwisseling — context blijft behouden
response2 = client.beta.conversations.append(
conversation_id=response1.conversation_id,
inputs="Who were the main figures?"
)
# Het model weet dat we het over de Franse Revolutie hebben
De tweede vraag noemt het onderwerp niet en hoeft dat ook niet: persistentie hangt niet af van het bestaan van een agent, maar alleen van het gesprek.
Agent versus directe modus: hoe kiest u?
Maak een agent zodra dezelfde configuratie dient voor meerdere gesprekken, omdat u dan één enkel wijzigingspunt heeft: het corrigeren van een instructie update alle toekomstige threads. Dit is ook de enige weg als uw instructies van sessie tot sessie stabiel zijn, als u overdrachten tussen meerdere agents plant—wat de les die aan dit onderwerp is gewijd zal toelichten—of als uw organisatie een gecentraliseerde, controleerbare configuratie vereist waarbij u de vraag kunt beantwoorden: “Met welke instructies is deze assistent uitgevoerd?”
Blijf in de directe modus voor de symmetrische gevallen: een prototype of eenmalig gebruik, instructies die bij elk gesprek veranderen, geen behoefte aan overdrachten, of de wens om API-oproepen te verminderen door het maken en verwijderen van agents te elimineren. Tijdens ontwikkeling is deze laatste reden vaak op zichzelf al voldoende.
Voorbeeld: Vraag binnen een geforceerde context
De onderstaande functie illustreert de directe modus perfect. De context is een argument, verschilt dus bij elke oproep, en de systeemprompt wordt daar omheen gebouwd om te voorkomen dat het model put uit externe kennis. Geen enkele geregistreerde agent zou deze beperking kunnen dragen, aangezien deze bij elke aanroep verandert.
def ask_question(context: str, question: str):
"""Ask a question within a given context, without creating an agent."""
response = client.beta.conversations.start(
model="mistral-large-latest",
inputs=[
{"role": "system", "content": f"Context: {context}. Answer using only this context."},
{"role": "user", "content": question}
]
)
return response.outputs[-1].content
# Usage
answer = ask_question(
context="Corsen AI is a French startup specializing in sovereign AI, founded in 2025.",
question="When was Corsen AI founded?"
)
Hergebruik dit patroon voor uw eigen behoeften door de hardcoded context te vervangen door de daadwerkelijk relevante tekst—het bekeken productblad, het geselecteerde documentfragment—en u krijgt een geblokkeerd vraag-en-antwoord-bouwblok zonder enige te beheren configuratie.
Belangrijkste punten
- Gesprekken kunnen worden gestart met
model=in plaats vanagent_id= - Directe modus biedt persistentie zonder de configuratielaag van de Agent
- U kunt tools en instructies direct in de aanvraag doorgeven
- Directe modus is ideaal voor prototyping en eenmalig gebruik
- Voor overdrachten en herbruikbare configuraties geeft u de voorkeur aan het maken van een agent