Agenten vs. Chatbots: Wann benötigen Sie einen Agenten?

Ein Chatbot reicht nicht immer aus

Sie haben die Mistral Chat Completions API wahrscheinlich bereits verwendet, um konversationelle Assistenten zu erstellen. Für viele Anwendungsfälle ist dies mehr als ausreichend. Der Versuch, alles auf Agenten umzustellen, nur weil die Technologie neuer ist, kann in Bezug auf Latenz und Token-Kosten teuer werden. Dennoch erfordern einige Aufgaben mehr als eine einfache Textantwort. Diese Lektion gibt Ihnen die Entscheidungskriterien: Wie erkennen Sie Situationen, in denen ein Aufruf von chat.complete() ausreicht, und jene, die den Wechsel zur Agents API wirklich rechtfertigen.

Chat Completions — Das klassische Modell

Mit chat.complete() senden Sie eine Liste von Nachrichten und erhalten eine Antwort. Der Mechanismus ist zustandslos: Das Modell hat kein Gedächtnis zwischen den Aufrufen, und Sie müssen die Historie für jede Anfrage neu rekonstruieren.

from mistralai.client import Mistral

client = Mistral(api_key="your-key")

response = client.chat.complete(
    model="mistral-large-latest",
    messages=[
        {"role": "user", "content": "Was ist die Hauptstadt von Frankreich?"}
    ]
)
print(response.choices[0].message.content)

Dieses Muster bleibt die richtige Wahl für einfache Fragen und Antworten, allgemeine Textgenerierung – Zusammenfassungen, Übersetzungen, Schreiben – Klassifizierung, Informationsextraktion und einmalige Funktionsaufrufe. Diese Aufgaben haben ein gemeinsames Merkmal: Es handelt sich um Text-zu-Text-Transformationen, die in einer einzigen Überlegungsphase gelöst werden, ohne dass das Modell etwas von außen abrufen muss.

Agents API — Das autonome Modell

Mit der Agents API erstellen Sie einen persistenten Agenten, der mit Anweisungen, Werkzeugen und einem einmal definierten Verhalten ausgestattet ist. Der Agent behält seinen Zustand über Gespräche hinweg bei und kann autonom handeln.

agent = client.beta.agents.create(
    model="mistral-large-latest",
    name="Forschungs-Assistent",
    instructions="Sie sind ein Forschungsassistent. Verwenden Sie Websuche, um Antworten mit Quellen zu geben.",
    tools=[{"type": "web_search"}]
)

Wann zum Wechseln zu Agenten?

Jedes der folgenden Signale rechtfertigt den Wechsel. Häufigster Grund ist der Bedarf an Werkzeugen: Sobald Ihr Assistent das Web durchsuchen, Code ausführen oder einen Dokumentencorpus abfragen muss, zwingt die Chat Completions API Sie, die Ausführung selbst zu verdrahten. Als Nächstes kommt die Zustandspersistenz: Wenn Sie möchten, dass das Modell frühere Austausche merkt, ohne dass Sie den gesamten Thread bei jeder Anfrage erneut senden, übernimmt der Agent dies nativ. Die Anzahl der Schritte ist ebenso wichtig: Eine Antwort, die eine Kette der Überlegungen mit Zwischenschritten erfordert, impliziert einen Schleifenlauf, und die Agents API implementiert genau diesen Schleifenlauf. Mehrere Fachrichtungen drängen in dieselbe Richtung: Ein Finanzagent, der an einen Websuche-Agenten und dann an einen Berechnungsagenten delegiert, fällt unter die Mehr-Agenten-Orchestrierung. Schließlich betrachten Sie die Ausführungsumgebung – bei Agenten laufen die Werkzeuge in der Mistral-Cloud, nicht auf Ihrer Infrastruktur.

Im Gegensatz dazu bleiben Sie bei einem klassischen Chatbot, wenn die Aufgabe eine einfache Text-zu-Text-Transformation ist, wenn Sie die Historie bereits auf Client-Seite nach Ihren Wünschen verwalten, wenn keine integrierten Werkzeuge erforderlich sind und wenn eine einzige Überlegungsphase ausreicht, um die erwartete Antwort zu produzieren.

Das Komplexitätsspektrum

Es hilft, diese Entscheidungen als Kontinuum statt als binäre Alternative zu betrachten. Auf der ersten Ebene: einfacher Chat – eine Frage, eine Antwort, über Chat Completions. Auf der zweiten Ebene: Werkzeugausgestatteter Chat – die Frage löst einen Funktionsaufruf aus, bevor die Antwort erfolgt, immer noch unter Verwendung von Chat Completions und Funktionsaufrufen. Auf der dritten Ebene: der einzelne Agent – die Anfrage führt zu Planung, dann zu mehreren Aktionen, dann zu einer Antwort – dies ist das Gebiet der Agents API. Auf der vierten Ebene: Mehr-Agenten-Systeme – ein Router-Agent verteilt die Anfrage auf spezialisierte Agenten, deren Ausgaben anschließend synthetisiert werden, was die Agents API und Übergaben erfordert.

Die aus diesem Spektrum abgeleitete Regel ist einfach: Verwenden Sie die einfachste Ebene, die Ihren Bedarf erfüllt. Setzen Sie kein Mehr-Agenten-System ein, um FAQs zu beantworten.

Vergleichendes Beispiel

Der Unterschied wird mit einem konkreten Beispiel deutlicher. Bei Chat Completions verwalten Sie alles manuell, und das Modell bleibt auf sein Trainingswissen beschränkt.

# Sie verwalten alles manuell
messages = [{"role": "user", "content": "Wie ist das Wetter in Paris?"}]
response = client.chat.complete(model="mistral-large-latest", messages=messages)
# Das Modell KANN das Web nicht durchsuchen – es halluziniert oder sagt, es wisse es nicht

Bei einem Agenten mit Websuche löst dieselbe Frage eine echte Suche und eine mit Quellen versehene Antwort aus, ohne dass Sie eine einzige Zeile Orchestrierungscode schreiben müssen.

# Der Agent hat Zugriff auf Websuche
agent = client.beta.agents.create(
    model="mistral-large-latest",
    name="Wetter-Agent",
    instructions="Beantworten Sie Wetterfragen unter Verwendung der Websuche.",
    tools=[{"type": "web_search"}]
)

response = client.beta.conversations.start(
    agent_id=agent.id,
    inputs="Wie ist das Wetter in Paris?"
)
# Der Agent durchsucht automatisch das Web und zitiert seine Quellen

Kosten und Latenz

Diese Leistung hat einen Preis, den Sie vor dem Produktiveinsatz antizipieren müssen. Die Latenz steigt, da der Agent mehrere interne Runden durchführen kann – Suche, dann Überlegung, dann Entwurf –, während Chat Completions nur eine durchführt. Der Token-Verbrauch steigt ebenfalls, da Systemanweisungen und Gesprächskontext bei jeder Runde erneut an das Modell gesendet werden. Schließlich persistieren Gespräche auf der Mistral-Seite, ein Verhalten, das Sie mit store=False deaktivieren können, falls Ihre Datenschutzanforderungen dies erfordern.

Dieser Overhead ist gerechtfertigt, wenn die Aufgabe ihn erfordert. Für einen einfachen FAQ-Chatbot ist es das nicht: Bleiben Sie bei Chat Completions.

Kernaussagen

• Chat Completions ist zustandslos und für einfache Aufgaben ausreichend
• Die Agents API fügt Persistenz, integrierte Werkzeuge und Mehr-Agenten-Orchestrierung hinzu
• Verwenden Sie immer die niedrigste Komplexitätsebene, die Ihren Bedarf erfüllt
• Der Wechsel zu Agenten ist gerechtfertigt, wenn Sie Werkzeuge, Persistenz oder Mehr-Agenten-Systeme benötigen