Grundlegende Konzepte der Generativen KI

Aktualisiert am 2. November 2026 — Le Chat wird zu Vibe. Ab dem 28. Mai 2026 ist Le Chat nun Vibe (nach wie vor unter chat.mistral.ai): ein einzelner Agent für Arbeit und Code, der Ihre Gespräche, Einstellungen und Abonnements übernimmt. Die klassische Le Chat-Erfahrung bleibt im Chat-Modus zugänglich; im Work-Modus sind Agenten nun Fähigkeiten (über @ aufrufbar), Erinnerungen wurden zur Wissensbasis und die tiefe Suche zur Fähigkeit Deep Research. Die Pläne heißen nun Mistral Free, Pro, Team und Enterprise. Diese Lektion verwendet den Namen Vibe; einige hier beschriebene Menüs können sich in Name oder Position geändert haben.

Beherrschung des essenziellen Vokabulars

Es gibt eine Reihe von Begriffen, die Sie in jedem Meeting, jeder Dokumentation und jeder Diskussion mit einem technischen Team über generative KI begegnen werden: RAG, Embeddings, Fine-Tuning, Temperature, Halluzinationen, Grounding. Diese Lektion erklärt sie einzeln, nicht als Glossar-Definitionen, sondern als Werkzeuge, die Sie wissen werden, wie man sie in einem echten Gespräch einsetzt. Wenn ein Anbieter Ihnen „einen RAG-Chatbot mit Mistral-Embeddings” anbietet, werden Sie genau wissen, was er Ihnen verkauft – und welche Fragen Sie stellen müssen.

RAG — Retrieval-Augmented Generation

RAG (retrieval-augmented generation) ist eine der weitverbreitetsten Techniken zur Verbesserung der Qualität der Antworten eines LLM. Das Prinzip basiert auf einer einfachen Beobachtung: anstatt sich allein auf das interne Wissen des Modells zu verlassen, stellen Sie ihm zum Zeitpunkt der Frage relevante Informationen aus einer externen Datenbank zur Verfügung.

Der Mechanismus entfaltet sich in vier Schritten:

1. Der Nutzer stellt eine Frage
2. Ein Suchsystem identifiziert relevante Dokumente in einer Wissensbasis
3. Diese Dokumente werden in den Kontext des Modells eingespeist
4. Das Modell generiert seine Antwort auf Basis dieser frischen Informationen

Warum ist dies so wichtig? Weil RAG ein fundamentales Problem von LLMs löst: Ihr Wissen ist auf das Datum ihres Trainings eingefroren. Ein Modell, das letztes Jahr trainiert wurde, weiß nichts über Ihren neuen Produktkatalog, die Umstrukturierung Ihrer Abteilung oder die im letzten Monat veröffentlichten Vorschriften. Mit RAG kann es Fragen zu aktuellen Ereignissen, zu internen Unternehmensdaten oder zu Dokumenten, die Sie bereitstellen, beantworten. Stellen Sie sich eine Personalabteilung vor, die jede Woche dieselben Fragen zum Tarifvertrag erhält: Ein RAG-Assistent, der mit Unternehmensvereinigungen verbunden ist, antwortet mit Zitat des richtigen Artikels, statt aus dem Gedächtnis zu improvisieren. Dies ist die Technik, die die Websuche von Vibe und die meisten Enterprise-Chatbots antreibt.

Embeddings — Vektorrepräsentationen

Embeddings sind numerische Repräsentationen von Text in Form von Vektoren, also Listen von Zahlen. Jedes Wort, jeder Satz oder jedes Dokument wird in einen Punkt in einem hochdimensionalen mathematischen Raum transformiert. Die Kernidee lässt sich in einem Satz zusammenfassen: zwei semantisch nahe Texte haben Embeddings, die in diesem Raum nahe beieinander liegen. „Hund” und „kaninisch” werden Nachbarn sein; „Hund” und „Tabelle” werden sehr weit voneinander entfernt sein, obwohl keines dieser Paare signifikante gemeinsame Buchstaben teilt.

Diese Eigenschaft verändert alles für die Informationsretrieval. Eine traditionelle Keyword-Suche findet ein Dokument über „gegenseitige Kündigung” nicht, wenn Sie nach „freundlichem Vertragsende” suchen; eine semantische Suche durch Embeddings wird dies tun, da beide Formulierungen auf denselben Bereich des Vektorraums zeigen. Neben der Suche werden Embeddings verwendet, um Texte automatisch nach Themen zu klassifizieren, Duplikate oder ähnlichen Inhalt zu erkennen und – wie wir in der vorherigen Lektion in diesem Abschnitt gesehen haben – relevante Dokumente in einem RAG-Pipeline auszuwählen. Mistral bietet dedizierte Embedding-Modelle, Mistral Embed und Codestral Embed, die Ihren Text in nutzbare Vektoren umwandeln.

Fine-Tuning — Angepasste Anpassung

Fine-Tuning besteht darin, das Training eines vorab trainierten Modells mit Ihren eigenen Daten fortzusetzen, um es an eine spezifische Anforderung anzupassen. Das genaueste Bild ist das eines Allgemeinmediziners, der als Spezialist ausgebildet wird: das allgemeine Wissen ist bereits da, Sie fügen spezialisiertes Fachwissen hinzu.

Sie greifen in mehreren Situationen darauf zurück. Eine Marke, die möchte, dass alle Kundenantworten einen bestimmten Ton und Stil einhalten, kann ein Modell an ihren besten vergangenen Austauschdaten fine-tunen. Eine Anwaltskanzlei oder eine medizinische Abteilung kann branchenspezifisches Vokabular einprägen, das das generalistische Modell nur unzureichend handhabt. Ein Team, das Tausende von E-Mails pro Tag verarbeitet, kann ein Modell auf eine spezifische Aufgabe wie Klassifizierung oder Entitätsextraktion spezialisieren, mit besseren Ergebnissen als ein generischer Prompt. Schließlich besteht Distillation darin, Wissen von einem großen Modell auf ein kleines zu übertragen, um ähnliche Leistung bei deutlich geringeren Kosten zu erzielen. Bei Mistral ist es die Forge-Plattform, die es Ihnen ermöglicht, Open-Modelle zu fine-tunen: Sie bereiten ein Datensatz aus Frage-Antwort-Paaren vor, starten das Training und erhalten ein angepasstes Modell, das über die API bereitgestellt werden kann.

Temperature — Der Kreativitätsregler

Temperature ist ein Parameter, der den Grad an „Kreativität” – technisch gesehen Zufälligkeit – in den Antworten des Modells steuert. Bei niedriger Temperatur (0 bis 0,3) wählt das Modell systematisch die wahrscheinlichsten Antworten: das Ergebnis ist vorhersehbar, präzise und reproduzierbar, was sich für faktische Aufgaben, Datenextraktion und Code eignet. Bei mittlerer Temperatur (0,4 bis 0,7) erhalten Sie ein Gleichgewicht zwischen Kohärenz und Vielfalt, das den meisten konversationellen Anwendungen entspricht. Bei hoher Temperatur (0,8 bis 1,0) erforscht das Modell weniger offensichtliche Formulierungen: mehr Kreativität, aber auch mehr Fehlergefahr – eine Einstellung, die für Brainstorming und kreatives Schreiben vorbehalten sein sollte.

Auf Vibe wird die Temperatur automatisch verwaltet; Sie müssen sich nicht darum kümmern. Über die API können Sie sie jedoch für jede Anfrage genau definieren, und sie ist ein mächtiger Hebel: dieselbe Frage, die bei 0,1 und bei 0,9 gestellt wird, erzeugt in einem Fall die Antwort eines Buchhalters, im anderen die eines Texters.

Halluzinationen — Wenn das Modell Dinge erfindet

Halluzinationen sind Antworten, die plausibel erscheinen, aber faktisch falsch sind. Das Modell „erfindet” Informationen, und – hier liegt die Gefahr – es tut dies mit demselben selbstbewussten Ton, wie wenn es die Wahrheit sagt. Die Ursache ist strukturell: Ein LLM sagt wahrscheinliche Tokens voraus, nicht verifizierte Fakten. Es kann daher Text produzieren, der sprachlich einwandfrei, aber faktisch falsch ist. Risikobereiche sind gut identifiziert: präzise Daten, Zahlen und Statistiken, Zitate, die realen Personen zugeschrieben werden, Referenzen auf Studien oder Artikel und spezifische technische Details. Fragen Sie ein Modell nach der Bibliographie eines wenig bekannten Autors: Es wird Ihnen gerne Buchtitel liefern, die völlig glaubwürdig klingen… die aber nicht existieren.

Sie eliminieren Halluzinationen nicht, Sie begrenzen sie. RAG verankert Antworten in verifizierten Quellen; eine niedrige Temperatur begünstigt die wahrscheinlichsten Antworten; das Bitten des Modells um Quellen – und deren anschließende eigene Überprüfung – enthüllt Erfindungen; Grounding, das wir gleich danach sehen, verbindet das Modell mit realen Daten. Und bei jedem kritischen Thema bleibt die Regel absolut: Vertrauen Sie einer Antwort niemals blind.

Grounding — Verankerung in der Realität

Grounding bezieht sich auf alle Techniken, die ein Modell mit zuverlässigen und aktuellen Informationsquellen verbinden. RAG ist eine Form, aber das Konzept ist breiter. Websuche ermöglicht es dem Modell, Fakten im Internet zu überprüfen, statt aus seinem eingefrorenen Gedächtnis zu schöpfen. Verbindung zu Datenbanken gibt ihm Zugriff auf Ihre internen Daten – Ihren tatsächlichen Lagerbestand, Ihre tatsächlichen Kunden. Function Calling ermöglicht es schließlich, externe APIs aufzurufen, um Echtzeitdaten zu erhalten: das Wetter, einen Aktienkurs, den Status eines Systems. Der Unterschied ist entscheidend: Grounding wandelt einen Assistenten, der „Dinge weiß”, in einen Assistenten um, der „Dinge überprüfen kann”.

Prompt — Die Anweisung an das Modell

Der Prompt ist der Text, den Sie an das Modell senden: Ihre Anweisung, Ihre Frage, Ihre Bitte. Seine Qualität bestimmt maßgeblich die der Antwort – dies ist Gegenstand einer gesamten Lektion später in diesem Kurs. Halten Sie drei Begriffe im Sinn. Der System-Prompt fasst die allgemeinen Anweisungen zusammen, die dem Modell von vorneherein gegeben werden (Ton, Rolle, Einschränkungen), konfigurierbar über die API. Der User-Prompt ist Ihre eigentliche Nachricht, die aktuelle Frage oder Aufgabe. Und Few-Shot Prompting besteht darin, Beispiele für erwartete Antworten bereitzustellen, um das Modell zu führen: Zeigen ist oft besser als Erklären.

Kernaussagen

• RAG bereichert die Antworten des Modells mit frischen externen Daten
• Embeddings transformieren Text in Vektoren für die semantische Suche
• Fine-Tuning passt ein Modell an Ihre spezifischen Bedürfnisse an über Forge
• Temperature steuert das Gleichgewicht zwischen Präzision und Kreativität
• Halluzinationen sind plausible, aber falsche Antworten; Grounding verankert das Modell in überprüfbaren Daten, um sie zu begrenzen