Few-Shot Prompting
Auf dieser Seite
Lernen durch Beispiele
Few-Shot Prompting beinhaltet das Bereitstellen von Eingabe-/Ausgabe-Paaren in Ihrem Prompt, um das Modell zu führen. Anstatt abstrakt zu beschreiben, was Sie erwarten, zeigen Sie das gewünschte Ergebnis konkret durch ein oder mehrere Beispiele.
Dieser Ansatz stützt sich auf die Fähigkeit von Grok, Muster zu erkennen und diese zu reproduzieren. Er ist oft die effektivste Technik, um ein präzises Ausgabeformat oder ein bestimmtes Verhalten zu erzielen.
Varianten von Few-Shot
Zero-Shot: Keine Beispiele
Sie geben nur die Anweisung ohne Beispiele. Dies ist das Standardverhalten.
[
{"role": "system", "content": "Klassifizieren Sie Kundenbewertungen als 'positive', 'negative' oder 'neutral'."},
{"role": "user", "content": "Das Produkt ist kaputt angekommen, sehr enttäuscht."}
]
One-Shot: Ein einziges Beispiel
Ein einziges Beispiel reicht oft aus, um das Ausgabeformat festzulegen.
[
{"role": "system", "content": "Klassifizieren Sie Kundenbewertungen unter Verwendung des im Beispiel gezeigten Formats."},
{"role": "user", "content": "Große Qualität, ich empfehle es!"},
{"role": "assistant", "content": "{\"sentiment\": \"positive\", \"confidence\": 0.95, \"keywords\": [\"quality\", \"recommend\"]}"},
{"role": "user", "content": "Das Produkt ist kaputt angekommen, sehr enttäuscht."}
]
Few-Shot: Mehrere Beispiele
Mit 2 bis 5 Beispielen decken Sie mehr Fälle ab und das Modell erfasst Nuancen besser.
[
{"role": "system", "content": "Klassifizieren Sie Kundenbewertungen im JSON-Format."},
{"role": "user", "content": "Große Qualität, ich empfehle es!"},
{"role": "assistant", "content": "{\"sentiment\": \"positive\", \"confidence\": 0.95}"},
{"role": "user", "content": "Meh, nichts Besonderes."},
{"role": "assistant", "content": "{\"sentiment\": \"neutral\", \"confidence\": 0.70}"},
{"role": "user", "content": "Schrecklich, funktioniert gar nicht."},
{"role": "assistant", "content": "{\"sentiment\": \"negative\", \"confidence\": 0.98}"},
{"role": "user", "content": "Schnelle Lieferung, aber beschädigte Verpackung."}
]
Wann Few-Shot anzuwenden ist
Few-Shot eignet sich besonders in folgenden Situationen:
- Striktes Ausgabeformat: JSON, CSV, strukturiertes Markdown, benutzerdefiniertes Format
- Klassifizierung: Stimmung, Kategorie, Priorität, Sprache
- Texttransformation: Umschreiben, Übersetzung mit Stil, Entitätsextraktion
- Tonkonsistenz: wenn Sie einen bestimmten Schreibstil reproduzieren müssen
Regeln für effektive Beispiele
Beispielvielfalt
Ihre Beispiele sollten die Hauptfälle abdecken. Für eine Dreiklassen-Klassifizierung sollten Sie mindestens ein Beispiel jeder Klasse enthalten.
Formatkonsistenz
Alle Ihre Beispiele müssen exakt demselben Ausgabeformat folgen. Wenn ein Beispiel JSON mit kleingeschriebenen Schlüssel zurückgibt, müssen alle anderen ebenfalls so vorgehen.
Relevanz
Wählen Sie Beispiele, die den realen Fällen nahekommen, die das Modell bearbeiten wird. Beispiele, die zu einfach oder zu exotisch sind, können die Ergebnisqualität verschlechtern.
Angemessene Menge
Mehrere Beispiele verbrauchen mehr Eingabetokens. Finden Sie das richtige Gleichgewicht: 2 bis 5 Beispiele reichen im Allgemeinen aus. Darüber hinaus hat das Hinzufügen weiterer Beispiele abnehmende Renditen.
Kombination von Few-Shot und Systemnachrichten
Die effektivste Kombination besteht darin, eine Systemnachricht zu verwenden, die die Aufgabe beschreibt, gepaart mit Few-Shot-Beispielen, die das Format zeigen:
[
{
"role": "system",
"content": "Sie sind ein Assistent, der benannte Entitäten (Personen, Orte, Organisationen) aus Text extrahiert und sie im JSON-Format zurückgibt. Jede Entität hat einen Typ und einen Wert."
},
{
"role": "user",
"content": "Marie Curie arbeitete an der Universität Paris."
},
{
"role": "assistant",
"content": "{\"entities\": [{\"type\": \"person\", \"value\": \"Marie Curie\"}, {\"type\": \"organization\", \"value\": \"University of Paris\"}]}"
},
{
"role": "user",
"content": "Der CEO von TotalEnergies traf den Minister in Lyon."
}
]
Die Systemnachricht erklärt die Aufgabe, das Beispiel zeigt das exakte Format. Das Modell wird dieses Format für die neue Eingabe reproduzieren.
Übung
Erstellen Sie einen Few-Shot-Prompt, um Produktdeskriptionen in strukturierte Tabellen umzuwandeln. Definieren Sie Ihr Ausgabeformat mit 2 bis 3 Beispielen und testen Sie es anschließend mit einem neuen Produkt.
Beginnen Sie mit einem One-Shot, um das Format zu überprüfen, und fügen Sie dann Beispiele hinzu, wenn die Ergebnisse Anpassungen erfordern.
Kernaussagen
- Few-Shot beinhaltet das Bereitstellen von Beispielen, um das Modell durch Nachahmung zu führen.
- Ein einziges Beispiel (One-Shot) reicht oft aus, um das Ausgabeformat festzulegen.
- 2 bis 5 Beispiele decken die meisten Fälle ab, ohne Tokens zu verschwenden.
- Ihre Beispiele müssen vielfältig, formatkonsistent und repräsentativ sein.
- Kombinieren Sie die Systemnachricht (Beschreibung) mit Beispielen (Demonstration) für optimale Ergebnisse.