Zum Hauptinhalt springen
Deutsch— Sprache auswählen
Menü

Benutzerdefiniere Anbieter hinzufügen

Lektion 7 von 16 Aktualisiert am 2. November 2026 Entwickler
Auf dieser Seite
  1. Warum nutzen Sie Drittanbieter?
  2. Anatomie eines Anbieters
  3. Beispiele für gängige Anbieter
  4. Deklaration eines Modells bei einem Anbieter
  5. Komplettes Beispiel: OpenRouter
  6. Lokaler Anbieter mit Ollama
  7. Kernaussagen

Aktualisiert am 2. November 2026 — Devstral. Devstral 2 (devstral-2512) erreichte am 31. Juli 2026 sein Lebensende, und Devstral Small 2 am 31. März 2026: Aufrufe an diese Modelle sind nicht mehr garantiert. Die offizielle Tabelle leitet diese auf Mistral Medium 3.5 weiter, welches selbst zugunsten von Mistral Large 4 veraltet ist. Codestral (codestral-2508) bleibt für Code-Vervollständigungen allgemein verfügbar. Prüfen Sie die Modelltabelle, wohin die -latest-Alias verweisen, bevor Sie diese Beispiele wiederverwenden.

Warum nutzen Sie Drittanbieter?

Standardmäßig kommuniziert Vibe mit der Mistral API. Die Architektur des Tools ist jedoch agnostisch konzipiert: Sie können jeden Anbieter hinzufügen, der das OpenAI-API-Format unterstützt. Dies deckt vier reale Anwendungsfälle ab. Sie können Modelle anderer Anbieter wie Claude, GPT oder Llama nutzen, über einen Relay wie OpenRouter leiten, um mehrere Modelle bei derselben Aufgabe zu vergleichen, auf eine lokale Instanz (Ollama, vLLM) verweisen, wenn Code die Maschine nicht verlassen darf, oder Anbieter basierend auf der Art der Arbeit wechseln.

Ein typisches Szenario betrifft ein Team, das täglich mit Devstral 2 über die Mistral API arbeitet, bei der Bearbeitung von Kundenrepositorien jedoch auf eine lokale Instanz umschaltet, wenn Vertraulichkeitsbeschränkungen greifen.

Anatomie eines Anbieters

Sie deklarieren einen Anbieter in config.toml mit der Direktive [[providers]]:

[[providers]]
name = "openrouter"
api_base = "https://openrouter.ai/api/v1"
api_key_env_var = "OPENROUTER_API_KEY"
api_style = "openai"
backend = "generic"

Jedes Feld hat eine spezifische Funktion:

  • name — Eindeutiger Identifikator für den Anbieter (wird verwendet, um Modelle zu referenzieren)
  • api_base — Basis-URL der API (der Endpunkt /chat/completions wird automatisch angehängt)
  • api_key_env_var — Name der Umgebungsvariable, die den API-Schlüssel enthält
  • api_style — API-Format. Verwenden Sie "openai" für jeden OpenAI-kompatiblen Anbieter
  • backend — Backend-Typ. "generic" funktioniert für die meisten Fälle

Der klassische Fehler betrifft api_base: Da Vibe /chat/completions selbst anhängt, führt eine URL, die diesen Suffix bereits enthält, zu einer ungültigen Adresse und einem schwer zu diagnostizierenden Netzwerkfehler.

Beispiele für gängige Anbieter

Hier sind die Werte, die für die am weitesten verbreiteten Dienste einzutragen sind. Die beiden lokalen Anbieter benötigen keine Schlüsselvariable, da sie keine Authentifizierung erfordern.

Anbieterapi_baseapi_key_env_var
OpenRouterhttps://openrouter.ai/api/v1OPENROUTER_API_KEY
Ollama (lokal)http://localhost:11434/v1—
Together AIhttps://api.together.xyz/v1TOGETHER_API_KEY
Groqhttps://api.groq.com/openai/v1GROQ_API_KEY
vLLM (selbst gehostet)http://votre-serveur:8000/v1—

Deklaration eines Modells bei einem Anbieter

Die Deklaration des Anbieters reicht nicht aus: Sie müssen anschließend die Modelle hinzufügen, die Sie verwenden möchten.

[[models]]
name = "mistralai/devstral-2512:free"
provider = "openrouter"
alias = "devstral-openrouter"
temperature = 0.2

Das Feld name wiederholt den Modellidentifikator exakt so, wie der Anbieter ihn kennt, Buchstabe für Buchstabe. provider muss dem name eines zuvor deklarierten Anbieters entsprechen, sonst weiß Vibe nicht, wohin die Anfrage gesendet werden soll. alias definiert einen Kurznamen zur Verwendung innerhalb von Vibe, und temperature legt den Kreativitätsgrad fest, von 0,0 für deterministisches Verhalten bis zu 1,0 für ein erfinderischeres Modell. Für Code führt ein niedriger Wert wie im Beispiel zu deutlich stabileren Ergebnissen.

Um dieses Modell standardmäßig zu aktivieren, verwenden Sie einfach seinen Alias:

active_model = "devstral-openrouter"

Komplettes Beispiel: OpenRouter

Hier ist eine vollständige Konfiguration mit einem Anbieter und zwei angehängten Modellen:

# ~/.vibe/config.toml

# OpenRouter Provider
[[providers]]
name = "openrouter"
api_base = "https://openrouter.ai/api/v1"
api_key_env_var = "OPENROUTER_API_KEY"
api_style = "openai"
backend = "generic"

# Free Devstral Modell über OpenRouter
[[models]]
name = "mistralai/devstral-2512:free"
provider = "openrouter"
alias = "devstral-free"
temperature = 0.2

# Llama Modell über OpenRouter
[[models]]
name = "meta-llama/llama-3.3-70b-instruct"
provider = "openrouter"
alias = "llama-70b"
temperature = 0.3

Nur die Konfiguration reicht nicht aus: Sie müssen weiterhin die Umgebungsvariable definieren, die der Anbieter erwartet, sonst werden die Aufrufe ohne Authentifizierung ausgeführt.

export OPENROUTER_API_KEY="sk-or-votre-cle-ici"

Sobald beide Modelle deklariert sind, verfügen Sie über zwei austauschbare Alias-Namen. Während einer Sitzung schaltet /model zwischen ihnen um, ohne den Gesprächsverlauf zu verlieren, sodass Sie zwei Antworten auf dasselbe Problem vergleichen können. Beim Start erledigt die Option --model dasselbe: vibe --model llama-70b.

Lokaler Anbieter mit Ollama

Der Fall eines lokal bereitgestellten Modells verdient ein separates Beispiel, da er keinen API-Schlüssel benötigt: Das Feld api_key_env_var bleibt einfach leer.

[[providers]]
name = "ollama"
api_base = "http://localhost:11434/v1"
api_key_env_var = ""
api_style = "openai"
backend = "generic"

[[models]]
name = "codestral:latest"
provider = "ollama"
alias = "codestral-local"

Der Vorteil ist direkt: Ihre Daten verlassen niemals Ihre Maschine. Dies ist die Option, die Sie für die Arbeit mit sensiblen Code wählen sollten, oder einfach, um ohne Internetverbindung weiterzuprogrammieren.

Kernaussagen

  • Vibe unterstützt jeden Anbieter, der mit dem OpenAI-API-Format kompatibel ist
  • Deklarieren Sie einen Anbieter mit [[providers]] in config.toml
  • Jedes Modell wird einem Anbieter zugeordnet und kann einen Alias haben
  • /model ermöglicht das Umschalten zwischen Modellen während einer Sitzung
  • Lokale Anbieter (Ollama, vLLM) ermöglichen Offline-Arbeit