Preskok na glavno vsebino
Slovenščina— Izberite jezik
Meni

Dodajanje ponudnikov po meri

Lekcija 7 od 16 Posodobljeno 2. november 2026 Razvijalec
Na tej strani
  1. Zakaj uporabljati ponudnike tretjih strani?
  2. Anatomija ponudnika
  3. Primeri pogostih ponudnikov
  4. Deklariranje modela pri ponudniku
  5. Celoten primer: OpenRouter
  6. Lokalni ponudnik z Ollamo
  7. Ključne ugotovitve

Posodobljeno 2. novembra 2026 — Devstral. Devstral 2 (devstral-2512) je dosegel konec življenjske dobe 31. julija 2026, Devstral Small 2 pa 31. marca 2026: klici teh modelov niso več zagotovljeni. Uradna tabela jih preusmerja na Mistral Medium 3.5, ki je sam zastarel v korist Mistral Large 4. Codestral (codestral-2508) ostaja splošno dostopen za dopolnjevanje kode. Pred ponovno uporabo teh primerov preveri tabelo modelov, kamer kažejo sopomenke -latest.

Zakaj uporabljati ponudnike tretjih strani?

Privzeto Vibe komunicira z API-jem Mistral. Toda arhitektura orodja je zasnovana agnostično: dodati lahko katerega koli ponudnika, združljivega s formatom API-ja OpenAI. To naslavlja štiri potrebe iz resničnega sveta. Dostopaš lahko do modelov drugih proizvajalcev – Claude, GPT, Llama –, usmerjaš prek releja, kot je OpenRouter, da primerjaš več modelov pri isti nalogi, kažeš na lokalno instanco (Ollama, vLLM), ko koda ne sme zapustiti stroja, ali pa menjavaš ponudnike glede na naravo dela.

Tipičen scenarij vključuje ekipo, ki dnevno dela z Devstral 2 na API-ju Mistral, a preklopi na lokalno instanco, kadar obravnava odjemalčevo skladišče, ki je predmet omejitev zaupnosti.

Anatomija ponudnika

Ponudnika določiš v datoteki config.toml z uporabo direktive [[providers]]:

[[providers]]
name = "openrouter"
api_base = "https://openrouter.ai/api/v1"
api_key_env_var = "OPENROUTER_API_KEY"
api_style = "openai"
backend = "generic"

Vsako polje ima specifično vlogo:

  • name – Enoznačen identifikator ponudnika (uporablja se za sklicevanje na modele)
  • api_base – Osnovni URL API-ja (končna točka /chat/completions se samodejno doda)
  • api_key_env_var – Ime spremenljivke okolja, ki vsebuje ključ API
  • api_style – Format API-ja. Uporabi "openai" za katerega koli ponudnika, združljivega z OpenAI
  • backend – Vrsta zaledja. "generic" deluje v večini primerov

Klasična past se nanaša na api_base: ker Vibe sam doda /chat/completions, bo URL, ki že vključuje to pripono, povzročil neveljaven naslov in napako v omrežju, ki jo je težko diagnosticirati.

Primeri pogostih ponudnikov

Tukaj so vrednosti, ki jih moraš vnesti za najbolj razširjene storitve. Dva lokalna ponudnika nimata spremenljivke za ključ, saj ne zahtevata avtentikacije.

Ponudnikapi_baseapi_key_env_var
OpenRouterhttps://openrouter.ai/api/v1OPENROUTER_API_KEY
Ollama (lokalno)http://localhost:11434/v1—
Together AIhttps://api.together.xyz/v1TOGETHER_API_KEY
Groqhttps://api.groq.com/openai/v1GROQ_API_KEY
vLLM (samostojno gostovanje)http://votre-serveur:8000/v1—

Deklariranje modela pri ponudniku

Deklariranje ponudnika ni dovolj: nato moraš pripeti modele, ki jih nameravaš uporabljati.

[[models]]
name = "mistralai/devstral-2512:free"
provider = "openrouter"
alias = "devstral-openrouter"
temperature = 0.2

Polje name ponovi identifikator modela točno tako, kot ga pozna ponudnik, znak za znakom. provider se mora ujemati z name predhodno deklariranega ponudnika, sicer Vibe ne bo vedel, kam poslati zahtevo. alias določa kratko ime za uporabo znotraj Vibe, temperature pa nastavlja ustvarjalnost, od 0,0 za deterministično obnašanje do 1,0 za bolj inventiven model. Za kodo nizka vrednost, kot je ta v primeru, prinaša veliko stabilnejše rezultate.

Če želiš ta model omogočiti privzeto, preprosto ponovno uporabi njegov alias:

active_model = "devstral-openrouter"

Celoten primer: OpenRouter

Tukaj je popolna konfiguracija z enim ponudnikom in dvema pripetima modeloma:

# ~/.vibe/config.toml

# Ponudnik OpenRouter
[[providers]]
name = "openrouter"
api_base = "https://openrouter.ai/api/v1"
api_key_env_var = "OPENROUTER_API_KEY"
api_style = "openai"
backend = "generic"

# Brezplačen model Devstral prek OpenRouter
[[models]]
name = "mistralai/devstral-2512:free"
provider = "openrouter"
alias = "devstral-free"
temperature = 0.2

# Model Llama prek OpenRouter
[[models]]
name = "meta-llama/llama-3.3-70b-instruct"
provider = "openrouter"
alias = "llama-70b"
temperature = 0.3

Sama konfiguracija ni dovolj: še vedno moraš definirati spremenljivko okolja, ki jo ponudnik pričakuje, sicer bodo klici odšli brez avtentikacije.

export OPENROUTER_API_KEY="sk-or-votre-cle-ici"

Ko sta oba modela deklarirana, imaš na voljo dva zamenljiva aliasa. Med sejo /model devstral-free preklopi med njima brez izgube pogovora, kar ti omogoča primerjavo dveh odgovorov na isti problem. Ob zagonu stori isto možnost --model: vibe --model llama-70b.

Lokalni ponudnik z Ollamo

Primer modela, ki se streže lokalno, zasluži ločen primer, saj ne zahteva ključa API: polje api_key_env_var preprosto ostane prazno.

[[providers]]
name = "ollama"
api_base = "http://localhost:11434/v1"
api_key_env_var = ""
api_style = "openai"
backend = "generic"

[[models]]
name = "codestral:latest"
provider = "ollama"
alias = "codestral-local"

Prednost je neposredna: tvoji podatki nikoli ne zapustijo tvojega stroja. To je možnost, ki jo izbereš za delo z občutljivo kodo ali preprosto za nadaljevanje kodiranja v vlaku brez internetne povezave.

Ključne ugotovitve

  • Vibe podpira katerega koli ponudnika, združljivega s formatom API-ja OpenAI
  • Ponudnika deklariraš z [[providers]] v datoteki config.toml
  • Vsak model je pripet ponudniku in ima lahko alias
  • /model ti omogoča preklop med modeli med sejo
  • Lokalni ponudniki (Ollama, vLLM) omogočajo delo brez povezave