Lähe põhisisu juurde
Eesti— Vali keel
Menüü

Lisa kohandatud pakkujaid

Õppetund 7 / 16 Värskendatud 2. november 2026 Arendajatele
Sellel lehel
  1. Miks kasutada kolmandate osapoolte pakkujaid?
  2. Pakkuja anatoomia
  3. Levinud pakkujate näited
  4. Mudeli deklareerimine pakkujal
  5. Täielik näide: OpenRouter
  6. Kohalik pakkuja Ollamaga
  7. Peamised punktid

Uuendatud 2. novembril 2026 — Devstral. Devstral 2 (devstral-2512) jõudis oma elutsükli lõppu 31. juulil 2026 ja Devstral Small 2 31. märtsil 2026: nende mudelite kõned ei ole enam garanteeritud. Ametlik tabel suunab need ümber Mistral Medium 3.5-le, mis on omakorda aegunud Mistral Large 4 kasuks. Codestral (codestral-2508) on koodi lõpetamiseks endiselt üldkasutatav. Enne nende näidete uuesti kasutamist kontrolli mudelite tabelit, et näha, kuhu -latest aliased osutavad.

Miks kasutada kolmandate osapoolte pakkujaid?

Vaikimisi suhtleb Vibe Mistral API-ga. Kuid tööriista arhitektuur on loodud agnostiliseks: saad lisada ükskõik millise pakkujaga, mis ühildub OpenAI API formaadiga. See lahendab neli reaalset vajadust. Saad kasutada teiste müüjate mudeleid – Claude, GPT, Llama –, suunata päringuid relee kaudu nagu OpenRouter, et võrrelda sama ülesande puhul mitut mudelit, osutada kohalikule instantsile (Ollama, vLLM), kui kood ei tohi masinast lahkuda, või vahetada pakkujaid sõltuvalt töö iseloomust.

Tüüpiline stsenaarium hõlmab meeskonda, kes töötab igapäevaselt Devstral 2-ga Mistral API kaudu, kuid lülitub kohalikule instantsile iga kord, kui tegemist on konfidentsiaalsusnõuetega kliendi repositooriumiga.

Pakkuja anatoomia

Määratled pakkuja failis config.toml, kasutades direktiivi [[providers]]:

[[providers]]
name = "openrouter"
api_base = "https://openrouter.ai/api/v1"
api_key_env_var = "OPENROUTER_API_KEY"
api_style = "openai"
backend = "generic"

Igal väljal on kindel roll:

  • name – Pakkuja kordumatu identifikaator (kasutatakse mudelitele viitamiseks)
  • api_base – API baas-URL (lõpp-punkt /chat/completions lisatakse automaatselt)
  • api_key_env_var – Keskkonnamuutuja nimi, mis sisaldab API võtit
  • api_style – API formaat. Kasuta "openai" iga OpenAI-ga ühilduva pakkuja jaoks
  • backend – Taustsüsteemi tüüp. "generic" sobib enamiku juhtude jaoks

Klassikaline lõks puudutab api_base-i: kuna Vibe lisab ise /chat/completions, põhjustab URL, mis juba sisaldab seda sufiksit, vigase aadressi ja raskesti diagnoositava võrguvea.

Levinud pakkujate näited

Siin on väärtused, mida sisestada kõige levinumate teenuste jaoks. Kahel kohalikul pakkujal puudub võtme muutuja, kuna need ei vaja autentimist.

Pakkujaapi_baseapi_key_env_var
OpenRouterhttps://openrouter.ai/api/v1OPENROUTER_API_KEY
Ollama (kohalik)http://localhost:11434/v1—
Together AIhttps://api.together.xyz/v1TOGETHER_API_KEY
Groqhttps://api.groq.com/openai/v1GROQ_API_KEY
vLLM (ise majutatud)http://votre-serveur:8000/v1—

Mudeli deklareerimine pakkujal

Pakkuja deklareerimisest ei piisa: seejärel pead lisama mudelid, mida kavad kasutada.

[[models]]
name = "mistralai/devstral-2512:free"
provider = "openrouter"
alias = "devstral-openrouter"
temperature = 0.2

Väli name kordab mudeli identifikaatorit täpselt nii, nagu pakkuja seda tunneb, tähemärgi haaval. provider peab vastama varem deklareeritud pakkuja name-ile, vastasel juhul ei tea Vibe, kuhu päringut saata. alias määratleb lühendatud nime, mida Vibe’i sees kasutada, ja temperature seab loovuse taseme: 0,0 deterministliku käitumise jaoks kuni 1,0 loomingulisema mudeli jaoks. Koodi puhul annab madal väärtus, nagu näites, palju stabiilsemaid tulemusi.

Selle mudeli vaikimisi lubamiseks kasuta lihtsalt selle aliast uuesti:

active_model = "devstral-openrouter"

Täielik näide: OpenRouter

Siin on täielik konfiguratsioon ühe pakkuja ja kahe lisatud mudeliga:

# ~/.vibe/config.toml

# OpenRouter Pakkuja
[[providers]]
name = "openrouter"
api_base = "https://openrouter.ai/api/v1"
api_key_env_var = "OPENROUTER_API_KEY"
api_style = "openai"
backend = "generic"

# Tasuta Devstral mudel OpenRouteri kaudu
[[models]]
name = "mistralai/devstral-2512:free"
provider = "openrouter"
alias = "devstral-free"
temperature = 0.2

# Llama mudel OpenRouteri kaudu
[[models]]
name = "meta-llama/llama-3.3-70b-instruct"
provider = "openrouter"
alias = "llama-70b"
temperature = 0.3

Ainult konfiguratsioonist ei piisa: pead endiselt määratlema keskkonnamuutuja, mida pakkuja ootab, vastasel juhul saadetakse kõned ilma autentimiseta.

export OPENROUTER_API_KEY="sk-or-votre-cle-ici"

Kui mõlemad mudelid on deklareeritud, on sul kaks omavahel asendatavat aliast. Seansi ajal lülitab /model devstral-free nende vahel ilma vestlust kaotamata, võimaldades võrrelda kahte vastust sama probleemi puhul. Käivitamisel teeb sama asja valik --model: vibe --model llama-70b.

Kohalik pakkuja Ollamaga

Kohaliku serveri mudeli juhtum väärib eraldi näidet, kuna see ei vaja API võtit: väli api_key_env_var jääb lihtsalt tühjaks.

[[providers]]
name = "ollama"
api_base = "http://localhost:11434/v1"
api_key_env_var = ""
api_style = "openai"
backend = "generic"

[[models]]
name = "codestral:latest"
provider = "ollama"
alias = "codestral-local"

Eelis on otsene: sinu andmed ei lahku kunagi sinu masinast. See on valik, mida eelistada tundliku koodiga töötamisel või lihtsalt kodeerimise jätkamiseks rongis ilma internetiühenduseta.

Peamised punktid

  • Vibe toetab kõiki pakkujaid, mis ühilduvad OpenAI API formaadiga
  • Deklareeri pakkuja käsuga [[providers]] failis config.toml
  • Iga mudel on seotud pakkujaga ja võib omada aliast
  • /model võimaldab seansi ajal mudelite vahel lülituda
  • Kohalikud pakkujad (Ollama, vLLM) võimaldavad töötada võrguühenduseta