Pereiti prie pagrindinio turinio
Lietuvių— Pasirinkite kalbą
Meniu

Pridėti tinkintus teikėjus

Paskaita 7 iš 16 Atnaujinta 2026 m. lapkričio 2 d. Kūrėjas
Šiame puslapyje
  1. Kodėl naudoti trečiųjų šalių teikėjus?
  2. Teikėjo sandara
  3. Dažniausiai naudojamų teikėjų pavyzdžiai
  4. Modelio deklaravimas teikėjui
  5. Pilnas pavyzdys: „OpenRouter“
  6. Vietinis teikėjas su „Ollama“
  7. Svarbiausi punktai

Atnaujinta 2026 m. lapkričio 2 d. — Devstral. Devstral 2 (devstral-2512) gyvavimo ciklas baigėsi 2026 m. liepos 31 d., o Devstral Small 2 – 2026 m. kovo 31 d.: skambučiai šiems modeliams nebegarantuojami. Oficiali lentelė juos nukreipia į „Mistral Medium 3.5“, kuris savo ruožtu yra pasenęs „Mistral Large 4“ naudai. „Codestral“ (codestral-2508) vis dar bendrai prieinamas kodo užbaigimui. Prieš naudodami šiuos pavyzdžius iš naujo, patikrinkite modelių lentelę, kur nukreipti -latest aliasai.

Kodėl naudoti trečiųjų šalių teikėjus?

Pagal nutylėjimą „Vibe“ bendrauja su „Mistral API“. Tačiau įrankio architektūra sukurta taip, kad būtų agnostiška: galite pridėti bet kurį teikėją, suderinamą su „OpenAI API“ formatu. Tai sprendžia keturis realius poreikius. Galite pasiekti kitų tiekėjų modelius – „Claude“, „GPT“, „Llama“, maršrutizuoti per relę, pvz., „OpenRouter“, kad palygintumėte kelis modelius toje pačioje užduotyje, nukreipti į vietinį egzempliorių („Ollama“, „vLLM“), kai kodas negali išeiti iš kompiuterio, arba keisti teikėjus priklausomai nuo darbo pobūdžio.

Tipiškas scenarijus – komanda, kasdien dirbanti su „Devstral 2“ per „Mistral API“, bet pereinant prie vietinio egzemplioriaus, kai tvarkoma kliento saugykla, kuriai taikomi konfidencialumo apribojimai.

Teikėjo sandara

Teikėją deklaruojate faile config.toml naudodami direktyvą [[providers]]:

[[providers]]
name = "openrouter"
api_base = "https://openrouter.ai/api/v1"
api_key_env_var = "OPENROUTER_API_KEY"
api_style = "openai"
backend = "generic"

Kiekvienas laukas atlieka specifinį vaidmenį:

  • name – Unikalus teikėjo identifikatorius (naudojamas modeliams nuorodoti)
  • api_base – Bazinis API URL (galas /chat/completions bus pridėtas automatiškai)
  • api_key_env_var – Aplinkos kintamojo, kuriame yra API raktas, pavadinimas
  • api_style – API formatas. Naudokite "openai" bet kuriam su „OpenAI“ suderinamam teikėjui
  • backend – Sistemos tipas. "generic" tinka daugeliu atvejų

Klasikinė klaida susijusi su api_base: kadangi „Vibe“ pats prideda /chat/completions, URL, kuris jau turi šią pabaigą, taps neteisingu adresu ir sukels sunkiai diagnozuojamą tinklo klaidą.

Dažniausiai naudojamų teikėjų pavyzdžiai

Štai reikšmės, kurias reikia įvesti populiariausioms tarnyboms. Dviem vietiniams teikėjams nėra rakto kintamojo, nes jiems autentifikacija nereikalinga.

Teikėjasapi_baseapi_key_env_var
OpenRouterhttps://openrouter.ai/api/v1OPENROUTER_API_KEY
Ollama (vietinis)http://localhost:11434/v1—
Together AIhttps://api.together.xyz/v1TOGETHER_API_KEY
Groqhttps://api.groq.com/openai/v1GROQ_API_KEY
vLLM (savaime talpinamas)http://votre-serveur:8000/v1—

Modelio deklaravimas teikėjui

Nepakanka tik deklaruoti teikėją: tuomet turite pridėti modelius, kuriuos ketinate naudoti.

[[models]]
name = "mistralai/devstral-2512:free"
provider = "openrouter"
alias = "devstral-openrouter"
temperature = 0.2

Laukas name tiksliai pakartoja modelio identifikatorių taip, kaip jį žino teikėjas, simbolis po simbolio. provider turi atitikti anksčiau deklaruoto teikėjo name, kitaip „Vibe“ nežinos, kur siųsti užklausos. alias apibrėžia trumpinį, naudojamą „Vibe“ viduje, o temperature nustato kūrybiškumą: nuo 0,0 deterministiniam elgesiui iki 1,0 kūrybiškesniam modeliui. Kodui maža reikšmė, kaip pavyzdyje, duoda daug stabilesnių rezultatų.

Norėdami įgalinti šį modelį pagal nutylėjimą, tiesiog pakartotinai naudokite jo aliasą:

active_model = "devstral-openrouter"

Pilnas pavyzdys: „OpenRouter“

Štai pilna konfigūracija su vienu teikėju ir dviem pridėtais modeliais:

# ~/.vibe/config.toml

# OpenRouter teikėjas
[[providers]]
name = "openrouter"
api_base = "https://openrouter.ai/api/v1"
api_key_env_var = "OPENROUTER_API_KEY"
api_style = "openai"
backend = "generic"

# Nemokamas Devstral modelis per OpenRouter
[[models]]
name = "mistralai/devstral-2512:free"
provider = "openrouter"
alias = "devstral-free"
temperature = 0.2

# Llama modelis per OpenRouter
[[models]]
name = "meta-llama/llama-3.3-70b-instruct"
provider = "openrouter"
alias = "llama-70b"
temperature = 0.3

Vienos konfigūracijos nepakanka: vis tiek turite apibrėžti aplinkos kintamąjį, kurio tikisi teikėjas, kitaip skambučiai bus siunčiami be autentifikacijos.

export OPENROUTER_API_KEY="sk-or-votre-cle-ici"

Kai abu modeliai deklaruoti, turite du keičiamus aliasus. Sesijos metu /model devstral-free perjungia juos neprarasdamas pokalbio, leisdamas palyginti du atsakymus į tą pačią problemą. Paleidimo metu parinktis --model daro tą patį: vibe --model llama-70b.

Vietinis teikėjas su „Ollama“

Vietinio serverio modelio atvejis nusipelno atskiro pavyzdžio, nes jam nereikia API rakto: laukas api_key_env_var tiesiog lieka tuščias.

[[providers]]
name = "ollama"
api_base = "http://localhost:11434/v1"
api_key_env_var = ""
api_style = "openai"
backend = "generic"

[[models]]
name = "codestral:latest"
provider = "ollama"
alias = "codestral-local"

Privalumas akivaizdus: jūsų duomenys niekada nepalieka jūsų kompiuterio. Tai yra pasirinkimas dirbant su jautriu kodu arba tiesiog norint tęsti kodavimą traukinyje be interneto ryšio.

Svarbiausi punktai

  • „Vibe“ palaiko bet kurį teikėją, suderinamą su „OpenAI API“ formatu
  • Deklaruokite teikėją naudodami [[providers]] faile config.toml
  • Kiekvienas modelis priskiriamas teikėjui ir gali turėti aliasą
  • /model leidžia perjungti modelius sesijos metu
  • Vietiniai teikėjai („Ollama“, „vLLM“) leidžia dirbti neprisijungus