Zakaj zagnati Vibe lokalno?
Na tej strani
Lekcija posodobljena 2. novembra 2026 na podlagi strani Uporaba modelov brez povezave v dokumentaciji za Vibe. Devstral so odstranili iz API-ja Mistral, vendar so njegove uteži še vedno objavljene: Devstral Small 2 in Mistral Small 4 sta dva priporočena odprta modela za lokalno uporabo. Vibe ne vključuje lokalnega modela: povežeš ga združljivim strežnikom OpenAI prek prednastavitve v
config.toml, nato pa preklopiš z ukazom/model. Vir: Uporaba modelov brez povezave.
Omejitve oblaka
Do zdaj smo Mistral Vibe uporabljali z modeli, gostovanimi na strežnikih podjetja Mistral AI: to je priročno, hitro in ne zahteva nobene konfiguracije. V nekaterih strokovnih okoljih pa ta priročnost ni možnost. Lokalni način rešuje te situacije tako, da ti omogoča namestitev modela na tvojo lastno infrastrukturo, delo brez internetne povezave in ohranjanje popolnega nadzora nad tvojimi podatki.
Štirje razlogi za preklop
Prvi razlog je zaupnost in intelektualna lastnina. V oblaku tvoja izvorna koda potuje prek strežnikov Mistral AI. Tudi ob močnih pogodbenih jamstvih nekatera organizacije tega preprosto ne morejo dovoliti: lastniška koda, zajeta z NDA, klasificirani ali regulirani projekti, občutljivi podatki strank v zdravstvu, financah ali obrambi, da ne omenjamo poslovnih skrivnosti, ki se skrivajo v konfiguracijskih datotekah. V lokalnem načinu tvoja koda nikoli ne zapusti tvojega računalnika ali notranjega omrežja in nobeni podatki se ne prenašajo navzven.
Drugi razlog je delovanje brez povezave. Lokalni model odgovori brez kakršne koli internetne povezave. To je prelomnica za razvijalce na poti – v letalih, vlakih ali na območjih brez signala – vendar je absolutna nujnost v zračno izoliranih okoljih kritične infrastrukture in vojaških sistemov. Omejujoča korporacijska omrežja s svojimi posredniškimi strežniki, ki opustijo vsako tretjo zahtevo, in izolirani podatkovni centri sledijo isti logiki: kjer je oblak nedostopen ali nestabilen, je lokalna rešitev edina vzdržna možnost.
Tretji razlog je ekonomski. API Mistral temelji na uporabi, ekipa, ki resnično sprejme Vibe, pa porabi veliko več žetonov, kot je bilo pričakovano: vsak pregled kode in generiranje testov poveča račun. V lokalnem načinu se stroški koncentrirajo na začetno naložbo v strojno opremo – GPU – in porabo električne energije. Plačaš enkrat, nato pa se soočiš brez ponavljajočih se stroškov na žeton ali neprijetnih presenečenj ob koncu meseca.
Četrti razlog zadeva suverenost podatkov. Splošna uredba o varstvu podatkov (GDPR), direktiva NIS2 in uredba DORA nalagajo stroge omejitve, vsak prenos zunaj tvoje jurisdikcije pa postane postavka, ki jo je treba utemeljiti. Lokalna namestitev odpravi težavo že v korenu: tvoji podatki ostanejo znotraj tvoje jurisdikcije, nadzoruješ njihov celoten življenjski cikel, čezmejnih prenosov ni treba dokumentirati, regulativni reviziji pa postaneta bistveno lažji.
Devstral, model zgrajen za ta primer uporabe
Dokumentacija za Vibe priporoča dva odprta modela za lokalno uporabo: Devstral Small 2 (24B-Instruct-2512, licenca Apache 2.0), gost model, optimiziran za agentske naloge in kodo, ter Mistral Small 4, mešanica strokovnjakov s 119 milijardami parametrov (6,5 milijarde aktivnih), ki je bolj zahteven glede video pomnilnika. Devstral Small 2 je 31. marca 2026 izstopil iz API-ja Mistral, vendar so njegove uteži še vedno objavljene. Njegovih 24 milijard parametrov ga zmožnega za kodiranje, hkrati pa ga je mogoče gostiti na razumni strojni opremi: to je njegovo osrednje kompromisno ravnovesje. Njegova permisivna licenca omogoča brezplačno namestitev, njegovo usposabljanje, posebej usmerjeno v razumevanje in generiranje kode, pa mu daje jasno prednost pred splošnim modelom primerljive velikosti. Integracija z Vibom je nativna – ukaz /config je vse, kar potrebuješ za preklop nanj.
Kaj dobiš in kaj izgubiš
Za vsakodnevne naloge se lokalna instanca Devstrala povsem kosuje: dopolnjevanje in generiranje kode, refaktoriranje, odpravljanje napak, pregledi kode in predlogi, generiranje testov ter tehnična dokumentacija. To zajema bistvo tega, kar običajno zahtevaš od pomočnika za kodiranje.
Kompromisi so realni in jih je vredno poznati, preden kupiš GPU. Hitrost je prva: lokalni GPU je pri dolgih zahtevah običajno počasnejši od API-ja v oblaku, razlika pa postane opazna takoj, ko mu predložiš veliko datoteko v obdelavo. Sledi kontekst, ki je odvisen od tvojega VRAM-a – približno 32K na RTX 4090 v primerjavi s 128K in več na H100. Nazadnje, kakovost: Devstral 24B je zmogljiv, vendar se ne more meriti z največjimi oblakovnimi modeli pri kompleksnih arhitekturnih nalogah. Temu dodaj še breme vzdrževanja: posodobitve in razpoložljivost sta zdaj na tvojih ramenih.
Ostani v oblaku ali združi oboje
Lokalni način zato ni vedno prava izbira. Za hitro prototipiranje ostaja oblak preprostejši. Za kompleksne arhitekturne naloge veliki oblakovni modeli ohranjajo jasno prednost. Razpršena ekipa bo morala prevzeti vzdrževanje centraliziranega lokalnega strežnika. Brez namenskega GPU pa finančna primerjava odločno nagiba v korist oblaka.
Najbolj pragmatična strategija je pogosto hibridna: lokalno za vsakodnevno delo z zaupno kodo, oblak za občasne kompleksne naloge, kot so prenova arhitekture ali dizajn sistem, morda oboje za usmerjevalnikom zahtev, ki samodejno arbitrirata. Vibe podpira ta pristop – med lokalnimi in oblakovnimi modeli lahko preklopiš prek ukaza /config kadarkoli, celo sredi seje.
Ključne ugotovitve
- Lokalni način zagotavlja, da tvoja koda nikoli ne zapusti tvoje infrastrukture
- Štirje glavni gonilni dejavniki: zaupnost, delovanje brez povezave, stroški, suverenost
- Devstral Small 2 (24B) je priporočeni model za lokalno namestitev
- Lokalni način vključuje kompromise glede hitrosti in okna konteksta
- Hibridni pristop (lokalno + oblak) je pogosto najbolj pragmatičen
- GDPR in evropski predpisi krepijo vrednost lokalnega načina