Zašto pokretati Vibe lokalno?
Na ovoj stranici
Lekcija ažurirana 2. studenoga 2026. na temelju stranice Using offline models u Vibe dokumentaciji. Devstral je uklonjen s Mistral API-ja, ali njegove težine (weights) ostaju objavljene: Devstral Small 2 i Mistral Small 4 dva su preporučena otvorena modela za lokalnu upotrebu. Vibe ne uključuje lokalni model: povezuješ ga s kompatibilnim OpenAI poslužiteljem putem unaprijed postavljene konfiguracije u
config.toml, a zatim prebacuješ naredbom/model. Izvor: Using offline models.
Ograničenja oblaka
Do sada smo koristili Mistral Vibe s modelima hostiranima na poslužiteljima tvrtke Mistral AI: to je zgodno, brzo i ne zahtijeva konfiguraciju. Međutim, u nekim profesionalnim kontekstima ta pogodnost nije opcija. Lokalni način rada rješava takve situacije omogućujući ti da rasporediš model na vlastitu infrastrukturu, radiš bez internetske veze i zadržiš potpunu kontrolu nad svojim podacima.
Četiri razloga za prelazak
Prvi razlog je povjerljivost i intelektualno vlasništvo. U načinu rada s oblakom tvoj izvorni kod prolazi kroz poslužitelje tvrtke Mistral AI. Čak i uz snažna ugovorna jamstva, neke organizacije jednostavno ne mogu to dopustiti: vlasnički kod pokriven ugovorom o povjerljivosti (NDA), klasificirani ili regulirani projekti, osjetljivi podaci klijenata u zdravstvu, financijama ili obrani, da ne spominjemo poslovne tajne skrivene u konfiguracijskim datotekama. U lokalnom načinu tvoj kod nikada ne napušta tvoje računalo ili internu mrežu i nikakvi se podaci ne prenose izvana.
Drugi je rad izvan mreže (offline). Lokalni model odgovara bez ikakve internetske veze. To mijenja pravila igre za programere u pokretu – u avionima, vlakovima ili zonama bez signala – ali je apsolutna nužnost u izoliranim okruženjima (air-gapped) kritične infrastrukture i vojnih sustava. Restriktivne korporativne mreže, s njihovim proxy poslužiteljima koji odbacuju svaki treći zahtjev, i izolirana podatkovna središta slijede istu logiku: tamo gdje je oblak nedostupan ili nestabilan, lokalno rješenje je jedina održiva opcija.
Treći je ekonomski. Mistral API naplaćuje se prema potrošnji, a tim koji doista usvoji Vibe troši znatno više tokena nego što se očekivalo: svaka recenzija koda i generiranje testova povećavaju račun. U lokalnom načinu troškovi se koncentriraju na početno ulaganje u hardver – GPU – i potrošnju električne energije. Platiš jednom, a zatim nemaš ponavljajuće naknade po tokenima niti iznenađenja na kraju mjeseca.
Četvrti se tiče suvereniteta podataka. GDPR, NIS2 i DORA nameću stroga ograničenja, a svaki prijenos izvan tvoje jurisdikcije postaje stavka koju moraš opravdati. Lokalno raspoređivanje eliminira problem u korijenu: tvoji podaci ostaju unutar tvoje jurisdikcije, ti kontroliraš njihov cijeli životni ciklus, nema potrebe za dokumentiranjem prekograničnih prijenosa, a regulatorne revizije postaju znatno lakše.
Devstral, model stvoren za ovu namjenu
Vibe dokumentacija preporučuje dva otvorena modela za lokalnu upotrebu: Devstral Small 2 (24B-Instruct-2512, licenca Apache 2.0), gusti model optimiziran za agentske zadatke i kod, te Mistral Small 4, model mješavine stručnjaka (mixture-of-experts) sa 119 milijardi parametara (6,5 milijardi aktivnih), koji je zahtjevniji za video memoriju. Devstral Small 2 napustio je Mistral API 31. ožujka 2026., ali njegove težine ostaju objavljene. Njegovih 24 milijarde parametara čine ga sposobnim za programiranje, a istovremeno omogućuju hostiranje na razumnom hardveru: to je njegova središnja kompromisna vrijednost. Njegova permisivna licenca omogućuje besplatno raspoređivanje, a njegovo osposobljavanje specifično usmjereno na razumijevanje i generiranje koda daje mu jasnu prednost nad generalističkim modelom usporedive veličine. Integracija s Vibom je izvorna – naredba /config sve je što je potrebno za prelazak na njega.
Što dobivaš, a što gubiš
Za svakodnevne zadatke lokalna instanca Devstrala savršeno drži korak: dovršavanje i generiranje koda, refaktoriranje, ispravljanje grešaka, recenzije i prijedlozi koda, generiranje testova te tehnička dokumentacija. To pokriva bit onoga što obično tražiš od asistenta za programiranje tijekom normalnog radnog dana.
Kompromisi su stvarni i vrijedi ih znati prije kupnje GPU-a. Brzina je prva: lokalni GPU općenito je sporiji od API-ja u oblaku za duge zahtjeve, a jaz postaje vidljiv čim mu predaš veliku datoteku na obradu. Kontekst je sljedeći, a ovisi o tvojoj VRAM-u – oko 32K na RTX 4090 naspram 128K i više na H100. Konačno, kvaliteta: Devstral 24B je učinkovit, ali ne može se mjeriti s najvećim modelima u oblaku za složene arhitektonske zadatke. Tome dodaj teret održavanja: ažuriranja i dostupnost sada su na tvojim leđima.
Ostani u oblaku ili kombiniraj oboje
Lokalno rješenje stoga nije uvijek pravi izbor. Za brzo izradu prototipova oblak ostaje jednostavniji. Za složene arhitektonske zadatke veliki modeli u oblaku zadržavaju jasno vodstvo. Distribuirani tim morat će preuzeti održavanje centraliziranog lokalnog poslužitelja. A bez namjenskog GPU-a, financijska usporedba naginje odlučno u korist oblaka.
Najpragmatičnija strategija često je hibridna: lokalno za svakodnevni rad na povjerljivom kodu, oblak za povremene složene zadatke poput nadogradnje arhitekture ili dizajn sustava, moguće oboje iza usmjerivača zahtjeva koji automatski arbitriraju. Vibe podržava ovaj pristup – možeš se prebacivati između lokalnih i modela u oblaku putem /config u bilo kojem trenutku, čak i usred sesije.
Ključne točke
- Lokalni način rada jamči da tvoj kod nikada ne napušta tvoju infrastrukturu
- Četiri glavna pokretača: povjerljivost, mogućnost rada izvan mreže, troškovi, suverenitet
- Devstral Small 2 (24B) preporučeni je model za lokalno raspoređivanje
- Lokalni način rada uključuje kompromise u brzini i veličini kontekstnog prozora
- Hibridni pristup (lokalno + oblak) često je najpragmatičniji
- GDPR i europski propisi dodatno naglašavaju vrijednost lokalnog načina rada