Preskoči na glavni sadržaj
Hrvatski— Odaberite jezik
Izbornik

Zašto pokretati Vibe lokalno?

Lekcija 12 od 14 Ažurirano 2. studenoga 2026. Napredno
Na ovoj stranici
  1. Ograničenja oblaka
  2. Četiri razloga za prelazak
  3. Devstral, model stvoren za ovu namjenu
  4. Što dobivaš, a što gubiš
  5. Ostani u oblaku ili kombiniraj oboje
  6. Ključne točke

Lekcija ažurirana 2. studenoga 2026. na temelju stranice Using offline models u Vibe dokumentaciji. Devstral je uklonjen s Mistral API-ja, ali njegove težine (weights) ostaju objavljene: Devstral Small 2 i Mistral Small 4 dva su preporučena otvorena modela za lokalnu upotrebu. Vibe ne uključuje lokalni model: povezuješ ga s kompatibilnim OpenAI poslužiteljem putem unaprijed postavljene konfiguracije u config.toml, a zatim prebacuješ naredbom /model. Izvor: Using offline models.

Ograničenja oblaka

Do sada smo koristili Mistral Vibe s modelima hostiranima na poslužiteljima tvrtke Mistral AI: to je zgodno, brzo i ne zahtijeva konfiguraciju. Međutim, u nekim profesionalnim kontekstima ta pogodnost nije opcija. Lokalni način rada rješava takve situacije omogućujući ti da rasporediš model na vlastitu infrastrukturu, radiš bez internetske veze i zadržiš potpunu kontrolu nad svojim podacima.

Četiri razloga za prelazak

Prvi razlog je povjerljivost i intelektualno vlasništvo. U načinu rada s oblakom tvoj izvorni kod prolazi kroz poslužitelje tvrtke Mistral AI. Čak i uz snažna ugovorna jamstva, neke organizacije jednostavno ne mogu to dopustiti: vlasnički kod pokriven ugovorom o povjerljivosti (NDA), klasificirani ili regulirani projekti, osjetljivi podaci klijenata u zdravstvu, financijama ili obrani, da ne spominjemo poslovne tajne skrivene u konfiguracijskim datotekama. U lokalnom načinu tvoj kod nikada ne napušta tvoje računalo ili internu mrežu i nikakvi se podaci ne prenose izvana.

Drugi je rad izvan mreže (offline). Lokalni model odgovara bez ikakve internetske veze. To mijenja pravila igre za programere u pokretu – u avionima, vlakovima ili zonama bez signala – ali je apsolutna nužnost u izoliranim okruženjima (air-gapped) kritične infrastrukture i vojnih sustava. Restriktivne korporativne mreže, s njihovim proxy poslužiteljima koji odbacuju svaki treći zahtjev, i izolirana podatkovna središta slijede istu logiku: tamo gdje je oblak nedostupan ili nestabilan, lokalno rješenje je jedina održiva opcija.

Treći je ekonomski. Mistral API naplaćuje se prema potrošnji, a tim koji doista usvoji Vibe troši znatno više tokena nego što se očekivalo: svaka recenzija koda i generiranje testova povećavaju račun. U lokalnom načinu troškovi se koncentriraju na početno ulaganje u hardver – GPU – i potrošnju električne energije. Platiš jednom, a zatim nemaš ponavljajuće naknade po tokenima niti iznenađenja na kraju mjeseca.

Četvrti se tiče suvereniteta podataka. GDPR, NIS2 i DORA nameću stroga ograničenja, a svaki prijenos izvan tvoje jurisdikcije postaje stavka koju moraš opravdati. Lokalno raspoređivanje eliminira problem u korijenu: tvoji podaci ostaju unutar tvoje jurisdikcije, ti kontroliraš njihov cijeli životni ciklus, nema potrebe za dokumentiranjem prekograničnih prijenosa, a regulatorne revizije postaju znatno lakše.

Devstral, model stvoren za ovu namjenu

Vibe dokumentacija preporučuje dva otvorena modela za lokalnu upotrebu: Devstral Small 2 (24B-Instruct-2512, licenca Apache 2.0), gusti model optimiziran za agentske zadatke i kod, te Mistral Small 4, model mješavine stručnjaka (mixture-of-experts) sa 119 milijardi parametara (6,5 milijardi aktivnih), koji je zahtjevniji za video memoriju. Devstral Small 2 napustio je Mistral API 31. ožujka 2026., ali njegove težine ostaju objavljene. Njegovih 24 milijarde parametara čine ga sposobnim za programiranje, a istovremeno omogućuju hostiranje na razumnom hardveru: to je njegova središnja kompromisna vrijednost. Njegova permisivna licenca omogućuje besplatno raspoređivanje, a njegovo osposobljavanje specifično usmjereno na razumijevanje i generiranje koda daje mu jasnu prednost nad generalističkim modelom usporedive veličine. Integracija s Vibom je izvorna – naredba /config sve je što je potrebno za prelazak na njega.

Što dobivaš, a što gubiš

Za svakodnevne zadatke lokalna instanca Devstrala savršeno drži korak: dovršavanje i generiranje koda, refaktoriranje, ispravljanje grešaka, recenzije i prijedlozi koda, generiranje testova te tehnička dokumentacija. To pokriva bit onoga što obično tražiš od asistenta za programiranje tijekom normalnog radnog dana.

Kompromisi su stvarni i vrijedi ih znati prije kupnje GPU-a. Brzina je prva: lokalni GPU općenito je sporiji od API-ja u oblaku za duge zahtjeve, a jaz postaje vidljiv čim mu predaš veliku datoteku na obradu. Kontekst je sljedeći, a ovisi o tvojoj VRAM-u – oko 32K na RTX 4090 naspram 128K i više na H100. Konačno, kvaliteta: Devstral 24B je učinkovit, ali ne može se mjeriti s najvećim modelima u oblaku za složene arhitektonske zadatke. Tome dodaj teret održavanja: ažuriranja i dostupnost sada su na tvojim leđima.

Ostani u oblaku ili kombiniraj oboje

Lokalno rješenje stoga nije uvijek pravi izbor. Za brzo izradu prototipova oblak ostaje jednostavniji. Za složene arhitektonske zadatke veliki modeli u oblaku zadržavaju jasno vodstvo. Distribuirani tim morat će preuzeti održavanje centraliziranog lokalnog poslužitelja. A bez namjenskog GPU-a, financijska usporedba naginje odlučno u korist oblaka.

Najpragmatičnija strategija često je hibridna: lokalno za svakodnevni rad na povjerljivom kodu, oblak za povremene složene zadatke poput nadogradnje arhitekture ili dizajn sustava, moguće oboje iza usmjerivača zahtjeva koji automatski arbitriraju. Vibe podržava ovaj pristup – možeš se prebacivati između lokalnih i modela u oblaku putem /config u bilo kojem trenutku, čak i usred sesije.

Ključne točke

  • Lokalni način rada jamči da tvoj kod nikada ne napušta tvoju infrastrukturu
  • Četiri glavna pokretača: povjerljivost, mogućnost rada izvan mreže, troškovi, suverenitet
  • Devstral Small 2 (24B) preporučeni je model za lokalno raspoređivanje
  • Lokalni način rada uključuje kompromise u brzini i veličini kontekstnog prozora
  • Hibridni pristup (lokalno + oblak) često je najpragmatičniji
  • GDPR i europski propisi dodatno naglašavaju vrijednost lokalnog načina rada