Miks käivitada Vibe kohalikult?
Sellel lehel
Õppetund uuendatud 2. novembril 2026, tuginedes Vibe dokumentatsiooni lehele Using offline models. Devstral on Mistral API-st eemaldatud, kuid selle kaalud on endiselt avalikud: Devstral Small 2 ja Mistral Small 4 on kaks soovitatavat avatud mudelit kohalikuks kasutamiseks. Vibe ei paki kohalikku mudelit kaasa: sa ühendad selle ühilduva OpenAI serveriga eelseadistuse kaudu failis
config.tomlja lülitud seejärel käsuga/model. Allikas: Using offline models.
Pilve piirangud
Seni oleme kasutanud Mistral Vibe’i mudelitega, mida hostib Mistral AI serverites: see on mugav, kiire ja ei nõua seadistamist. Mõnes professionaalses kontekstis pole see mugavus aga võimalik. Kohalik režiim lahendab need olukorrad, lastes sul paigutada mudeli oma taristusse, töötada ilma internetiühenduseta ja säilitada täielik kontroll oma andmete üle.
Neli põhjust üleminekuks
Esimene põhjus on konfidentsiaalsus ja intellektuaalomand. Pilverežiimis liigub sinu lähtekood Mistral AI serverite kaudu. Isegi tugevate lepinguliste garantiide korral ei saa mõned organisatsioonid seda lihtsalt lubada: NDAlga kaitstud omandiline kood, salastatud või reguleeritud projektid, tundlikud kliendiandmed tervishoius, rahanduses või kaitsetööstuses, rääkimata konfiguratsioonifailides peituvatest ärisaladustest. Kohalikus režiimis ei lahku sinu kood kunagi sinu masinast ega sisemisest võrgust ning ühtegi andmet ei edastata väljapoole.
Teine põhjus on võimekus töötada offline’is. Kohalik mudel vastab ilma igasuguse internetiühenduseta. See on mängu muutvaks teguriks liikvel olevatele arendajatele – lennukites, rongides või leviala välistes tsoonides –, kuid see on hädavajalik kriitilise taristu ja sõjaliste süsteemide õhukindlates keskkondades. Piiravad ettevõtte võrgud, mille proksid lasevad läbi vaid kaks kolmandikku päringutest, ja isoleeritud andmekeskused järgivad sama loogikat: seal, kus pilv on kättesaamatu või ebastabiilne, on kohalik lahendus ainus elujõuline variant.
Kolmas põhjus on majanduslik. Mistral API põhineb kasutusmahul ja meeskond, kes võtab Vibe’i tõsiselt kasutusele, tarbib palju rohkem tokeneid kui esialgu oodati: iga koodiülevaade ja testide genereerimine suurendab arvet. Kohalikus režiimis koondub kulu esialgsele riistvarainvesteeringule – GPU-le – ja elektritarbimisele. Maksad üks kord ja seejärel puuduvad korduvad tokenipõhised tasud või üllatused kuu lõpus.
Neljas põhjus puudutab andmesuveräänsust. GDPR, NIS2 ja DORA kehtestavad ranged piirangud ning iga ülekanne väljapoole sinu jurisdiktsiooni muutub põhjendamist vajavaks kirjeeks. Kohalik paigutus kõrvaldab probleemi juurest: sinu andmed jäävad sinu jurisdiktsiooni, sa kontrollid nende kogu elutsüklit, piiriülest ülekannet ei pea dokumenteerima ja regulatiivsed auditid muutuvad oluliselt lihtsamaks.
Devstral: selleks kasutusjuhuks loodud mudel
Vibe dokumentatsioon soovitab kohalikuks kasutamiseks kahte avatud mudelit: Devstral Small 2 (24B-Instruct-2512, litsents Apache 2.0), tihe mudel, mis on optimeeritud agentülesannete ja kodeerimise jaoks, ning Mistral Small 4, ekspertide segu (mixture-of-experts) mudel 119 miljardi parameetriga (millest 6,5 miljardit on aktiivsed), mis nõuab videomälult rohkem. Devstral Small 2 lahkus Mistral API-st 31. märtsil 2026, kuid selle kaalud on endiselt avalikud. Selle 24 miljardit parameetrit teevad selle kodeerimisel võimekaks, jäädes samal ajal majutatavaks mõistliku riistvara peale: see on selle keskmine kompromiss. Selle lubav litsents võimaldab tasuta kasutuselevõttu ja selle spetsiifiline treenimine koodi mõistmiseks ja genereerimiseks annab sellele selge eelise võrreldava suurusega üldotstarbelise mudeliga. Integreerimine Vibe’iga on loomupärane – üleminekuks piisab käsust /config.
Mida sa võidad ja mida kaotad
Igapäevaste ülesannete jaoks peab kohalik Devstrali eksemplar suurepäraselt vastu: koodi lõpetamine ja genereerimine, refaktoring, veaparandused, koodiülevaated ja soovitused, testide genereerimine ning tehniline dokumentatsioon. See katab põhiosa sellest, mida tavalisel päeval kodeerimisassistendilt ootad.
Kompromissid on reaalsed ja need tasub enne GPU ostmist teada. Esiteks kiirus: kohalik GPU on pikkade päringute korral üldjuhul aeglasem kui pilve API ja erinevus muutub märgatavaks niipea, kui söödad sellele suure faili töötlemiseks. Teiseks kontekst, mis sõltub sinu VRAM-ist – umbes 32K RTX 4090-l versus 128K ja enam H100-l. Lõpuks kvaliteet: Devstral 24B on tulemuslik, kuid see ei konkureeri keerukate arhitektuuriülesannete puhul suurimate pilvemudelitega. Lisandub hoolduskoormus: värskendused ja kättesaadavus on nüüd sinu õlgadel.
Jää pilve või kumba mõlemat
Kohalik lahendus ei ole seega alati õige valik. Kiireks prototüüpimiseks jääb pilv lihtsamaks. Keerukate arhitektuuriülesannete puhul säilitavad suured pilvemudelid selge edumaa. Hajutatud meeskond peab võtma enda kanda keskse kohaliku serveri hoolduse. Ilma pühendatud GPU-ta kallutab finantsvõrdlus otsustavalt pilve kasuks.
Kõige pragmaatilisem strateegia on sageli hübriidne: kohalik igapäevatööks konfidentsiaalse koodiga, pilv aeg-ajalt keerukate ülesannete jaoks, nagu arhitektuuri ümberkujundamine või disainisüsteem, võimalusel mõlemad taotluste ruuteri taga, mis teeb otsuse automaatselt. Vibe toetab seda lähenemist – sa saad käsuga /config igal ajal, isegi sessiooni keskel, lülituda kohaliku ja pilvemudeli vahel.
Peamised punktid
- Kohalik režiim garanteerib, et sinu kood ei lahku kunagi sinu taristust
- Neli peamist ajendit: konfidentsiaalsus, offline-võimekus, kulud, suveräänsus
- Devstral Small 2 (24B) on soovitatud mudel kohalikuks paigaldamiseks
- Kohalik režiim toob kaasa kompromisse kiiruses ja kontekstiaknas
- Hübriidne lähenemine (kohalik + pilv) on sageli kõige pragmaatilisem
- GDPR ja Euroopa määrused rõhutavad kohaliku režiimi väärtust