Spring til hovedindhold
Dansk— Vælg et sprog
Menu

Hvorfor køre Vibe lokalt?

Lektion 12 af 14 Opdateret 2. november 2026 Avanceret
På denne side
  1. Cloudens begrænsninger
  2. Fire grunde til at skifte
  3. Devstral, modellen bygget til dette use case
  4. Hvad du vinder, og hvad du mister
  5. Bliv i clouden, eller kombiner begge dele
  6. Vigtige pointer

Lektion opdateret 2. november 2026 baseret på siden Using offline models i Vibe-dokumentationen. Devstral er fjernet fra Mistral API, men deres vægte forbliver offentliggjorte: Devstral Small 2 og Mistral Small 4 er de to anbefalede åbne modeller til lokal brug. Vibe medleverer ikke en lokal model: du forbinder den til en kompatibel OpenAI-server via et forudindstillet setup i config.toml og skifter derefter ved hjælp af /model. Kilde: Using offline models.

Cloudens begrænsninger

Indtil videre har vi brugt Mistral Vibe med modeller, der hostes på Mistral AIs servere: praktisk, hurtigt og uden konfiguration. I visse professionelle sammenhænge er denne bekvemmelighed dog ikke en mulighed. Lokal tilstand løser disse situationer ved at lade dig udrulle en model på din egen infrastruktur, arbejde uden internetforbindelse og bevare den fulde kontrol over dine data.

Fire grunde til at skifte

Den første grund er fortrolighed og intellektuel ejendomsret. I cloud-tilstand passerer din kildekode gennem Mistral AIs servere. Selv med stærke kontraktlige garantier kan nogle organisationer slet ikke tillade dette: proprietær kode dækket af en NDA, klassificerede eller regulerede projekter, følsomme kundeoplysninger inden for sundhedsvæsen, finans eller forsvar, for slet ikke at nævne virksomhedshemmeligheder, der lurer i konfigurationsfiler. I lokal tilstand forlader din kode aldrig din maskine eller dit interne netværk, og ingen data transmitteres eksternt.

Den anden grund er offline-drift. En lokal model svarer uden nogen internetforbindelse. Dette er en game-changer for udviklere på farten – i fly, tog eller i områder uden dækning – men det er en absolut nødvendighed i lufttætte miljøer inden for kritisk infrastruktur og militærsystemer. Restriktive firmanetværk, hvor proxies dropper hver tredje anmodning, og isolerede datacentre følger samme logik: hvor clouden er utilgængelig eller ustabil, er lokal drift den eneste levedygtige mulighed.

Den tredje grund er økonomisk. Mistral API er brugsbaseret, og et team, der virkelig adopterer Vibe, bruger langt flere tokens end forventet: hver kodegennemgang og testgenerering lægger til regningen. I lokal tilstand koncentreres omkostningerne om den indledende hardwareinvestering – en GPU – og elforbrug. Du betaler én gang og står derefter uden tilbagevendende token-afgifter eller overraskelser ved månedens udgang.

Den fjerde grund vedrører datasuverænitet. GDPR, NIS2 og DORA pålægger strenge begrænsninger, og hver overførsel uden for din jurisdiktion bliver en post, der skal retfærdiggøres. En lokal udrulning eliminerer problemet ved roden: dine data forbliver inden for din jurisdiktion, du styrer hele deres livscyklus, ingen grænseoverskridende overførsler skal dokumenteres, og regulatoriske revisioner bliver betydeligt lettere.

Devstral, modellen bygget til dette use case

Vibe-dokumentationen anbefaler to åbne modeller til lokal brug: Devstral Small 2 (24B-Instruct-2512, Apache 2.0-licens), en dense-model optimeret til agent-opgaver og kode, samt Mistral Small 4, en mixture-of-experts-model med 119 milliarder parametre (6,5 milliarder aktive), som stiller større krav til VRAM. Devstral Small 2 forlod Mistral API den 31. marts 2026, men dens vægte forbliver offentliggjorte. Dens 24 milliarder parametre gør den dygtig til kodning, mens den stadig kan hostes på rimelig hardware: det er dens centrale afvejning. Dens permissive licens tillader gratis udrulning, og dens træning, der specifikt er orienteret mod kodeforståelse og -generering, giver den en klar fordel frem for en generalistmodel af tilsvarende størrelse. Integrationen med Vibe er nativ – kommandoen /config er alt, der skal til for at skifte til den.

Hvad du vinder, og hvad du mister

Til daglige opgaver klarer en lokal Devstral-instans sig perfekt: kodefuldførelse og -generering, refaktorering, bugfixes, kodegennemgange og forslag, testgenerering samt teknisk dokumentation. Dette dækker det væsentligste af, hvad du beder en kodeassistent om på en normal dag.

Afvejningerne er reelle og værd at kende, før du køber en GPU. Hastighed kommer først: en lokal GPU er generelt langsommere end cloud-API’en ved lange anmodninger, og kløften bliver mærkbar, så snart du fodrer den med en stor fil til fortolkning. Kontekst kommer næst, hvilket afhænger af din VRAM – ca. 32K på en RTX 4090 mod 128K og derover på en H100. Endelig kvaliteten: Devstral 24B er ydedygtig, men den kan ikke måle sig med de største cloud-modeller ved komplekse arkitekturopgaver. Hertil kommer vedligeholdelsesbyrden: opdateringer og tilgængelighed hviler nu på dine skuldre.

Bliv i clouden, eller kombiner begge dele

Lokal drift er derfor ikke altid det rigtige valg. Til hurtig prototyping forbliver clouden simplere. Til komplekse arkitekturopgaver beholder de store cloud-modeller en klar føring. Et distribueret team bliver nødt til at påtage sig vedligeholdelsen af en centraliseret lokal server. Og uden en dedikeret GPU vipper den finansielle sammenligning afgørende i cloudens favør.

Den mest pragmatiske strategi er ofte hybrid: lokalt til dagligt arbejde med fortrolig kode, cloud til lejlighedsvise komplekse opgaver som en arkitekturoverhaling eller et designsystem, eventuelt begge dele bag en request-router, der arbitrerer automatisk. Vibe understøtter denne tilgang – du skifter mellem lokale og cloud-modeller via /config når som helst, selv midt i en session.

Vigtige pointer

  • Lokal tilstand garanterer, at din kode aldrig forlader din infrastruktur
  • Fire hoveddrivkræfter: fortrolighed, offline-capability, omkostninger, suverænitet
  • Devstral Small 2 (24B) er den anbefalede model til lokal udrulning
  • Lokal tilstand indebærer afvejninger i forhold til hastighed og kontekstvindue
  • En hybridtilgang (lokal + cloud) er ofte den mest pragmatiske
  • GDPR og europæiske reguleringer understreger værdien af lokal tilstand