Offline vs. Realtime: En valgguide
På denne side
Kurset opdateret 3. november 2026 til Voxtral 3, baseret på Mistrals guide Migrate from Voxtral 2: Voxtral 2-modellerne (
voxtral-mini-2602,voxtral-mini-transcribe-realtime-2602,voxtral-mini-tts-2603), der blev udfaset 31. oktober 2026 og trukket tilbage 30. april 2027, erstattes i eksemplerne afvoxtral-mini-transcribe-3,voxtral-mini-transcribe-realtime-3ogvoxtral-mini-tts-3-0. Vigtige ændringer: Tidsstempler er kun tilgængelige pr. segment (wordreturnerer en 400-fejl), diarisering er mulig i realtime, indstillinger for realtime-sessioner låses efter det første lydchunk, ogcontext_bias-input er frit format (fraser med mellemrum er tilladt). Kilder: Migrate from Voxtral 2 · Speech to Text.
To tilstande, to filosofier
Voxtral tilbyder to transkriptionstilgange, der ikke adskiller sig i kvalitet, men i natur. Valget mellem dem er ikke en implementeringsdetalje, du finjusterer til sidst i et projekt. Det afgør, hvilke funktioner du har adgang til, hvordan du skriver din kode, hvilke omkostninger du pådrager dig, og hvilken brugeroplevelse du leverer. Denne lektion giver dig fakta til at træffe det valg, holde fast i det og endda kombinere begge tilstande, når det giver mening.
Sammenligning i detaljer
| Kriterium | Offline (Batch) | Realtime (Streaming) |
|---|---|---|
| Model | Voxtral Mini (eller Small) Transcribe 3 | Voxtral Mini Transcribe Realtime 3 |
| Latens | Sekunder til minutter (afhængigt af varighed) | Konfigurerbar forsinkelse fra 80 ms til 1,2 s eller 2,4 s |
| Lydbegrænsning | Kontekstvindue, delt med context_bias | Kontinuerlig session |
| Diarisering | Ja, med segment-tidsstempler | Ja, uden tidsstempler; ikke tilgængelig med tale-slut-detektion |
| Kontekstbias | Ja (termliste, tilladte fraser) | Ja, i sessionskonfigurationen |
| Tidsstempler | Pr. segment (ingen ordniveau) | Nej |
| Tale-slut-detektion | Nej | Ja |
| Lydformat | Almindelige filformater | 16-bit mono PCM (standard 16 kHz) |
| Sprog | 50 | 45 sprog og dialekter |
| Pris pr. 3. november 2026 | $0,0035/min (Mini), $0,004/min (Small) | $0,008/min |
| Programmering | Synkron (enkelt) | Asynkron (async/await) |
| Primært anvendelsesområde | Optagede filer | Live-lyd |
Et nærmere kig på denne tabel afslører, hvad der virkelig adskiller de to tilstande. Offline er den eneste tilstand, der tidsstempler hvert segment, fordi den ser hele lydfilen, før den svarer. Realtime er den eneste tilstand, der registrerer talepauser og returnerer tekst, mens nogen taler. Du vælger ikke mellem en fuld version og en light-version. Du vælger mellem to måder at betjene brugeren på: efterfølgende eller i øjeblikket.
Sådan vælger du
Offline er det klare valg, når du behandler lydfiler, der allerede eksisterer – arkiverede møder, podcasts, interviews – da lyden er komplet, og der ingen gevinst er ved kunstigt at hakke den op. Det er din eneste mulighed, hvis du skal identificere talere, da diarisering stadig er uden for rækkevidde for streaming. Det er også det rigtige valg, hvis dit domæne kræver specialiseret ordforråd, som kontekstbias skal styre, eller hvis du har brug for præcise tidsstempler til undertekster i videoproduktion efter optagelsen. Endelig sparer det dig for enhver forudgående konvertering, når dine kilder ankommer i forskellige formater, og det bliver det åbenlyse valg, når latens ikke er kritisk: forsinket behandling, natlige batches, arkiveringspipelines.
Realtime bliver nødvendigt, når lyd ankommer kontinuerligt, fra en mikrofon eller netværksstream, hvilket betyder, at der ikke er nogen fil at sende. Det er obligatorisk, når resultater skal være tilgængelige på under et sekund, som med en voice assistant, dikteringsværktøj eller live-undertekster til en konference eller et webinar. To andre strategiske årsager kan drive valget uanset latens: on-premise eller edge-deployment, muliggjort af åbne vægte, og suverænitetskrav, når ingen data må forlade din infrastruktur.
Der er en tredje vej, som ofte er den bedste: kombinér begge. Du undertekster en konference i realtime og genbehandler derefter optagelsen offline for at producere rene, tidsstemplede undertekster. Du viser live-transkription under et møde og kører derefter et offline-gennemløb med diarisering for at tilskrive hver ytring til dens taler. Du dikterer i realtime og genbehandler derefter filen offline til gennemgang og korrektioner. Realtime tjener øjeblikket; offline tjener dokumentet.
Hvad hver tilstand koster
De to tilstande deler ikke samme prisstruktur. Fra april 2026 er Mistral AIs priser baseret på bearbejdet lydvarighed. Offline er generelt billigere pr. minut, fordi batch-behandling er optimeret, mens realtime har en tillægspris for den persistente WebSocket-forbindelse og den kontinuerlige behandling.
Tre vaner skærer omkostninger uden at ofre noget. I offline-tilstand samler du dine filer i batches for at begrænse antallet af API-anmodninger. I realtime-tilstand lukker du forbindelsen, så snart talen stopper, i stedet for at lade den stå åben „bare for en sikkerheds skyld”: en glemt session bruger ressourcer uden at producere output. Vigtigst af alt: spørg altid, om live-behandling virkelig er nødvendig – hvis realtime ikke tilfører værdi for brugeren, er offline både billigere og mere funktionsrig.
En hybrid pipeline: Fra live til rapport
Koden nedenfor viser det hybride mønster i dets mest almindelige form: et møde. Under sessionen føder realtime-streamet displayet: deltagerne ser tekst rulle, ingen venter. Når mødet er slut, genbehandles den samme lyd, nu tilgængelig som en komplet fil, offline med diarize=True og tidsstempler på segmentniveau, hvilket producerer en rapport, der tilskriver hver ytring til dens taler. De to kald konkurrerer ikke; de supplerer hinanden. Det første tjener umiddelbarhed; det andet, sporbarhed.
import asyncio
import os
from mistralai.client import Mistral
from mistralai.client.models import (
AudioFormat,
TranscriptionStreamTextDelta,
TranscriptionStreamDone
)
async def hybrid_pipeline(realtime_audio_source, complete_file_path):
"""
1. Realtime-transkription til øjeblikkelig visning
2. Offline-transkription til endelig rapport med diarisering
"""
client = Mistral(api_key=os.environ["MISTRAL_API_KEY"])
# Fase 1: Realtime (under mødet)
print("=== LIVE TRANSKRIPTION ===\n")
audio_format = AudioFormat(encoding="pcm_s16le", sample_rate=16000)
async for event in client.audio.realtime.transcribe_stream(
audio_stream=realtime_audio_source,
model="voxtral-mini-transcribe-realtime-3",
audio_format=audio_format,
target_streaming_delay_ms=800,
):
if isinstance(event, TranscriptionStreamTextDelta):
print(event.text, end="", flush=True)
elif isinstance(event, TranscriptionStreamDone):
break
# Fase 2: Offline (efter mødet)
print("\n\n=== DETALJERET ANALYSE ===\n")
with open(complete_file_path, "rb") as f:
response = client.audio.transcriptions.complete(
model="voxtral-mini-transcribe-3",
file={"content": f, "file_name": complete_file_path},
diarize=True,
timestamp_granularities=["segment"]
)
for seg in response.segments:
print(f"[{seg.speaker_id}] ({seg.start:.1f}s) {seg.text}")
return response
Bemærk den praktiske begrænsning, dette mønster pålægger: du skal optage lyden parallelt med streaming, da de chunks, som realtime-streamet forbruger, ikke gemmes. Planlæg denne disk-skrivning fra starten, ellers har offline-fasen intet at behandle.
Vigtige pointer
- Offline excellerer ved optagede filer med diarisering og tidsstempler
- Realtime excellerer ved live-lyd med ultra-lav latens
- Begge tilstande kan kombineres i en hybrid pipeline
- Offline er mere funktionsrig (diarisering, kontekstbias, tidsstempler)
- Realtime er mere fleksibel til deployment (åbne vægte, edge)
- Vælg baseret på lydkilde (fil vs. live) og krævede funktioner