Offline naspram Realtime: Vodič za odabir
Na ovoj stranici
Tečaj ažuriran 3. studenoga 2026. za Voxtral 3, na temelju Mistralovog vodiča Migrate from Voxtral 2: modeli Voxtral 2 (
voxtral-mini-2602,voxtral-mini-transcribe-realtime-2602,voxtral-mini-tts-2603), zastarjeli 31. listopada 2026. i povučeni 30. travnja 2027., u primjerima su zamijenjeni modelimavoxtral-mini-transcribe-3,voxtral-mini-transcribe-realtime-3ivoxtral-mini-tts-3-0. Ključne promjene: vremenske oznake su samo po segmentima (wordvraća grešku 400), diarizacija je moguća u stvarnom vremenu, postavke sesije u stvarnom vremenu fiksne su nakon prvog audio isječka, a unosicontext_biassu slobodnog oblika (dopuštene fraze s razmacima). Izvori: Migrate from Voxtral 2 · Speech to Text.
Dva načina rada, dvije filozofije
Voxtral nudi dva pristupa transkripciji koji se ne razlikuju u kvaliteti, već u svojoj prirodi. Odabir između njih nije implementacijski detalj koji ćeš fino podesiti na kraju projekta. On određuje koje su ti značajke dostupne, kako pišeš kod, koje troškove snosiš i kakvo korisničko iskustvo isporučuješ. Ova lekcija daje ti činjenice potrebne za taj odabir, da se držiš njega, pa čak i da kombiniraš oba načina rada kada to ima smisla.
Potpuna usporedba
| Kriterij | Offline (Batch) | Realtime (Streaming) |
|---|---|---|
| Model | Voxtral Mini (ili Small) Transcribe 3 | Voxtral Mini Transcribe Realtime 3 |
| Latencija | Sekunde do minute (ovisno o trajanju) | Podesivo kašnjenje od 80 ms do 1,2 s, ili 2,4 s |
| Ograničenje zvuka | Kontekstni prozor, dijeli se s context_bias | Kontinuirana sesija |
| Diarizacija | Da, s vremenskim oznakama segmenta | Da, bez vremenskih oznaka; nije dostupno uz detekciju kraja govora |
| Prilagodba konteksta | Da (popis pojmova, dopuštene fraze) | Da, u konfiguraciji sesije |
| Vremenske oznake | Po segmentu (bez razine riječi) | Ne |
| Detekcija kraja govora | Ne | Da |
| Audio format | Uobičajeni formatski zapisi datoteka | 16-bitni mono PCM (zadano 16 kHz) |
| Jezici | 50 | 45 jezika i dijalekata |
| Cijena na dan 3. studenoga 2026. | 0,0035 $/min (Mini), 0,004 $/min (Small) | 0,008 $/min |
| Programiranje | Sinkrono (jednostavno) | Asinkrono (async/await) |
| Primarna uporaba | Snimljene datoteke | Živi audio |
Pomniji pogled na ovu tablicu otkriva što doista razdvaja ova dva načina rada. Offline je jedini način koji bilježi vremenske oznake svakog segmenta jer vidi cijeli audio zapis prije odgovora. Realtime je jedini način koji detektira kraj govora i vraća tekst dok netko govori. Ne biraš između pune verzije i „lite“ verzije. Biraš između dva načina usluge korisniku: nakon događaja ili u trenutku događaja.
Kako odabrati
Offline je jasan izbor kad god obrađuješ audio datoteke koje već postoje – arhivirane sastanke, podcaste, intervjue – jer je audio zapis kompletan i nema koristi od umjetnog cijepanja. To je tvoja jedina opcija ako trebaš identificirati govornike, jer diarizacija ostaje nedostupna za streaming. Također je pravi izbor ako tvoja domena zahtijeva specijalizirani rječnik kojim mora upravljati prilagodba konteksta, ili ako ti trebaju precizne vremenske oznake za postprodukciju titlova u videu. Konačno, štedi te od bilo kakve preliminarne konverzije kada tvoji izvori stižu u različitim formatima, i postaje očiti izbor kada latencija nije kritična: odgođena obrada, noćne serije, arhivski kanali.
Realtime postaje nužan kada audio stiže kontinuirano, s mikrofona ili mrežnog toka, što znači da nema datoteke za slanje. Obavezan je kada rezultati moraju biti dostupni u manje od sekunde, kao kod glasovnog asistenta, alata za diktiranje ili titlova uživo za konferenciju ili webinar. Dva druga strateška razloga mogu voditi odabir bez obzira na latenciju: implementacija na lokalnom poslužitelju (on-premise) ili na rubu mreže (edge), što omogućuju otvorene težine modela, te zahtjevi suvereniteta kada podaci ne smiju napustiti tvoju infrastrukturu.
Postoji i treći put, često najbolji: kombiniraj oboje. Titliraš konferenciju u stvarnom vremenu, a zatim ponovno obradiš snimku offline kako bi proizveo čiste titlove s vremenskim oznakama. Prikazuješ transkripciju uživo tijekom sastanka, a zatim pokrećeš offline prolaz s diarizacijom kako bi svakom izgovoru pripisao govornika. Diktiraš u stvarnom vremenu, a zatim ponovno obrađuješ datoteku offline radi pregleda i ispravaka. Realtime služi trenutku; offline služi dokumentu.
Koliko košta svaki način rada
Dva načina rada ne dijele istu strukturu cijena. Od travnja 2026., cjenik Mistral AI temelji se na trajanju obrađenog zvuka. Offline je općenito jeftiniji po minuti jer je serijska obrada optimizirana, dok realtime nosi premiju zbog trajne WebSocket veze i kontinuirane obrade.
Tri navike smanjuju troškove bez ikakvih žrtava. U offline načinu grupiraj svoje datoteke kako bi ograničio broj API zahtjeva. U realtime načinu zatvori vezu čim govor prestane umjesto da je ostaviš otvorenom „za svaki slučaj“: zaboravljena sesija troši resurse bez proizvodnje izlaza. Najvažnije, uvijek se zapitaj je li obrada uživo doista nužna – ako realtime ne dodaje vrijednost za korisnika, offline je i jeftiniji i bogatiji značajkama.
Hibridni kanal: Od uživo do izvješća
Kod u nastavku prikazuje hibridni uzorak u njegovom najčešćem obliku: sastanak. Tijekom sesije, realtime tok napaja zaslon: sudionici vide kako se tekst pomiče, nitko ne čeka. Kada sastanak završi, isti audio, sada dostupan kao kompletna datoteka, ponovno se obrađuje offline s diarize=True i vremenskim oznakama na razini segmenta, proizvodeći izvješće koje svakom izgovoru pripisuje govornika. Dva poziva se ne natječu; oni se nadopunjuju. Prvi služi neposrednosti; drugi, sljedivosti.
import asyncio
import os
from mistralai.client import Mistral
from mistralai.client.models import (
AudioFormat,
TranscriptionStreamTextDelta,
TranscriptionStreamDone
)
async def hybrid_pipeline(realtime_audio_source, complete_file_path):
"""
1. Realtime transkripcija za trenutni prikaz
2. Offline transkripcija za konačno izvješće s diarizacijom
"""
client = Mistral(api_key=os.environ["MISTRAL_API_KEY"])
# Faza 1: Realtime (tijekom sastanka)
print("=== TRANSKRIPT UŽIVO ===\n")
audio_format = AudioFormat(encoding="pcm_s16le", sample_rate=16000)
async for event in client.audio.realtime.transcribe_stream(
audio_stream=realtime_audio_source,
model="voxtral-mini-transcribe-realtime-3",
audio_format=audio_format,
target_streaming_delay_ms=800,
):
if isinstance(event, TranscriptionStreamTextDelta):
print(event.text, end="", flush=True)
elif isinstance(event, TranscriptionStreamDone):
break
# Faza 2: Offline (nakon sastanka)
print("\n\n=== DETALJNA ANALIZA ===\n")
with open(complete_file_path, "rb") as f:
response = client.audio.transcriptions.complete(
model="voxtral-mini-transcribe-3",
file={"content": f, "file_name": complete_file_path},
diarize=True,
timestamp_granularities=["segment"]
)
for seg in response.segments:
print(f"[{seg.speaker_id}] ({seg.start:.1f}s) {seg.text}")
return response
Imaj na umu praktično ograničenje koje ovaj uzorak nameće: moraš snimati audio paralelno sa streamingom, jer isječci koje troši realtime tok nisu zadržani. Isplaniraj ovo zapisivanje na disk od samog početka, ili offline faza neće imati što obraditi.
Ključne točke
- Offline odlično funkcionira za snimljene datoteke s diarizacijom i vremenskim oznakama
- Realtime odlično funkcionira za živi audio s ultra-niskom latencijom
- Oba načina rada mogu se kombinirati u hibridnom kanalu
- Offline je bogatiji značajkama (diarizacija, prilagodba konteksta, vremenske oznake)
- Realtime je fleksibilniji za implementaciju (otvorene težine, rub mreže)
- Odaberi na temelju audio izvora (datoteka naspram uživo) i potrebnih značajki