Offline vs Realtime: Ghid de selecție
Pe această pagină
Curs actualizat la 3 noiembrie 2026 pentru Voxtral 3, pe baza ghidului Migrate from Voxtral 2 de la Mistral: modelele Voxtral 2 (
voxtral-mini-2602,voxtral-mini-transcribe-realtime-2602,voxtral-mini-tts-2603), depreciate la 31 octombrie 2026 și retrase la 30 aprilie 2027, sunt înlocuite în exemple prinvoxtral-mini-transcribe-3,voxtral-mini-transcribe-realtime-3șivoxtral-mini-tts-3-0. Modificări cheie: marcajele temporale sunt doar pe segmente (wordreturnează o eroare 400), diarizarea este posibilă în timp real, setările sesiunii realtime sunt fixate după primul chunk audio, iar inputurilecontext_biassunt în formă liberă (sunt permise fraze cu spații). Surse: Migrate from Voxtral 2 · Speech to Text.
Două moduri, două filosofii
Voxtral oferă două abordări de transcriere care diferă nu prin calitate, ci prin natură. Alegerea dintre ele nu este un detaliu de implementare pe care îl ajustați la finalul unui proiect. Aceasta determină funcționalitățile disponibile, modul în care scrieți codul, costurile pe care le suportați și experiența utilizatorului pe care o livrați. Această lecție vă oferă faptele necesare pentru a face această alegere, a vă menține la ea și chiar a combina ambele moduri atunci când are sens.
Comparație completă
| Criteriu | Offline (Batch) | Realtime (Streaming) |
|---|---|---|
| Model | Voxtral Mini (sau Small) Transcribe 3 | Voxtral Mini Transcribe Realtime 3 |
| Latență | Secunde până la minute (în funcție de durată) | Întârziere configurabilă de la 80 ms la 1,2 s sau 2,4 s |
| Limită audio | Fereastra de context, partajată cu context_bias | Sesiune continuă |
| Diarizare | Da, cu marcaje temporale pe segment | Da, fără marcaje temporale; indisponibilă cu detectarea sfârșitului intervenției |
| Bias de context | Da (listă de termeni, fraze permise) | Da, în configurația sesiunii |
| Marcaje temporale | Pe segment (fără nivel de cuvânt) | Nu |
| Detectarea sfârșitului intervenției | Nu | Da |
| Format audio | Formate de fișiere comune | PCM mono pe 16 biți (implicit 16 kHz) |
| Limbi | 50 | 45 de limbi și dialecte |
| Preț la 3 noiembrie 2026 | 0,0035 $/min (Mini), 0,004 $/min (Small) | 0,008 $/min |
| Programare | Sincronă (simplă) | Asincronă (async/await) |
| Caz de utilizare principal | Fișiere înregistrate | Audio live |
O privire atentă asupra acestui tabel dezvăluie ce separă cu adevărat cele două moduri. Offline este singurul mod care marchează temporal fiecare segment, deoarece vede întregul audio înainte de a răspunde. Realtime este singurul mod care detectează sfârșitul intervențiilor și returnează textul în timp ce cineva vorbește. Nu alegeți între o versiune completă și una „lite“. Alegeți între două moduri de a servi utilizatorul: după fapt sau în momentul prezent.
Cum să alegeți
Offline este alegerea evidentă ori de câte ori procesați fișiere audio care există deja – întâlniri arhivate, podcast-uri, interviuri – deoarece audio-ul este complet și nu există niciun avantaj în a-l tăia artificial. Este singura opțiune dacă trebuie să identificați vorbitorii, deoarece diarizarea rămâne inaccesibilă pentru streaming. Este, de asemenea, alegerea corectă dacă domeniul dumneavoastră necesită un vocabular specializat pe care biasul de context trebuie să îl ghideze sau dacă aveți nevoie de marcaje temporale precise pentru subtitrarea video în post-producție. În final, vă scutește de orice conversie prealabilă când sursele sosesc în formate diverse și devine alegerea obvious când latența nu este critică: procesare amânată, loturi nocturne, pipeline-uri de arhivare.
Realtime devine necesar când audio-ul sosește continuu, de la un microfon sau un flux de rețea, ceea ce înseamnă că nu există niciun fișier de trimis. Este obligatoriu când rezultatele trebuie să fie disponibile în sub o secundă, ca în cazul unui asistent vocal, al unui instrument de dictare sau al subtitrării live pentru o conferință sau un webinar. Două alte motive strategice pot dicta alegerea indiferent de latență: implementarea on-premise sau la marginea rețelei (edge), posibilă datorită ponderilor deschise, și cerințele de suveranitate atunci când niciun datum nu trebuie să părăsească infrastructura dumneavoastră.
Există o a treia cale, adesea cea mai bună: combinarea ambelor. Subtitrați o conferință în timp real, apoi reprocesați înregistrarea offline pentru a produce subtitrări curate, cu marcaje temporale. Afișați transcrierea live în timpul unei întâlniri, apoi rulați o pasare offline cu diarizare pentru a atribui fiecare enunț vorbitorului său. Dictați în timp real, apoi reprocesați fișierul offline pentru revizuire și corecturi. Realtime servește momentul; offline servește documentul.
Costul fiecărui mod
Cele două moduri nu partajează aceeași structură de prețuri. Începând cu aprilie 2026, prețurile Mistral AI se bazează pe durata audio procesată. Offline este, în general, mai ieftin pe minut deoarece procesarea batch este optimizată, în timp ce realtime include o primă pentru conexiunea WebSocket persistentă și procesarea continuă.
Trei obiceiuri reduc costurile fără a sacrifica nimic. În modul offline, grupați fișierele pentru a limita numărul de cereri API. În modul realtime, închideți conexiunea imediat ce vorbirea se oprește, în loc să o lăsați deschisă „doar în caz“: o sesiune uitată consumă resurse fără a produce rezultate. Cel mai important, întrebați-vă întotdeauna dacă procesarea live este cu adevărat necesară; dacă realtime nu aduce nicio valoare utilizatorului, offline este atât mai ieftin, cât și mai bogat în funcționalități.
Un pipeline hibrid: De la live la raport
Codul de mai jos prezintă modelul hibrid în forma sa cea mai comună: o întâlnire. În timpul sesiunii, fluxul realtime alimentează afișajul: participanții văd textul derulându-se, nimeni nu așteaptă. Odată ce întâlnirea se încheie, același audio, acum disponibil ca fișier complet, este reprocesat offline cu diarize=True și marcaje temporale la nivel de segment, producând un raport care atribuie fiecare enunț vorbitorului său. Cele două apeluri nu concurează; se completează reciproc. Primul servește imediatitatea; al doilea, trasabilitatea.
import asyncio
import os
from mistralai.client import Mistral
from mistralai.client.models import (
AudioFormat,
TranscriptionStreamTextDelta,
TranscriptionStreamDone
)
async def hybrid_pipeline(realtime_audio_source, complete_file_path):
"""
1. Transcriere realtime pentru afișare imediată
2. Transcriere offline pentru raport final cu diarizare
"""
client = Mistral(api_key=os.environ["MISTRAL_API_KEY"])
# Faza 1: Realtime (în timpul întâlnirii)
print("=== TRANSCRIERE LIVE ===\n")
audio_format = AudioFormat(encoding="pcm_s16le", sample_rate=16000)
async for event in client.audio.realtime.transcribe_stream(
audio_stream=realtime_audio_source,
model="voxtral-mini-transcribe-realtime-3",
audio_format=audio_format,
target_streaming_delay_ms=800,
):
if isinstance(event, TranscriptionStreamTextDelta):
print(event.text, end="", flush=True)
elif isinstance(event, TranscriptionStreamDone):
break
# Faza 2: Offline (după întâlnire)
print("\n\n=== ANALIZĂ DETALIATĂ ===\n")
with open(complete_file_path, "rb") as f:
response = client.audio.transcriptions.complete(
model="voxtral-mini-transcribe-3",
file={"content": f, "file_name": complete_file_path},
diarize=True,
timestamp_granularities=["segment"]
)
for seg in response.segments:
print(f"[{seg.speaker_id}] ({seg.start:.1f}s) {seg.text}")
return response
Rețineți constrângerea practică pe care acest model o impune: trebuie să înregistrați audio-ul în paralel cu streaming-ul, deoarece chunk-urile consumate de fluxul realtime nu sunt reținute. Planificați această scriere pe disc de la început, altfel faza offline nu va avea nimic de procesat.
Puncte cheie
- Offline excelează pentru fișierele înregistrate cu diarizare și marcaje temporale
- Realtime excelează pentru audio live cu latență ultra-scăzută
- Ambele moduri pot fi combinate într-un pipeline hibrid
- Offline este mai bogat în funcționalități (diarizare, bias de context, marcaje temporale)
- Realtime este mai flexibil pentru implementare (ponderi deschise, edge)
- Alegeți în funcție de sursa audio (fișier vs. live) și de funcționalitățile necesare