Offline vs Realtime: Przewodnik wyboru
Na tej stronie
Kurs zaktualizowany 3 listopada 2026 r. dla Voxtral 3, na podstawie przewodnika Mistral Migrate from Voxtral 2: modele Voxtral 2 (
voxtral-mini-2602,voxtral-mini-transcribe-realtime-2602,voxtral-mini-tts-2603, wycofane 31 października 2026 r. i całkowicie usunięte 30 kwietnia 2027 r.) zostały zastąpione w przykładach przezvoxtral-mini-transcribe-3,voxtral-mini-transcribe-realtime-3orazvoxtral-mini-tts-3-0. Kluczowe zmiany: znaczniki czasu dotyczą tylko segmentów (wordzwraca błąd 400), diarization jest możliwy w trybie rzeczywistym, ustawienia sesji realtime są ustalane po pierwszym fragmencie audio, a dane wejściowecontext_biasmają dowolny format (dozwolone frazy ze spacjami). Źródła: Migrate from Voxtral 2 · Speech to Text.
Dwa tryby, dwie filozofie
Voxtral oferuje dwa podejścia do transkrypcji, które różnią się nie jakością, lecz naturą działania. Wybór między nimi to nie szczegół implementacyjny, który dopracowujesz na końcu projektu. Decyduje on o dostępnych funkcjach, sposobie pisania kodu, ponoszonych kosztach oraz doświadczeniu użytkownika, które dostarczasz. Ta lekcja daje Ci fakty niezbędne do podjęcia tej decyzji, utrzymania się przy niej, a nawet połączenia obu trybów, gdy ma to sens.
Pełne porównanie
| Kryterium | Offline (wsadowy) | Realtime (strumieniowy) |
|---|---|---|
| Model | Voxtral Mini (lub Small) Transcribe 3 | Voxtral Mini Transcribe Realtime 3 |
| Opóźnienie | Od sekund do minut (w zależności od długości) | Konfigurowalne opóźnienie od 80 ms do 1,2 s lub 2,4 s |
| Limit audio | Okno kontekstowe, współdzielone z context_bias | Ciągła sesja |
| Diarization | Tak, ze znacznikami czasu segmentów | Tak, bez znaczników czasu; niedostępny z wykrywaniem końca wypowiedzi |
| Kontekstowe biasowanie | Tak (lista terminów, dozwolone frazy) | Tak, w konfiguracji sesji |
| Znaczniki czasu | Na segment (brak poziomu słowa) | Brak |
| Wykrywanie końca wypowiedzi | Nie | Tak |
| Format audio | Popularne formaty plików | 16-bitowe mono PCM (domyślnie 16 kHz) |
| Języki | 50 | 45 języków i dialektów |
| Cena na dzień 3 listopada 2026 r. | 0,0035 USD/min (Mini), 0,004 USD/min (Small) | 0,008 USD/min |
| Programowanie | Synchroniczne (proste) | Asynchroniczne (async/await) |
| Główne zastosowanie | Nagrane pliki | Audio na żywo |
Dokładna analiza tej tabeli ujawnia to, co naprawdę dzieli oba tryby. Offline to jedyny tryb, który oznacza czasowo każdy segment, ponieważ widzi całe audio przed udzieleniem odpowiedzi. Realtime to jedyny tryb, który wykrywa końce wypowiedzi i zwraca tekst, gdy ktoś jeszcze mówi. Nie wybierasz między wersją pełną a okrojoną. Wybierasz między dwoma sposobami obsługi użytkownika: po fakcie lub w danej chwili.
Jak wybrać
Offline to oczywisty wybór, gdy przetwarzasz istniejące już pliki audio – archiwalne spotkania, podcasty, wywiady – ponieważ audio jest kompletne i nie ma sensu sztucznie dzielić go na części. To Twoja jedyna opcja, jeśli musisz zidentyfikować mówców, gdyż diarization pozostaje niedostępny dla strumieniowania. To także właściwy wybór, jeśli Twoja domena wymaga specjalistycznego słownictwa, które musi być wspierane przez kontekstowe biasowanie, lub jeśli potrzebujesz precyzyjnych znaczników czasu do późniejszego tworzenia napisów do wideo. Wreszcie, oszczędza Ci to wstępnej konwersji, gdy źródła przychodzą w różnych formatach, i staje się oczywistym wyborem, gdy opóźnienie nie jest krytyczne: przetwarzanie odroczone, wsady nocne, potoki archiwizacyjne.
Realtime staje się konieczny, gdy audio napływa ciągle, z mikrofonu lub strumienia sieciowego, co oznacza, że nie ma pliku do wysłania. Jest obowiązkowy, gdy wyniki muszą być dostępne w czasie krótszym niż sekunda, jak w przypadku asystenta głosowego, narzędzia do dyktowania czy napisów na żywo podczas konferencji lub webinaru. Dwa inne strategiczne powody mogą kierować wyborem niezależnie od opóźnienia: wdrożenie on-premise lub na krawędzi sieci (edge), możliwe dzięki otwartym wagom, oraz wymogi suwerenności danych, gdy żadne dane nie mogą opuścić Twojej infrastruktury.
Istnieje trzecia droga, często najlepsza: połączenie obu. Podpisujesz konferencję napisami w czasie rzeczywistym, a następnie ponownie przetwarzasz nagranie w trybie offline, aby uzyskać czyste, opatrzone znacznikami czasu napisy. Wyświetlasz transkrypcję na żywo podczas spotkania, a potem uruchamiasz przebieg offline z diarization, aby przypisać każdą wypowiedź jej autorowi. Dyktujesz w czasie rzeczywistym, a następnie przetwarzasz plik offline w celu recenzji i poprawek. Realtime obsługuje chwilę; offline obsługuje dokument.
Koszty każdego z trybów
Oba tryby nie dzielą tej samej struktury cenowej. Od kwietnia 2026 r. cennik Mistral AI opiera się na czasie przetworzonego audio. Offline jest zazwyczaj tańszy na minutę, ponieważ przetwarzanie wsadowe jest zoptymalizowane, podczas gdy realtime wiąże się z dodatkową opłatą za trwałe połączenie WebSocket i ciągłe przetwarzanie.
Trzy nawyki pozwalają ciąć koszty bez żadnych strat. W trybie offline grupuj pliki, aby ograniczyć liczbę żądań API. W trybie realtime zamykaj połączenie natychmiast po ustaniu mowy, zamiast zostawiać je otwarte „na wszelki wypadek“: zapomniana sesja zużywa zasoby, nie generując wyniku. Co najważniejsze, zawsze zadawaj sobie pytanie, czy przetwarzanie na żywo jest naprawdę konieczne – jeśli realtime nie wnosi wartości dla użytkownika, offline jest zarówno tańszy, jak i bogatszy w funkcje.
Potok hybrydowy: od transmisji na żywo do raportu
Poniższy kod pokazuje wzorzec hybrydowy w jego najczęstszej formie: spotkanie. Podczas sesji strumień realtime zasila wyświetlacz: uczestnicy widzą przewijający się tekst, nikt nie czeka. Gdy spotkanie się kończy, to samo audio, dostępne teraz jako kompletny plik, jest ponownie przetwarzane offline z parametrem diarize=True i znacznikami czasu na poziomie segmentów, co generuje raport przypisujący każdą wypowiedź do mówcy. Dwa wywołania nie konkurują ze sobą; uzupełniają się. Pierwsze służy natychmiastowości; drugie – możliwości śledzenia.
import asyncio
import os
from mistralai.client import Mistral
from mistralai.client.models import (
AudioFormat,
TranscriptionStreamTextDelta,
TranscriptionStreamDone
)
async def hybrid_pipeline(realtime_audio_source, complete_file_path):
"""
1. Transkrypcja realtime do natychmiastowego wyświetlania
2. Transkrypcja offline do raportu końcowego z diarization
"""
client = Mistral(api_key=os.environ["MISTRAL_API_KEY"])
# Faza 1: Realtime (podczas spotkania)
print("=== TRANSKRYPCJA NA ŻYWO ===\n")
audio_format = AudioFormat(encoding="pcm_s16le", sample_rate=16000)
async for event in client.audio.realtime.transcribe_stream(
audio_stream=realtime_audio_source,
model="voxtral-mini-transcribe-realtime-3",
audio_format=audio_format,
target_streaming_delay_ms=800,
):
if isinstance(event, TranscriptionStreamTextDelta):
print(event.text, end="", flush=True)
elif isinstance(event, TranscriptionStreamDone):
break
# Faza 2: Offline (po spotkaniu)
print("\n\n=== SZCZEGÓŁOWA ANALIZA ===\n")
with open(complete_file_path, "rb") as f:
response = client.audio.transcriptions.complete(
model="voxtral-mini-transcribe-3",
file={"content": f, "file_name": complete_file_path},
diarize=True,
timestamp_granularities=["segment"]
)
for seg in response.segments:
print(f"[{seg.speaker_id}] ({seg.start:.1f}s) {seg.text}")
return response
Zwróć uwagę na praktyczne ograniczenie, jakie narzuca ten wzorzec: musisz nagrywać audio równolegle ze strumieniowaniem, ponieważ fragmenty zużywane przez strumień realtime nie są przechowywane. Zaplanuj ten zapis na dysk od samego początku, inaczej faza offline nie będzie miała czego przetwarzać.
Kluczowe wnioski
- Offline sprawdza się najlepiej w przypadku nagranych plików z diarization i znacznikami czasu
- Realtime sprawdza się najlepiej w przypadku audio na żywo z ultra-niskim opóźnieniem
- Oba tryby można łączyć w potoku hybrydowym
- Offline jest bogatszy w funkcje (diarization, kontekstowe biasowanie, znaczniki czasu)
- Realtime jest bardziej elastyczny we wdrożeniu (otwarte wagi, edge)
- Wybieraj w oparciu o źródło audio (plik vs. na żywo) i wymagane funkcje