„Offline“ prieš „Realtime“: pasirinkimo gidas
Šiame puslapyje
Kursas atnaujintas 2026 m. lapkričio 3 d. Voxtral 3 versijai, remiantis „Mistral“ vadovu Migrate from Voxtral 2: Voxtral 2 modeliai (
voxtral-mini-2602,voxtral-mini-transcribe-realtime-2602,voxtral-mini-tts-2603), pasenę 2026 m. spalio 31 d. ir visiškai nutraukti 2027 m. balandžio 30 d., pavyzdžiuose pakeisti modeliaisvoxtral-mini-transcribe-3,voxtral-mini-transcribe-realtime-3irvoxtral-mini-tts-3-0. Pagrindiniai pokyčiai: laiko žymos tik segmentų lygmenyje (wordgrąžina 400 klaidą), kalbėtojų atskyrimas galimas realiuoju laiku, realiojo laiko sesijos nustatymai fiksuojami po pirmojo garso fragmento, ocontext_biasįvestys yra laisvos formos (leidžiamos frazės su tarpais). Šaltiniai: Migrate from Voxtral 2 · Speech to Text.
Du režimai, dvi filosofijos
„Voxtral“ siūlo du transkripcijos būdus, kurie skiriasi ne kokybe, o esme. Pasirinkimas tarp jų nėra techninė detalė, kurią derini projekto pabaigoje. Jis lemia, kokios funkcijos tau bus prieinamos, kaip rašysi kodą, kokias išlaidas patirsi ir kokią naudotojo patirtį sukursi. Šioje pamokoje gausi faktų, kad galėtum priimti tą sprendimą, jo laikytis ir net derinti abu režimus, kai tai prasminga.
Išsamus palyginimas
| Kriterijus | „Offline“ (grupinis) | „Realtime“ (srautinis) |
|---|---|---|
| Modelis | Voxtral Mini (arba Small) Transcribe 3 | Voxtral Mini Transcribe Realtime 3 |
| Vėlavimas | Nuo kelių sekundžių iki minučių (priklausomai nuo trukmės) | Konfigūruojamas delsos laikas nuo 80 ms iki 1,2 s arba 2,4 s |
| Garso limitas | Konteksto langas, bendras su context_bias | Nuolatinė sesija |
| Kalbėtojų atskyrimas | Taip, su segmentų laiko žymomis | Taip, be laiko žymų; neprieinama naudojant kalbos pabaigos aptikimą |
| Konteksto biasinimas | Taip (terminų sąrašas, leidžiamos frazės) | Taip, sesijos konfigūracijoje |
| Laiko žymos | Pagal segmentą (nėra žodžių lygmens) | Nėra |
| Kalbos pabaigos aptikimas | Ne | Taip |
| Garso formatas | Bendri failų formatai | 16 bitų mono PCM (numatytoji 16 kHz) |
| Kalbos | 50 | 45 kalbos ir dialektai |
| Kaina (2026 m. lapkričio 3 d.) | 0,0035 USD/min (Mini), 0,004 USD/min (Small) | 0,008 USD/min |
| Programavimas | Sinchroninis (paprastas) | Asinchroninis (async/await) |
| Pagrindinis naudojimo atvejis | Įrašyti failai | Gyvas garso srautas |
Atidžiau pažvelgus į šią lentelę, aiškėja, kas iš tikrųjų skiria šiuos du režimus. „Offline“ yra vienintelis režimas, kuriame kiekvienas segmentas gauna laiko žymą, nes sistema matomą visą garso įrašą prieš atsakydama. „Realtime“ yra vienintelis režimas, aptinkantis kalbos pabaigą ir grąžinantis tekstą žmogui dar kalbant. Tu renkamės ne tarp „pilnos“ ir „lengvos“ versijos. Tu renkamės tarp dviejų būdų aptarnauti naudotoją: post factum ar tiesiogiai tuo momentu.
Kaip pasirinkti
„Offline“ yra akivaizdus pasirinkimas, kai apdoroji jau egzistuojančius garso failus – archyvuotus susirinkimus, tinklalaides, interviu, – nes garso įrašas yra baigtas ir nėra prasmės jo dirbtinai skaidyti. Tai vienintelis tavo pasirinkimas, jei reikia identifikuoti kalbėtojus, nes srautiniam perdavimui kalbėtojų atskyrimas kol kas neprieinamas. Tai taip pat tinkamas sprendimas, jei tavo sričiai reikia specializuotos terminijos, kuriai turi vadovauti konteksto biasinimas, arba jei tau reikia tikslių laiko žymų vaizdo įrašų subtitravimui po gamybos. Galiausiai, tai sutaupo nuo pirminio konvertavimo, kai šaltiniai ateina įvairiais formatais, ir tampa akivaizdžiu pasirinkimu, kai vėlavimas nėra kritinis: atidėtas apdorojimas, naktinės grupinės užduotys, archyvavimo vamzdynai.
„Realtime“ tampa būtinu, kai garso srautas ateina nuolat – iš mikrofono ar tinklo srauto, – vadinasi, nėra failo, kurį galima būtų siųsti. Jis privalomas, kai rezultatai turi būti prieinami greičiau nei per vieną sekundę, pavyzdžiui, balso asistentui, diktavimo įrankiui ar tiesioginiam konferencijos ar webinaro subtitravimui. Dar dvi strateginės priežastys gali lemti pasirinkimą nepaisant vėlavimo: diegimas vietoje (on-premise) arba pakraštyje (edge), įmanomas dėl atvirų svorių, ir suvereniteto reikalavimai, kai jokie duomenys negali išeiti iš tavo infrastruktūros ribų.
Yra ir trečias kelias, dažnai pats geriausias: derinti abu. Konferenciją subtitruoji realiuoju laiku, o tada įrašą apdoroji „offline“ režimu, kad gautum švarius, laiko žymomis pažymėtus subtitrus. Susirinkimo metu rodai tiesioginę transkripciją, o vėliau paleidi „offline“ etapą su kalbėtojų atskyrimu, kad priskirtum kiekvieną pasakymą konkrečiam kalbėtojui. Diktuoji realiuoju laiku, o tada failą apdoroji „offline“ peržiūrai ir taisymams. „Realtime“ aptarnauja momentą; „offline“ aptarnauja dokumentą.
Kiek kainuoja kiekvienas režimas
Šie du režimai neturi tos pačios kainodaros struktūros. Nuo 2026 m. balandžio mėn. „Mistral AI“ kainodara grindžiama apdoroto garso trukme. „Offline“ paprastai yra pigesnis minutės atžvilgiu, nes grupinis apdorojimas yra optimizuotas, tuo tarpu „Realtime“ turi priemoką už nuolatinį „WebSocket“ ryšį ir vientisą apdorojimą.
Trys įpročiai padeda sumažinti išlaidas nieko neprarandant. „Offline“ režimu sugrupuok failus, kad apribotum API užklausų skaičių. „Realtime“ režimu užverk ryšį iškart, kai kalba sustoja, užuot palikęs jį atvirą „tik tuo atveju“: pamiršta sesija eikvoja išteklius negamindama jokios naudos. Svarbiausia – visada klausk savęs, ar gyvas apdorojimas tikrai būtinas; jei „Realtime“ naudotojui neprideda vertės, „Offline“ yra ir pigesnis, ir turtingesnis funkcijomis.
Hibridinis vamzdynas: nuo tiesioginio transliavimo iki ataskaitos
Toliau pateiktas kodas rodo hibridinį šabloną jo dažniausiai pasitaikančia forma: susirinkimas. Sesijos metu „Realtime“ srautas maitina ekraną: dalyviai mato slenkantį tekstą, niekas nelaukia. Susirinkimui pasibaigus, tas pats garso įrašas, dabar prieinamas kaip baigtas failas, apdorojamas iš naujo „Offline“ režimu su diarize=True ir segmentų lygmens laiko žymomis, sukuriant ataskaitą, kurioje kiekvienas pasakymas priskiriamas konkrečiam kalbėtojui. Šie du kvietimai nekonkuruoja; jie papildo vienas kitą. Pirmasis aptarnauja operatyvumą; antrasis – atsekamumą.
import asyncio
import os
from mistralai.client import Mistral
from mistralai.client.models import (
AudioFormat,
TranscriptionStreamTextDelta,
TranscriptionStreamDone
)
async def hybrid_pipeline(realtime_audio_source, complete_file_path):
"""
1. Realiojo laiko transkripcija momentiniam rodymui
2. „Offline“ transkripcija galutinei ataskaitai su kalbėtojų atskyrimu
"""
client = Mistral(api_key=os.environ["MISTRAL_API_KEY"])
# 1 etapas: Realtime (susirinkimo metu)
print("=== TIESIOGINĖ TRANSKRIPCIJA ===\n")
audio_format = AudioFormat(encoding="pcm_s16le", sample_rate=16000)
async for event in client.audio.realtime.transcribe_stream(
audio_stream=realtime_audio_source,
model="voxtral-mini-transcribe-realtime-3",
audio_format=audio_format,
target_streaming_delay_ms=800,
):
if isinstance(event, TranscriptionStreamTextDelta):
print(event.text, end="", flush=True)
elif isinstance(event, TranscriptionStreamDone):
break
# 2 etapas: Offline (po susirinkimo)
print("\n\n=== IŠSAMI ANALIZĖ ===\n")
with open(complete_file_path, "rb") as f:
response = client.audio.transcriptions.complete(
model="voxtral-mini-transcribe-3",
file={"content": f, "file_name": complete_file_path},
diarize=True,
timestamp_granularities=["segment"]
)
for seg in response.segments:
print(f"[{seg.speaker_id}] ({seg.start:.1f}s) {seg.text}")
return response
Atkreipk dėmesį į praktinį apribojimą, kurį nustato šis šablonas: turi įrašyti garso signalą lygiagrečiai su srautiniu perdavimu, nes fragmentai, kuriuos suvartoja „Realtime“ srautas, nėra išsaugomi. Suplanuok šį įrašymą į diską iš anksto, kitaip „Offline“ etapas neturės ką apdoroti.
Svarbiausi punktai
- „Offline“ puikiai tinka įrašytiems failams su kalbėtojų atskyrimu ir laiko žymomis
- „Realtime“ puikiai tinka gyvam garso srautui su itin mažu vėlavimu
- Abu režimai gali būti derinami hibridiniame vamzdyne
- „Offline“ turi daugiau funkcijų (kalbėtojų atskyrimas, konteksto biasinimas, laiko žymos)
- „Realtime“ lankstesnis diegimo atžvilgiu (atviri svoriai, pakraštys)
- Rinkis pagal garso šaltinį (failas prieš gyvą srautą) ir reikalingas funkcijas