Zum Hauptinhalt springen
Deutsch— Sprache auswählen
Menü

Offline vs. Echtzeit: Ein Auswahlleitfaden

Lektion 14 von 16 Aktualisiert am 3. November 2026 Entwickler
Auf dieser Seite
  1. Zwei Modi, zwei Philosophien
  2. Vollständiger Vergleich
  3. Wie man wählt
  4. Was jeder Modus kostet
  5. Eine hybride Pipeline: Vom Live zum Bericht
  6. Kernaussagen

Kurs aktualisiert am 3. November 2026 für Voxtral 3, basierend auf Mistrals Migrate from Voxtral 2-Guide: Die Voxtral 2-Modelle (voxtral-mini-2602, voxtral-mini-transcribe-realtime-2602, voxtral-mini-tts-2603), die am 31. Oktober 2026 deprecated und am 30. April 2027 zurückgezogen wurden, werden in den Beispielen durch voxtral-mini-transcribe-3, voxtral-mini-transcribe-realtime-3 und voxtral-mini-tts-3-0 ersetzt. Wesentliche Änderungen: Zeitstempel sind segmentbasiert (die Rückgabe eines word-Felds führt zu einem 400-Fehler), Diarisierung ist in Echtzeit möglich, Echtzeit-Sitzungseinstellungen werden nach dem ersten Audio-Chunk fixiert, und context_bias-Eingaben sind frei formatiert (Phrasen mit Leerzeichen sind erlaubt). Quellen: Migrate from Voxtral 2 · Speech to Text.

Zwei Modi, zwei Philosophien

Voxtral bietet zwei Transkriptionsansätze, die sich nicht in der Qualität, sondern in der Natur unterscheiden. Die Wahl zwischen ihnen ist keine Implementierungsdetail, das man am Ende eines Projekts nachjustiert. Sie bestimmt die verfügbaren Funktionen, wie Sie Ihren Code schreiben, die Kosten, die Sie incurieren, und die Benutzererfahrung, die Sie liefern. Diese Lektion gibt Ihnen die Fakten, um diese Wahl zu treffen, sie beizubehalten und beide Modi sogar zu kombinieren, wenn dies sinnvoll ist.

Vollständiger Vergleich

KriteriumOffline (Batch)Echtzeit (Streaming)
ModellVoxtral Mini (oder Small) Transcribe 3Voxtral Mini Transcribe Realtime 3
LatenzSekunden bis Minuten (abhängig von der Dauer)Konfigurierbare Verzögerung von 80 ms bis 1,2 s oder 2,4 s
Audio-LimitKontextfenster, geteilt mit context_biasKontinuierliche Sitzung
DiarisierungJa, mit Segment-ZeitstempelnJa, ohne Zeitstempel; nicht verfügbar mit Turn-End-Erkennung
Kontext-BiasingJa (Terminliste, erlaubte Phrasen)Ja, in der Sitzungskonfiguration
ZeitstempelPro Segment (keine Wortebene)Nein
Turn-End-ErkennungNeinJa
Audio-FormatÜbliche Dateiformate16-Bit Mono PCM (16 kHz Standard)
Sprachen5045 Sprachen und Dialekte
Preis ab dem 3. November 20260,0035 $/Min (Mini), 0,004 $/Min (Small)0,008 $/Min
ProgrammierungSynchron (einfach)Asynchron (async/await)
Primärer AnwendungsbereichAufgezeichnete DateienLive-Audio

Ein genauerer Blick auf diese Tabelle zeigt, was die beiden Modi wirklich trennt. Offline ist der einzige Modus, der jedes Segment zeitstempelt, da er das gesamte Audio vor der Antwort sieht. Echtzeit ist der einzige Modus, der Turn-Enden erkennt und Text zurückgibt, während jemand spricht. Sie wählen nicht zwischen einer Vollversion und einer Lite-Version. Sie wählen zwischen zwei Wegen, dem Benutzer zu dienen: nachträglich oder im Moment.

Wie man wählt

Offline ist die klare Wahl, wenn Sie Audio-Dateien verarbeiten, die bereits existieren – archivte Meetings, Podcasts, Interviews –, da das Audio vollständig ist und kein Gewinn darin besteht, es künstlich zu zerschneiden. Es ist Ihre einzige Option, wenn Sie Sprecher identifizieren müssen, da Diarisierung für Streaming nicht verfügbar ist. Es ist auch die richtige Wahl, wenn Ihr Bereich ein spezialisiertes Vokabular erfordert, das durch Kontext-Biasing gelenkt werden muss, oder wenn Sie präzise Zeitstempel für die Nachbearbeitung von Videosubtiteln benötigen. Schließlich spart es Ihnen jede vorab erforderliche Konvertierung, wenn Ihre Quellen in verschiedenen Formaten eintreffen, und es wird zur offensichtlichen Wahl, wenn Latenz nicht kritisch ist: verzögerte Verarbeitung, nächtliche Batches, Archiv-Pipelines.

Echtzeit wird notwendig, wenn Audio kontinuierlich eintreibt, von einem Mikrofon oder einem Netzwerkstrom, was bedeutet, dass es keine Datei zum Senden gibt. Es ist zwingend erforderlich, wenn Ergebnisse innerhalb von weniger als einer Sekunde verfügbar sein müssen, wie bei einem Sprachassistenten, einem Diktierwerkzeug oder Live-Subtitelung für eine Konferenz oder ein Webinar. Zwei weitere strategische Gründe können die Wahl unabhängig von der Latenz treiben: On-Premise- oder Edge-Bereitstellung, ermöglicht durch offene Gewichte, und Souveränitätsanforderungen, wenn keine Daten Ihre Infrastruktur verlassen dürfen.

Es gibt einen dritten Weg, oft den besten: Kombinieren Sie beide. Sie subtiteln eine Konferenz in Echtzeit, verarbeiten die Aufnahme dann offline, um saubere, zeitgestempelte Untertitel zu produzieren. Sie zeigen Live-Transkription während eines Meetings an, führen dann eine Offline-Pass mit Diarisierung durch, um jede Äußerung ihrem Sprecher zuzuordnen. Sie diktieren in Echtzeit, verarbeiten die Datei dann offline zur Überprüfung und Korrektur. Echtzeit dient dem Moment; Offline dient dem Dokument.

Was jeder Modus kostet

Die beiden Modi teilen nicht dieselbe Preisstruktur. Ab April 2026 basiert die Preisgestaltung von Mistral AI auf der verarbeiteten Audiolaufzeit. Offline ist im Allgemeinen pro Minute günstiger, da Batch-Verarbeitung optimiert ist, während Echtzeit einen Aufschlag für die persistente WebSocket-Verbindung und die kontinuierliche Verarbeitung trägt.

Drei Gewohnheiten senken Kosten, ohne etwas zu opfern. Im Offline-Modus bündeln Sie Ihre Dateien, um die Anzahl der API-Anfragen zu begrenzen. Im Echtzeit-Modus schließen Sie die Verbindung, sobald die Sprache aufhört, anstatt sie offen zu lassen „nur zur Sicherheit”: Eine vergessene Sitzung verbraucht Ressourcen, ohne Output zu produzieren. Wichtigste ist es, immer zu prüfen, ob Live-Verarbeitung wirklich notwendig ist – wenn Echtzeit für den Benutzer keinen Mehrwert bietet, ist Offline sowohl günstiger als auch funktionsreicher.

Eine hybride Pipeline: Vom Live zum Bericht

Der folgende Code zeigt das hybride Muster in seiner häufigsten Form: ein Meeting. Während der Sitzung speist der Echtzeitstrom die Anzeige: Teilnehmer sehen Text, der scrollt, niemand wartet. Sobald das Meeting endet, wird dasselbe Audio, nun als vollständige Datei verfügbar, offline neu verarbeitet mit diarize=True und segmentbasierten Zeitstempeln, wodurch ein Bericht entsteht, der jede Äußerung ihrem Sprecher zuordnet. Die beiden Aufrufe konkurrieren nicht; sie ergänzen sich. Der erste dient der Unmittelbarkeit; der zweite der Nachvollziehbarkeit.

import asyncio
import os
from mistralai.client import Mistral
from mistralai.client.models import (
    AudioFormat,
    TranscriptionStreamTextDelta,
    TranscriptionStreamDone
)

async def hybrid_pipeline(realtime_audio_source, complete_file_path):
    """
    1. Echtzeit-Transkription für sofortige Anzeige
    2. Offline-Transkription für endgültigen Bericht mit Diarisierung
    """
    client = Mistral(api_key=os.environ["MISTRAL_API_KEY"])

    # Phase 1: Echtzeit (während des Meetings)
    print("=== LIVE TRANSCRIPTION ===\n")
    audio_format = AudioFormat(encoding="pcm_s16le", sample_rate=16000)

    async for event in client.audio.realtime.transcribe_stream(
        audio_stream=realtime_audio_source,
        model="voxtral-mini-transcribe-realtime-3",
        audio_format=audio_format,
        target_streaming_delay_ms=800,
    ):
        if isinstance(event, TranscriptionStreamTextDelta):
            print(event.text, end="", flush=True)
        elif isinstance(event, TranscriptionStreamDone):
            break

    # Phase 2: Offline (nach dem Meeting)
    print("\n\n=== DETAILED ANALYSIS ===\n")

    with open(complete_file_path, "rb") as f:
        response = client.audio.transcriptions.complete(
            model="voxtral-mini-transcribe-3",
            file={"content": f, "file_name": complete_file_path},
            diarize=True,
            timestamp_granularities=["segment"]
        )

    for seg in response.segments:
        print(f"[{seg.speaker_id}] ({seg.start:.1f}s) {seg.text}")

    return response

Beachten Sie die praktische Einschränkung, die dieses Muster auferlegt: Sie müssen das Audio parallel zum Streaming aufzeichnen, da die Chunks, die vom Echtzeitstrom verbraucht werden, nicht gespeichert werden. Planen Sie diese Disk-Write von Anfang an ein, oder die Offline-Phase hat nichts zu verarbeiten.

Kernaussagen

  • Offline eignet sich hervorragend für aufgezeichnete Dateien mit Diarisierung und Zeitstempeln
  • Echtzeit eignet sich hervorragend für Live-Audio mit extrem niedriger Latenz
  • Beide Modi können in einer hybriden Pipeline kombiniert werden
  • Offline ist funktionsreicher (Diarisierung, Kontext-Biasing, Zeitstempel)
  • Echtzeit ist flexibler für die Bereitstellung (offene Gewichte, Edge)
  • Wählen Sie basierend auf der Audio-Quelle (Datei vs. Live) und den erforderlichen Funktionen