Премини към основното съдържание
Български— Изберете език
Меню

Context Biasing: Подобряване на точността

Урок 8 от 16 Обновен 3 ноември 2026 г. Програмист
На тази страница
  1. Проблемът със специализираните термини
  2. Използване на Context Biasing
  3. Изграждане на ефективен списък
  4. Управление на речника по проект
  5. Какво работи и какво не
  6. Ключови изводи

Курсът е актуализиран на 3 ноември 2026 г. за Voxtral 3, въз основа на ръководството на Mistral Migrate from Voxtral 2: Моделите Voxtral 2 (voxtral-mini-2602, voxtral-mini-transcribe-realtime-2602, voxtral-mini-tts-2603), обявени за остарели на 31 октомври 2026 г. и изтеглени от употреба на 30 април 2027 г., са заменени в примерите с voxtral-mini-transcribe-3, voxtral-mini-transcribe-realtime-3 и voxtral-mini-tts-3-0. Основни промени: маркерите за време са само за сегменти (word връща грешка 400), разграничаването на говорещите е възможно в реално време, настройките на сесията в реално време се заключват след първия аудио чанк, а записите в context_bias са в свободен формат (допустими са фрази с интервали). Източници: Migrate from Voxtral 2 · Speech to Text.

Проблемът със специализираните термини

Моделите за транскрипция се обучават върху общоразговорен език. Когато вашето аудио съдържа собствени имена, акроними, технически жаргон или редки индустриални термини, моделът често ги транскрибира грешно: „Voxtral“ става „vox trail“, а „RGPD“ (френският акроним за Общия регламент на ЕС за защита на данните) излиза като „RG PD“. В едночасова среща тези грешки се натрупват до десетки и засягат точно думите, които сте искали да извлечете.

Context biasing (контекстуално пристрастяване) решава този проблем, като предоставя на модела списък с очаквани термини. След това моделът коригира своите вероятности, за да предпочита тези термини, когато ги открие в аудиото. Това не е автоматична пост-обработка; то насочва декодирането по време на самата транскрипция. Именно тази нюансираност гарантира, че резултатът остава естествен.

Използване на Context Biasing

Параметърът context_bias приема списък от термини: в Python това е списък от низове. При Voxtral 3 един запис може да съдържа интервали – пълно име на продукт като „Alder Creek Design“ – и вече няма твърдо ограничение за броя на записите. Въпреки това, записите споделят контекстния прозорец с аудиото: заявка, която надвишава този лимит, се отхвърля (грешка 400), затова краткият списък е за предпочитане.

import os
from mistralai.client import Mistral

client = Mistral(api_key=os.environ["MISTRAL_API_KEY"])

with open("reunion_tech.mp3", "rb") as f:
    response = client.audio.transcriptions.complete(
        model="voxtral-mini-transcribe-3",
        file={"content": f, "file_name": "reunion_tech.mp3"},
        context_bias=["Voxtral", "Mistral AI", "RGPD", "Kubernetes", "PostgreSQL", "FastAPI"]
    )

print(response.text)

Ефектът е незабавен. Без context biasing една инженерска среща може да произведе следното:

On a déployé le nouveau service sur cubernétisse avec fast API
et la base post grès cul.

Със списъка ["Kubernetes", "FastAPI", "PostgreSQL"] същото изречение става използваемо:

On a déployé le nouveau service sur Kubernetes avec FastAPI
et la base PostgreSQL.

Извън режима в реално време, един запис може дори да бъде контекстуална фраза в свободен формат, описваща разговора: „Call to Northwind support regarding an order of Quillara headsets shipped from the Rotterdam warehouse.“ Моделът използва това, за да насочи разпознаването на съдържащите се в нея имена.

Изграждане на ефективен списък

Четири категории термини заслужават място в списъка. Първо, собствени имена: хора, компании, продукти – всичко, което моделът няма причина да познава. Второ, технически термини: акроними, имена на технологии, протоколи. Трето, индустриален жаргон, специфичен за вашата област, който не се среща в общите речници. И накрая, географски имена: градове, сгради, зали за срещи, които често се споменават, но рядко се транскрибират правилно.

Съдържанието на списъка зависи изцяло от контекста. Среща в технологичен стартъп изисква различен речник от медицинска консултация или интервю в адвокатска кантора. Ето три реални списъка, които да използвате като шаблони.

Среща в технологичен стартъп:

context_bias = [
    "Mistral AI", "Voxtral", "Claude", "GPT-5.6",
    "Kubernetes", "PostgreSQL", "FastAPI", "Redis",
    "RGPD", "HIPAA", "SOC 2",
    "sprint", "backlog", "user story",
    "CI/CD", "Docker", "Terraform"
]

Медицинска практика:

context_bias = [
    "paracétamol", "ibuprofène", "amoxicilline",
    "IRM", "scanner", "échographie",
    "glycémie", "hémoglobine", "créatinine",
    "Dr Martin", "Dr Dubois",
    "CHU Pitié-Salpêtrière"
]

Адвокатска кантора:

context_bias = [
    "SARL", "SAS", "SASU",
    "article L.225-1", "Code de commerce",
    "assignation", "mise en demeure",
    "TGI", "Cour d'appel",
    "Maître Dupont", "Maître Leroy"
]

Управление на речника по проект

Твърдото кодиране на списъка не мащабира, когато в картината се включат множество клиенти или услуги. Следващият скрипт зарежда речника от JSON файл, позволява добавянето на ад хок термини и премахва дубликатите от множеството. Той не налага твърд лимит, тъй като Voxtral 3 няма такъв, но предупреждава, ако списъкът е твърде дълъг: това е рискът да се надвиши контекстният прозорец.

import os
import json
from pathlib import Path
from mistralai.client import Mistral

ALERT_THRESHOLD = 50  # Вътрешен маркер: отвъд тази стойност проверете размера на заявката


def load_vocabulary(config_path: str) -> list[str]:
    """Зарежда речника за context biasing от JSON файл."""
    config = json.loads(Path(config_path).read_text(encoding="utf-8"))
    terms = list(dict.fromkeys(config.get("terms", [])))

    if len(terms) > ALERT_THRESHOLD:
        print(f"Warning: {len(terms)} terms; a long list reduces "
              f"the space left for audio in the context window.")

    return terms

def transcribe_with_vocabulary(
    audio_path: str,
    config_path: str = None,
    additional_terms: list = None
) -> str:
    """Транскрибира с опционално context biasing."""
    client = Mistral(api_key=os.environ["MISTRAL_API_KEY"])

    # Изграждане на списъка с термини
    all_terms = []

    if config_path and Path(config_path).exists():
        config = json.loads(
            Path(config_path).read_text(encoding="utf-8")
        )
        all_terms.extend(config.get("terms", []))

    if additional_terms:
        all_terms.extend(additional_terms)

    # Премахване на дубликати със запазване на реда
    all_terms = list(dict.fromkeys(all_terms))
    bias = all_terms or None

    # Транскрипция
    with open(audio_path, "rb") as f:
        kwargs = {
            "model": "voxtral-mini-transcribe-3",
            "file": {"content": f, "file_name": Path(audio_path).name}
        }
        if bias:
            kwargs["context_bias"] = bias
            print(f"Context biasing active: {len(all_terms)} terms")

        response = client.audio.transcriptions.complete(**kwargs)

    return response.text

# Конфигурационен файл за речника vocabulaire.json
# {
#   "terms": [
#     "Mistral AI", "Voxtral", "Kubernetes",
#     "PostgreSQL", "RGPD", "Dr Martin"
#   ]
# }

# Употреба
texte = transcribe_with_vocabulary(
    "reunion.mp3",
    config_path="vocabulaire.json",
    additional_terms=["nouveau_terme", "autre_terme"]
)
print(texte)

Какво работи и какво не

Context biasing дава най-добри резултати при точни, отличими термини: собствени имена, акроними, рядка техническа лексика. То също така предполага, че предоставените термини действително присъстват в аудиото – добавянето на думи, които никога няма да бъдат произнесени, размива сигнала, без да добавя стойност. Списък от двадесет до петдесет добре подбрани термина е достатъчен в повечето ситуации.

Обратно, изброяването на често срещани думи е безполезно: моделът вече ги разпознава добре, а вие консумирате полезно пространство. Дългите изречения работят лошо; придържайте се към думи или кратки фрази. Накрая, пазете се от рефлекса да „изсипете“ целия корпоративен глосарий в параметъра: твърде обширен речник заглушава малкото термини, които наистина са важни.

Една точка на внимание за вашите френскоезични проекти: context biasing е оптимизиран за английски език, а Mistral AI определя поддръжката за други езици, включително френски, като експериментална. На практика тя работи коректно за собствени имена и акроними на всички езици, но може да бъде по-малко ефективна за често срещани термини на езици, различни от английския. Тествайте върху представителен откъс, преди да обобщите резултатите върху цял корпус.

Ключови изводи

  • Context biasing подобрява разпознаването на специализирани термини чрез context_bias
  • Списък от термини (допустими са фрази с интервали), без фиксиран лимит, но ограничен от контекстния прозорец
  • Ефективно за: собствени имена, акроними, технически жаргон, географски имена
  • Оптимизирано за английски език, експериментална поддръжка за други езици
  • Предпочитайте точни термини, които действително присъстват в аудиото
  • Използвайте конфигурационен файл за управление на речника по проект