Aqbeż għall-kontenut ewlieni
Malti— Agħżel lingwa
Menu

Context Biasing: Titjib il-Preċiżjoni

Lezzjoni 8 / 16 Aġġornat 3 ta’ Novembru 2026 Zviluppatur
F'din il-paġna
  1. Il-Problema mat-Terminali Speċjalizzati
  2. Kif Tuża l-Context Biasing
  3. Bini ta’ Lista Effettiva
  4. Ġestjoni tal-Vokabolarju skont il-Proġett
  5. X’Jaħdem u X’Ma Jaħdimx
  6. Punti Ewlenin

Kors aġġornat fit-3 ta’ Novembru 2026 għal Voxtral 3, ibbażat fuq il-gwida Migrate from Voxtral 2 ta’ Mistral: Il-mudelli Voxtral 2 (voxtral-mini-2602, voxtral-mini-transcribe-realtime-2602, voxtral-mini-tts-2603), iddeprekati fil-31 ta’ Ottubru 2026 u rtirati fit-30 ta’ April 2027, ġew sostitwiti fl-eżempji b’voxtral-mini-transcribe-3, voxtral-mini-transcribe-realtime-3, u voxtral-mini-tts-3-0. Bidliet ewlenin: it-timestamps huma biss għas-segmenti (word jirritorna żball 400), id-dijarizzazzjoni hija possibbli f’ħin reali, is-settings tas-sessjoni f’ħin reali jissakkaw wara l-ewwel biċċa awdjo, u l-entrati context_bias huma f’forma libera (frażijiet b’spazji permessi). Sorsi: Migrate from Voxtral 2 · Speech to Text.

Il-Problema mat-Terminali Speċjalizzati

Il-mudelli tat-traskrizzjoni jitħarrġu fuq lingwa komuni. Meta l-awdjo tiegħek fih ismijiet proprji, akronimi, ġargon tekniku, jew termini rari tal-industrija, il-mudell spiss jagħmel żball fit-traskrizzjoni tagħhom: “Voxtral” isir “vox trail”, u “RGPD” (l-akronimu Franċiż għar-Regolament Ġenerali dwar il-Protezzjoni tad-Data tal-UE) joħroġ bħala “RG PD”. F’laqgħa ta’ siegħa, dawn l-iżbalji jammontaw għal għexieren, u huma preċiżament il-kliem li rridt testraġġi.

Il-context biasing isolvi dan billi jipprovdi lill-mudell b’lista ta’ termini mistennija. Il-mudell imbagħad jaġġusta l-probabbiltajiet tiegħu biex jiffavorixxi dawn it-termini meta jiskoprihom fl-awdjo. Dan mhuwiex sostituzzjoni awtomatika wara l-ipproċessar; dan jiggwida d-decoding waqt it-traskrizzjoni. Dik in-nuansa hija r-raġuni għaliex ir-riżultat jibqa’ naturali.

Kif Tuża l-Context Biasing

Il-parametru context_bias jaċċetta lista ta’ termini: f’Python, lista ta’ strings. Ma’ Voxtral 3, entrata tista’ fiha spazji—isem sħiħ ta’ prodott bħal “Alder Creek Design”—u m’għadx hemm limitu iebsu fuq in-numru ta’ entrati. Madankollu, l-entrati jaqsmu t-tieqa tal-kuntest mal-awdjo: talba li taqbeżha tiġi miċħuda (żball 400), għalhekk lista qasira hija l-aħjar.

import os
from mistralai.client import Mistral

client = Mistral(api_key=os.environ["MISTRAL_API_KEY"])

with open("reunion_tech.mp3", "rb") as f:
    response = client.audio.transcriptions.complete(
        model="voxtral-mini-transcribe-3",
        file={"content": f, "file_name": "reunion_tech.mp3"},
        context_bias=["Voxtral", "Mistral AI", "RGPD", "Kubernetes", "PostgreSQL", "FastAPI"]
    )

print(response.text)

L-effett huwa immedjat. Mingħajr context biasing, laqgħa tal-inġinerija tista’ tipproduċi dan:

On a déployé le nouveau service sur cubernétisse avec fast API
et la base post grès cul.

Bil-lista ["Kubernetes", "FastAPI", "PostgreSQL"], l-istess sentenza ssir użabbli:

On a déployé le nouveau service sur Kubernetes avec FastAPI
et la base PostgreSQL.

Barra mill-modalità f’ħin reali, entrata tista’ anki tkun frażi tal-kuntest f’forma libera li tiddeskrivi l-konversazzjoni: “Call to Northwind support regarding an order of Quillara headsets shipped from the Rotterdam warehouse.” Il-mudell juża dan biex jiggwida r-rikonoxximent tal-ismijiet li fiha.

Bini ta’ Lista Effettiva

Erba’ familji ta’ termini jistħoqqilhom post. L-ewwel, ismijiet proprji: nies, kumpaniji, prodotti—kull ma l-mudell m’għandu l-ebda raġuni li jaf. It-tieni, termini tekniċi: akronimi, ismijiet ta’ teknoloġiji, protokoll. It-tielet, ġargon tal-industrija speċifiku għall-qasam tiegħek li ma jidhirx fid-dizzjunarji ġenerali. Fl-aħħar, ismijiet ta’ postijiet: bliet, binjiet, kmamar tal-laqgħat, spiss iċċitati u rari traskritti sew.

Il-kontenut tal-lista jiddependi kompletament mill-kuntest. Laqgħa ta’ startup teknoloġika teħtieġ vokabolarju differenti minn konsultazzjoni medika jew intervista ta’ ditta tal-liġi. Hawnhekk hemm tliet listi reali biex tużahom bħala mudelli.

Laqgħa ta’ startup teknoloġika:

context_bias = [
    "Mistral AI", "Voxtral", "Claude", "GPT-5.6",
    "Kubernetes", "PostgreSQL", "FastAPI", "Redis",
    "RGPD", "HIPAA", "SOC 2",
    "sprint", "backlog", "user story",
    "CI/CD", "Docker", "Terraform"
]

Prattika medika:

context_bias = [
    "paracétamol", "ibuprofène", "amoxicilline",
    "IRM", "scanner", "échographie",
    "glycémie", "hémoglobine", "créatinine",
    "Dr Martin", "Dr Dubois",
    "CHU Pitié-Salpêtrière"
]

Ditta tal-liġi:

context_bias = [
    "SARL", "SAS", "SASU",
    "article L.225-1", "Code de commerce",
    "assignation", "mise en demeure",
    "TGI", "Cour d'appel",
    "Maître Dupont", "Maître Leroy"
]

Ġestjoni tal-Vokabolarju skont il-Proġett

Il-hardcoding tal-lista ma jiskalax meta jidħlu klijenti jew servizzi multipli. L-iskript li ġej jitgħabbi l-vokabolarju minn fajl JSON, jippermetti li żżid termini ad-hoc, u jneħħi d-duplikati mis-sett. Ma jimponi l-ebda limitu iebsu peress li Voxtral 3 m’għandux wieħed, iżda jwissi jekk il-lista tkun twila wisq: dak huwa r-riskju li taqbeż it-tieqa tal-kuntest.

import os
import json
from pathlib import Path
from mistralai.client import Mistral

ALERT_THRESHOLD = 50  # Markatur intern: lil hinn minn dan, iċċekkja d-daqs tat-talba


def load_vocabulary(config_path: str) -> list[str]:
    """Jitgħabbi l-vokabolarju tal-context biasing minn fajl JSON."""
    config = json.loads(Path(config_path).read_text(encoding="utf-8"))
    terms = list(dict.fromkeys(config.get("terms", [])))

    if len(terms) > ALERT_THRESHOLD:
        print(f"Warning: {len(terms)} terms; a long list reduces "
              f"the space left for audio in the context window.")

    return terms

def transcribe_with_vocabulary(
    audio_path: str,
    config_path: str = None,
    additional_terms: list = None
) -> str:
    """Jittraskrivi b'context biasing fakultattiv."""
    client = Mistral(api_key=os.environ["MISTRAL_API_KEY"])

    # Ibni l-lista tat-termini
    all_terms = []

    if config_path and Path(config_path).exists():
        config = json.loads(
            Path(config_path).read_text(encoding="utf-8")
        )
        all_terms.extend(config.get("terms", []))

    if additional_terms:
        all_terms.extend(additional_terms)

    # Neħħi d-duplikati filwaqt li tippreserva l-ordni
    all_terms = list(dict.fromkeys(all_terms))
    bias = all_terms or None

    # Ittraskrivi
    with open(audio_path, "rb") as f:
        kwargs = {
            "model": "voxtral-mini-transcribe-3",
            "file": {"content": f, "file_name": Path(audio_path).name}
        }
        if bias:
            kwargs["context_bias"] = bias
            print(f"Context biasing active: {len(all_terms)} terms")

        response = client.audio.transcriptions.complete(**kwargs)

    return response.text

# Fajl ta' konfigurazzjoni tal-vokabolarju vocabulaire.json
# {
#   "terms": [
#     "Mistral AI", "Voxtral", "Kubernetes",
#     "PostgreSQL", "RGPD", "Dr Martin"
#   ]
# }

# Użu
texte = transcribe_with_vocabulary(
    "reunion.mp3",
    config_path="vocabulaire.json",
    additional_terms=["nouveau_terme", "autre_terme"]
)
print(texte)

X’Jaħdem u X’Ma Jaħdimx

Il-context biasing jagħti l-aħjar riżultati fuq termini preċiżi u distinti: ismijiet proprji, akronimi, vokabolarju tekniku rari. Jassumi wkoll li t-termini pprovduti huma preżenti attwalment fl-awdjo—li żżid kliem li qatt ma se jingħad iddilwi s-sinjal mingħajr ma jżid valur. Lista ta’ għoxrin sa ħamsin terminu magħżula sew hija biżżejjed fil-biċċa l-kbira tas-sitwazzjonijiet.

Bil-kuntrarju, li telenka kliem komuni huwa inutili: il-mudell diġà jirrikonoxxihom sew, u inti tikkonsma spazju utli. Sentenzi twal jaħdmu ħażin; illimita ruħek għal kliem jew frażijiet qosra. Fl-aħħar, oqgħod attent għar-rifless li tgħarraq il-glossarju sħiħ tal-kumpanija fil-parametru: vokabolarju wiesa’ wisq jegħreq ftit termini li verament kienu importanti.

Punt ta’ viġilanza għall-proġetti tiegħek bil-Franċiż: il-context biasing huwa ottimizzat għall-Ingliż, u Mistral AI tikkwalifika s-suppoġġ għal lingwi oħra, inkluż il-Franċiż, bħala sperimentali. Fil-prattika, jaħdem sew għal ismijiet proprji u akronimi fil-lingwi kollha iżda jista’ jkun inqas effettiv għal termini komuni f’lingwi mhux bl-Ingliż. Ittestja fuq estratt rappreżentattiv qabel ma tiggeneralizza għal corpus sħiħ.

Punti Ewlenin

  • Il-context biasing itejjeb ir-rikonoxximent ta’ termini speċjalizzati permezz ta’ context_bias
  • Lista ta’ termini (frażijiet b’spazji permessi), l-ebda limitu fiss iżda mrażżan mit-tieqa tal-kuntest
  • Effettiv għal: ismijiet proprji, akronimi, ġargon tekniku, ismijiet ta’ postijiet
  • Ottimizzat għall-Ingliż, appoġġ sperimentali għal lingwi oħra
  • Ippreferi termini preċiżi li huma attwalment preżenti fl-awdjo
  • Uża fajl ta’ konfigurazzjoni biex timmaniġġja l-vokabolarju skont il-proġett