Въведение в ембеддингите
На тази страница
Обновено на 2 ноември 2026 г. — Модели. Mistral Large 3 (
mistral-large-2512) и Mistral Medium 3.5 бяха депрецирани на 31 октомври 2026 г. и ще бъдат окончателно спрени на 30 април 2027 г. Тяхният определен наследник, Mistral Large 4 (mistral-large-4), е в публичен преглед от 6 октомври. Примерите в този курс използват псевдонимаmistral-large-latest, който все още сочи към Mistral Large 3 според официалната му спецификация (проверено на 3 ноември 2026 г.). По подобен начин,mistral-medium-latestсочи към Mistral Medium 3.5. Тези псевдоними ще останат валидни до 30 април 2027 г. За нови проекти тествайтеmistral-large-4, техния определен наследник.
Какво е ембеддинг?
Ембеддингът е числово представяне на текста като вектор в многомерно пространство. Всяка дума, изречение или документ се трансформира в списък от числа – вектор, който улавя неговото семантично значение. Причината за тази трансформация е проста: компютрите не разбират суров текст; те работят с числа. Ембеддингите превеждат човешкия език във формат, който алгоритмите могат да манипулират, сравняват и анализират.
Помислете за екип за поддръжка на клиенти, който архивира тикети от десет години. Докато тези тикети останат като обикновен текст, единствената възможна механична операция е търсенето по точни ключови думи: търсенето на “доставка” никога няма да открие “пратка”. Щом тикетите бъдат кодирани като вектори, те се превръщат в сравними точки в пространството. “Моят пакет никога не пристигна” се групира с “поръчката не е получена”, въпреки че нямат общи думи.
Вектори и семантично пространство
Представете си пространство с много измерения (например 1024 измерения за mistral-embed). Всеки текст заема точно определена позиция в това пространство, а текстовете с подобни значения завършват геометрично близо един до друг.
# Ембеддингът е просто списък от числа
embedding_example = [0.0234, -0.1567, 0.0891, 0.0456] # 1024 стойности в реалността
# Две подобни изречения ще имат близки вектори
sentence_1 = "The cat sleeps on the couch" # -> вектор A
sentence_2 = "The feline dozes on the sofa" # -> вектор B (близък до A)
sentence_3 = "The stock market crashed yesterday" # -> вектор C (далеч от A и B)
Това свойство прави ембеддингите толкова мощни: геометричната близост отразява семантичната близост. Моделът никога не е научил правило, гласящо, че “feline” е синоним на “cat”. Вместо това, той се е научил да поставя тези две думи в подобни контексти, което е достатъчно, за да сближи векторите A и B, като същевременно държи C настрана.
Разстоянието като мярка за сходство
За да определите дали два текста са сходни, измервате разстоянието между техните вектори. Три метрики доминират в областта. Евклидовото разстояние съответства на правата линия между две точки: колкото по-къса е линията, толкова по-подобни са текстовете. Косинусовото сходство измерва ъгъла между два вектора; ъгъл от 0° (косинус = 1) означава, че текстовете са семантично идентични. Накрая, скаларното произведение се изчислява бързо, което обяснява защо често се използва за класиране.
Косинусовото сходство се превърна в стандарт, защото игнорира дължината на вектора. Сравнете резюме на договор от три реда с пълния договор от четиридесет страници. Евклидовото разстояние наказва резюмето, въпреки че обхваща точно същата тема, докато ъгълът между двата вектора остава малък.
import numpy as np
def cosine_similarity(vec_a, vec_b):
"""Изчислява косинусовото сходство между два вектора."""
dot_product = np.dot(vec_a, vec_b)
norm_a = np.linalg.norm(vec_a)
norm_b = np.linalg.norm(vec_b)
return dot_product / (norm_a * norm_b)
# Резултат между -1 и 1
# 1.0 = идентични, 0.0 = несвързани, -1.0 = противоположни
Приложения на ембеддингите
Ембеддингите са в основата на много съвременни приложения и си струва да видите как изглежда всяко от тях на практика. Семантичното търсене открива документи по смисъл, а не по точни ключови думи: база данни с вътрешни процедури отговаря на “какво да правя, ако клиент откаже доставка”, дори ако процедурата е озаглавена “управление на връщания в депото”. RAG (Retrieval-Augmented Generation) развива тази логика още повече, като инжектира извлечени документи в промпта на голям езиков модел (LLM), позволявайки му да отговаря въз основа на вашите данни, а не на обучителната си памет.
Три други случая на употреба използват същата геометрия. Класификацията на текст автоматично категоризира документите, като наблюдава към коя известна група е най-близо техният вектор – входящ имейл попада в “фактуриране” или “технически въпроси” без никакви ръчно написани правила. Откриването на дубликати засича почти идентично съдържание в база данни, предотвратявайки публикуването на един и същ продуктов лист два пъти, защото два екипа са го написали. Клъстерирането групира документи по тема без предварително дефинирани етикети, което е често срещан метод за осмисляне на корпус, чиято структура никой не познава. Накрая, системите за препоръки предлагат подобно съдържание, точно като механизма за “свързани статии” в долната част на страницата.
Защо Mistral за ембеддинги?
Mistral предлага два специализирани модела за ембеддинги. mistral-embed обработва естествен език и произвежда 1024 измерения; codestral-embed е обучен на изходен код и достига до 3072 измерения. Вие избирате между тях въз основа на естеството на вашия суров материал: писмена документация от едната страна, .py или .ts файлове от другата.
Тези модели са достъпни чрез просто API с отлично съотношение цена-производителност. В следващите уроци ще научите как да ги използвате на практика.
Ключови изводи
- Ембеддингът трансформира текста в многомерен числов вектор
- Геометричната близост между векторите отразява семантичното сходство
- Косинусовото сходство е най-често използваната метрика за сравняване на ембеддинги
- Mistral предлага два модела: mistral-embed (текст) и codestral-embed (код)
- Ембеддингите са основата на RAG, семантичното търсене и клъстерирането