Премини към основното съдържание
Български— Изберете език
Меню

Визуализиране на вграждания

Урок 5 от 22 Обновен 29 юли 2026 г. Програмист
На тази страница
  1. Цели
  2. Предизвикателството: 3072 измерения
  3. Намаляване на размерността с t-SNE
  4. Намаляване с UMAP
  5. Интерактивна 3D визуализация
  6. Визуализиране на ефекта от намаляването на размерността
  7. Ключови изводи

Цели

  • Намаляване на размерността на високоизмерните вектори за 2D/3D визуализация
  • Използване на t-SNE и UMAP за визуализация
  • Тълкуване на визуалните клъстери

Предизвикателството: 3072 измерения

Вгражданията съществуват в 3072-измерно пространство, което никой не може да визуализира директно. За да ги инспектирате, трябва да ги проектирате в две или три измерения. Това допуска известна загуба на информация, но запазва основната структура: точки, които са били близки, трябва да останат близки. Това е мощен диагностичен инструмент. Разделен клъстер или припокриващи се теми изскачат на пръв поглед, докато агрегираните метрики може изцяло да ги пропуснат.

Намаляване на размерността с t-SNE

t-SNE (t-distributed Stochastic Neighbor Embedding) е класическият метод. Той намира 2D оформление, при което всяка точка запазва оригиналното си съседство. Примерът по-долу умишлено изгражда корпус с три отделни теми – изкуствен интелект, готвене и спорт, – за да можете да проверите дали проекцията възстановява очакваната структура.

from openai import OpenAI
from sklearn.manifold import TSNE
import matplotlib.pyplot as plt
import numpy as np

client = OpenAI()

# Example corpus
textes = [
    # AI Cluster
    "Deep learning uses neural networks",
    "Machine learning transforms data science",
    "Transformers revolutionized NLP",
    "GPT-5 is a large language model",
    # Cooking Cluster
    "Chocolate cake recipe",
    "How to prepare ratatouille",
    "Basics of French pastry",
    "Oven baking techniques",
    # Sports Cluster
    "Paris Marathon attracts thousands of runners",
    "Interval training for running",
    "Soccer rules explained",
    "Sports nutrition and performance",
]

categories = (["AI"] * 4 + ["Cooking"] * 4 + ["Sports"] * 4)

# Generate embeddings
response = client.embeddings.create(
    input=textes,
    model="text-embedding-3-large"
)
embeddings = np.array([d.embedding for d in response.data])

# t-SNE reduction to 2D
tsne = TSNE(n_components=2, random_state=42, perplexity=4)
coords = tsne.fit_transform(embeddings)

# Visualization
couleurs = {"AI": "#2563eb", "Cooking": "#dc2626", "Sports": "#16a34a"}
fig, ax = plt.subplots(figsize=(10, 8))

for cat in couleurs:
    mask = [c == cat for c in categories]
    ax.scatter(
        coords[mask, 0], coords[mask, 1],
        c=couleurs[cat], label=cat, s=100, alpha=0.8
    )
    for i, (x, y) in enumerate(coords[mask]):
        idx = [j for j, m in enumerate(mask) if m][i]
        ax.annotate(
            textes[idx][:30] + "...",
            (x, y), fontsize=7, alpha=0.7
        )

ax.legend()
ax.set_title("t-SNE Visualization of Embeddings")
plt.tight_layout()
plt.savefig("tsne_embeddings.png", dpi=150)
plt.show()

Три параметъра движат резултата. perplexity балансира локалната спрямо глобалната структура, като типичните стойности са между 5 и 50; тук тя е зададена на 4, защото корпусът съдържа само дванадесет точки, а perplexity, по-висока от наличните съседи, би произвела несвързана проекция. n_iter задава броя на итерациите за оптимизация, с минимум 250 и идеално повече от 1000. random_state осигурява възпроизводимост: без него два последователни запуска ще дадат различни фигури, правейки сравнението невъзможно.

Намаляване с UMAP

UMAP (Uniform Manifold Approximation and Projection) често се предпочита пред t-SNE, защото е по-бърз и запазва по-добре глобалната структура. С други думи, разстоянието между два клъстера на UMAP диаграма има значение, докато при t-SNE то е произволно.

import umap

# UMAP reduction to 2D
reducer = umap.UMAP(n_components=2, random_state=42, n_neighbors=5)
coords_umap = reducer.fit_transform(embeddings)

fig, ax = plt.subplots(figsize=(10, 8))

for cat in couleurs:
    mask = [c == cat for c in categories]
    ax.scatter(
        coords_umap[mask, 0], coords_umap[mask, 1],
        c=couleurs[cat], label=cat, s=100, alpha=0.8
    )

ax.legend()
ax.set_title("UMAP Visualization of Embeddings")
plt.tight_layout()
plt.savefig("umap_embeddings.png", dpi=150)
plt.show()

Следващата таблица обобщава компромисите между двата метода.

Критерийt-SNEUMAP
СкоростБавна (O(n²))Бърза
Глобална структураЛошо запазенаДобре запазена
ВъзпроизводимостПроменливаСтабилна
Параметриperplexityn_neighbors, min_dist

Интерактивна 3D визуализация

При корпус от няколкостотин точки статичната фигура става нечетлива: етикетите се припокриват и не можете да кажете кой текст на коя точка съответства. Plotly решава това, като премества информацията в подсказки (tooltips) и ви позволява да въртите облака от точки.

import plotly.express as px
import pandas as pd

# Reduction to 3D
reducer_3d = umap.UMAP(n_components=3, random_state=42, n_neighbors=5)
coords_3d = reducer_3d.fit_transform(embeddings)

df = pd.DataFrame({
    "x": coords_3d[:, 0],
    "y": coords_3d[:, 1],
    "z": coords_3d[:, 2],
    "category": categories,
    "text": [t[:50] for t in textes]
})

fig = px.scatter_3d(
    df, x="x", y="y", z="z",
    color="category",
    hover_data=["text"],
    title="3D Embeddings"
)
fig.write_html("embeddings_3d.html")
fig.show()

Полученият HTML файл е готов за споделяне. Това е отличен начин да покажете на бизнес екипа как са разпределени техните документи, без да пишете нито ред код.

Визуализиране на ефекта от намаляването на размерността

Урок 2 посочи, че съкращаването на вектор до 256 измерения запазва около 88% от неговото качество. Тази цифра остава абстрактна, докато не я видите. Чрез генериране на същия корпус с четири различни размера и проектиране на всяка версия, вие наблюдавате директно кога клъстерите започват да се допират. Това ви позволява да вземете решение въз основа на доказателства, а не на общо правило.

dimensions_a_tester = [256, 512, 1536, 3072]

fig, axes = plt.subplots(1, 4, figsize=(24, 5))

for ax, dim in zip(axes, dimensions_a_tester):
    resp = client.embeddings.create(
        input=textes,
        model="text-embedding-3-large",
        dimensions=dim
    )
    embs = np.array([d.embedding for d in resp.data])
    tsne = TSNE(n_components=2, random_state=42, perplexity=4)
    coords = tsne.fit_transform(embs)

    for cat in couleurs:
        mask = [c == cat for c in categories]
        ax.scatter(coords[mask, 0], coords[mask, 1],
                   c=couleurs[cat], label=cat, s=60)
    ax.set_title(f"{dim} dimensions")
    ax.legend(fontsize=7)

plt.tight_layout()
plt.savefig("comparaison_dimensions.png", dpi=150)
plt.show()

Предупреждение преди тълкуването на тези фигури: проекцията винаги изкривява. Изолирана точка на графиката не е непременно изолирана в оригиналното пространство, а два клъстера, залепени един за друг в 2D, може да са перфектно разделени в 3072 измерения. Визуализацията ви помага да формулирате хипотеза, но никога да я валидирате. Валидацията разчита на метриките, които ще разгледаме в Урок 10.

Ключови изводи

  • t-SNE и UMAP проектират вгражданията в 2D/3D за визуализация
  • UMAP обикновено се предпочита заради скоростта и точността си
  • Plotly позволява интерактивни 3D визуализации
  • Визуализацията помага за валидиране на качеството на вгражданията и откриване на аномалии