Prejsť na hlavný obsah
Slovenčina— Vyberte jazyk
Menu

Vizualizácia vektorových reprezentácií

Lekcia 5 z 22 Aktualizované 29. júla 2026 Vývojár
Na tejto strane
  1. Ciele
  2. Výzva: 3 072 rozmerov
  3. Redukcia dimenzionality pomocou t-SNE
  4. Redukcia pomocou UMAP
  5. Interaktívna 3D vizualizácia
  6. Vizualizácia účinku redukcie dimenzionality
  7. Kľúčové poznatky

Ciele

  • Redukovať vysokorozmerné vektory pre 2D/3D vizualizáciu
  • Použiť t-SNE a UMAP na vizualizáciu
  • Interpretovať vizuálne zhluky

Výzva: 3 072 rozmerov

Vektorové reprezentácie existujú v priestore s 3 072 rozmermi, ktorý si nikto nedokáže priamo predstaviť. Aby si ich mohol preskúmať, musíš ich premietnuť do dvoch alebo troch rozmerov. Tento proces akceptuje určitú stratu informácií, ale zachováva podstatnú štruktúru: body, ktoré boli blízko seba, by mali zostať blízko. Je to výkonný diagnostický nástroj. Rozdelený zhluk alebo prekrývajúce sa témy okamžite vyniknú, zatiaľ čo súhrnné metriky by ich mohli úplne prehliadnuť.

Redukcia dimenzionality pomocou t-SNE

t-SNE (t-distributed Stochastic Neighbor Embedding) je klasická metóda. Nájde 2D rozloženie, v ktorom si každý bod zachová svoje pôvodné okolie. Príklad nižšie zámerne vytvára korpus s tromi odlišnými témami – AI, varenie a šport – aby si mohol overiť, či projekcia obnoví očakávanú štruktúru.

from openai import OpenAI
from sklearn.manifold import TSNE
import matplotlib.pyplot as plt
import numpy as np

client = OpenAI()

# Example corpus
textes = [
    # AI Cluster
    "Deep learning uses neural networks",
    "Machine learning transforms data science",
    "Transformers revolutionized NLP",
    "GPT-5 is a large language model",
    # Cooking Cluster
    "Chocolate cake recipe",
    "How to prepare ratatouille",
    "Basics of French pastry",
    "Oven baking techniques",
    # Sports Cluster
    "Paris Marathon attracts thousands of runners",
    "Interval training for running",
    "Soccer rules explained",
    "Sports nutrition and performance",
]

categories = (["AI"] * 4 + ["Cooking"] * 4 + ["Sports"] * 4)

# Generate embeddings
response = client.embeddings.create(
    input=textes,
    model="text-embedding-3-large"
)
embeddings = np.array([d.embedding for d in response.data])

# t-SNE reduction to 2D
tsne = TSNE(n_components=2, random_state=42, perplexity=4)
coords = tsne.fit_transform(embeddings)

# Visualization
couleurs = {"AI": "#2563eb", "Cooking": "#dc2626", "Sports": "#16a34a"}
fig, ax = plt.subplots(figsize=(10, 8))

for cat in couleurs:
    mask = [c == cat for c in categories]
    ax.scatter(
        coords[mask, 0], coords[mask, 1],
        c=couleurs[cat], label=cat, s=100, alpha=0.8
    )
    for i, (x, y) in enumerate(coords[mask]):
        idx = [j for j, m in enumerate(mask) if m][i]
        ax.annotate(
            textes[idx][:30] + "...",
            (x, y), fontsize=7, alpha=0.7
        )

ax.legend()
ax.set_title("t-SNE Visualization of Embeddings")
plt.tight_layout()
plt.savefig("tsne_embeddings.png", dpi=150)
plt.show()

Výsledok určujú tri parametre. perplexity vyvažuje lokálnu a globálnu štruktúru, pričom typické hodnoty sa pohybujú medzi 5 a 50; tu je nastavená na 4, pretože korpus obsahuje iba dvanásť bodov a hodnota perplexity vyššia ako počet dostupných susedov by viedla k nekonzistentnej projekcii. n_iter určuje počet optimalizačných iterácií, pričom minimum je 250 a ideálne viac ako 1 000. random_state zabezpečuje reprodukovateľnosť: bez neho by dva po sebe idúce behy vygenerovali odlišné grafy, čo znemožňuje porovnanie.

Redukcia pomocou UMAP

UMAP (Uniform Manifold Approximation and Projection) sa často uprednostňuje pred t-SNE, pretože je rýchlejší a lepšie zachováva globálnu štruktúru. Inými slovami, vzdialenosť medzi dvoma zhlukmi na grafe UMAP niečo znamená, zatiaľ čo pri t-SNE je ľubovoľná.

import umap

# UMAP reduction to 2D
reducer = umap.UMAP(n_components=2, random_state=42, n_neighbors=5)
coords_umap = reducer.fit_transform(embeddings)

fig, ax = plt.subplots(figsize=(10, 8))

for cat in couleurs:
    mask = [c == cat for c in categories]
    ax.scatter(
        coords_umap[mask, 0], coords_umap[mask, 1],
        c=couleurs[cat], label=cat, s=100, alpha=0.8
    )

ax.legend()
ax.set_title("UMAP Visualization of Embeddings")
plt.tight_layout()
plt.savefig("umap_embeddings.png", dpi=150)
plt.show()

Nasledujúca tabuľka sumarizuje kompromisy medzi týmito dvoma metódami.

Kritériumt-SNEUMAP
RýchlosťPomalá (O(n²))Rýchla
Globálna štruktúraSlabo zachovanáDobre zachovaná
ReprodukovateľnosťPremennáStabilná
Parametreperplexityn_neighbors, min_dist

Interaktívna 3D vizualizácia

Pri korpuse s niekoľkými stovkami bodov sa statický graf stáva nečitateľným: štítky sa prekrývajú a nedokážeš rozoznať, ktorý text zodpovedá ktorému bodu. Knihovňa Plotly tento problém rieši presunom informácií do kontextových bublín (tooltips) a umožňuje ti otáčať mračnom bodov.

import plotly.express as px
import pandas as pd

# Reduction to 3D
reducer_3d = umap.UMAP(n_components=3, random_state=42, n_neighbors=5)
coords_3d = reducer_3d.fit_transform(embeddings)

df = pd.DataFrame({
    "x": coords_3d[:, 0],
    "y": coords_3d[:, 1],
    "z": coords_3d[:, 2],
    "category": categories,
    "text": [t[:50] for t in textes]
})

fig = px.scatter_3d(
    df, x="x", y="y", z="z",
    color="category",
    hover_data=["text"],
    title="3D Embeddings"
)
fig.write_html("embeddings_3d.html")
fig.show()

Výsledný súbor HTML je pripravený na zdieľanie. Je to vynikajúci spôsob, ako ukázať obchodnému tímu, ako sú distribuované ich dokumenty, bez napísania jediného riadku kódu.

Vizualizácia účinku redukcie dimenzionality

V lekcii 2 sme uviedli, že skrátenie vektora na 256 rozmerov si zachováva približne 88 % jeho kvality. Toto číslo zostáva abstraktné, kým ho neuvidíš na vlastné oči. Vygenerovaním toho istého korpusu so štyrmi rôznymi veľkosťami a premietnutím každej verzie priamo pozoruješ, kedy sa zhluky začnú dotýkať. Umožňuje ti to rozhodovať sa na základe dôkazov, nie všeobecných pravidiel.

dimensions_a_tester = [256, 512, 1536, 3072]

fig, axes = plt.subplots(1, 4, figsize=(24, 5))

for ax, dim in zip(axes, dimensions_a_tester):
    resp = client.embeddings.create(
        input=textes,
        model="text-embedding-3-large",
        dimensions=dim
    )
    embs = np.array([d.embedding for d in resp.data])
    tsne = TSNE(n_components=2, random_state=42, perplexity=4)
    coords = tsne.fit_transform(embs)

    for cat in couleurs:
        mask = [c == cat for c in categories]
        ax.scatter(coords[mask, 0], coords[mask, 1],
                   c=couleurs[cat], label=cat, s=60)
    ax.set_title(f"{dim} dimensions")
    ax.legend(fontsize=7)

plt.tight_layout()
plt.savefig("comparaison_dimensions.png", dpi=150)
plt.show()

Pred interpretáciou týchto grafov ťa musíme upozorniť: projekcia vždy skresľuje. Izolovaný bod na grafe nemusí byť nevyhnutne izolovaný v pôvodnom priestore a dva zhluky, ktoré sa v 2D zlievajú, môžu byť v 3 072 rozmeroch dokonale oddelené. Vizualizácia ti pomáha formulovať hypotézy, nikdy ich však neoveruje. Overovanie sa spolieha na metriky, ktorými sa budeme zaoberať v lekcii 10.

Kľúčové poznatky

  • t-SNE a UMAP premietajú vektorové reprezentácie do 2D/3D pre vizualizáciu
  • UMAP sa vo všeobecnosti uprednostňuje pre svoju rýchlosť a vernosť
  • Plotly umožňuje interaktívne 3D vizualizácie
  • Vizualizácia pomáha overiť kvalitu vektorových reprezentácií a odhaliť anomálie