Czym jest osadzenie: intuicja
Na tej stronie
Cele
- Zrozumiesz, czym jest osadzenie i dlaczego ma znaczenie
- Pojmiesz geometryczną intuicję stojącą za wektorami wyrazów
- Odkryjesz główne przypadki użycia
Problem: Maszyny nie rozumieją tekstu
Modele językowe pracują na liczbach, a nie na słowach. Zanim maszyna będzie mogła porównywać, wyszukiwać lub wnioskować na podstawie tekstu, musisz przekształcić ten tekst w użyteczną reprezentację numeryczną. Kluczowe pytanie brzmi: jaką reprezentację wybrać?
Naiwne podejście: worek ze słowami
Najprostsza metoda polega na zliczaniu wystąpień każdego słowa. Jest prosta, ale całkowicie ignoruje znaczenie. Weźmy zdania „Kot je mysz“ i „Mysz je kota“: oba zawierają dokładnie te same słowa w tych samych proporcjach, więc generują identyczną reprezentację, mimo że opisują przeciwstawne sceny. Istnieje też problem odwrotny: „Samochód“ i „Auto“ odnoszą się do tego samego obiektu, ale ponieważ są to dwa różne ciągi znaków, podejście oparte na worku ze słowami traktuje je jako niezwiązane koncepcje. Kolejność wyrazów i synonimy – dwa filary języka – całkowicie umykają tej metodzie.
Osadzenia: Uchwycenie znaczenia
Osadzenie (embedding) to gęsty wektor – lista liczb zmiennoprzecinkowych – który przechwytuje semantyczne znaczenie tekstu. Dwa teksty o podobnym znaczeniu będą miały wektory leżące blisko siebie w przestrzeni, niezależnie od użytych konkretnych słów. Oto jak go wygenerować:
from openai import OpenAI
client = OpenAI()
# Generate an embedding
response = client.embeddings.create(
input="Artificial intelligence is transforming the industry",
model="text-embedding-3-large"
)
vector = response.data[0].embedding
print(f"Vector dimension: {len(vector)}") # 3072
print(f"First elements: {vector[:5]}")
Ten wektor składający się z 3072 liczb koduje znaczenie zdania, przy czym każdy wymiar przechwytuje inny aspekt semantyki. Nie musisz wiedzieć, co reprezentuje wymiar 417: istotne jest, że ogólna konfiguracja pozostaje stabilna i porównywalna między różnymi tekstami.
Intuicja geometryczna
Wyobraź sobie trójwymiarową przestrzeń, w której każde słowo lub fraza zajmuje określony punkt. „Król“ i „Królowa“ lądują obok siebie, ponieważ dzielą większość swojego znaczenia. „Jabłko“ i „Pomarańcza“ tworzą inną sąsiedzką grupę, oddaloną od pierwszej. „Pies“ i „Kot“ stanowią kolejny klaster. Ta przestrzenna organizacja umożliwia porównywanie: zmierzenie odległości między dwoma punktami jest równoważne zmierzeniu podobieństwa między dwoma znaczeniami.
W rzeczywistości współczesne osadzenia wykorzystują tysiące wymiarów – 3072 dla modelu text-embedding-3-large – co pozwala im uchwytać niuanse znacznie subtelniejsze niż nasz prosty, trójosiowy model myślowy.
Słynna analogia
Osadzenia przechwytują również regularne relacje semantyczne, do tego stopnia, że można nimi manipulować za pomocą arytmetyki. Klasyczny przykład wygląda następująco:
vector("King") - vector("Man") + vector("Woman") ≈ vector("Queen")
Innymi słowy, odjęcie komponentu „męskiego“ i dodanie komponentu „żeńskiego“ przesuwa punkt od „Króla“ w stronę „Królowej“. Właściwość ta pokazuje, że abstrakcyjne koncepcje, takie jak płeć, królewskość czy rozmiar, są zakodowane w sposób strukturalny, a nie rozrzucone losowo.
Do czego służą osadzenia?
Pierwszym przypadkiem użycia jest wyszukiwanie semantyczne: zamiast szukać dokładnych słów kluczowych, porównujesz znaczenie zapytania ze znaczeniem dokumentów. Użytkownik, który wpisze „Jak karmić szczeniaka?“, znajdzie artykuł zatytułowany „Karmienie młodego psa“, mimo że oba frazy nie mają żadnych wspólnych słów.
Drugim przypadkiem jest klasyfikacja: ponieważ teksty na ten sam temat naturalnie grupują się razem w przestrzeni, możesz automatycznie sortować zgłoszenia wsparcia, e-maile lub artykuły bez pisania ani jednej ręcznej reguły. Rekomendacja opiera się na tym samym mechanizmie, widzianym z drugiej strony: aby zasugerować użytkownikowi treści, szukasz wektorów najbliższych tym, które już wyświetlił.
Na koniec mamy RAG (Retrieval-Augmented Generation), które wzbogaca odpowiedź modelu LLM o odpowiednie dokumenty znalezione dzięki podobieństwu semantycznemu. Jest to flagowy przypadek użycia tego kursu, łączący wszystkie pozostałe: indeksowanie, porównywanie i rankingowanie.
Co zmieniło się w latach 2025–2026
API Osadzeń OpenAI oferuje obecnie dwa główne modele:
| Model | Wymiary | Zalecane zastosowanie |
|---|---|---|
text-embedding-3-large | 3,072 | Wysoka precyzja, RAG, wyszukiwanie |
text-embedding-3-small | 1,536 | Niższy koszt, klasyfikacja, rekomendacja |
Modele te obsługują redukcję wymiarowości: możesz zażądać krótszego wektora, na przykład o 256 wymiarach, aby zaoszczędzić miejsce na dysku przy kontrolowanej utracie jakości. Korpus składający się z miliona fragmentów zmniejsza się dzięki temu z kilkudziesięciu gigabajtów do zaledwie kilku, co fundamentalnie zmienia wymagania infrastrukturalne.
Podsumowanie
- Osadzenie przekształca tekst w gęsty wektor numeryczny
- Teksty semantycznie podobne mają wektory leżące blisko siebie
- Główne przypadki użycia to wyszukiwanie, klasyfikacja, rekomendacja i RAG
- OpenAI oferuje modele
text-embedding-3-large(3072 wymiary) itext-embedding-3-small(1536 wymiarów)