Isikupärastatud soovitused
Sellel lehel
Eesmärgid
- Ehita soovitussüsteem, mis põhineb manustel (embeddings)
- Rakenda sisupõhine ja kasutajapõhine soovitamine
- Lahenda külma stardi probleem ja taga mitmekesisus
Põhimõte: Sarnasus võrdub soovitusega
Klassikaline soovitussüsteem jälgib käitumist: „Inimesed, kes lugesid seda artiklit, lugesid ka seda.“ Enne kasulike järelduste tegemist on vaja palju liiklust – see on külma stardi probleem, mis tabab nii uusi katalooge kui ka täna hommikul avaldatud artikleid.
Manuste lähenemisviis jätab selle ooteaja vahele. Kui kasutajale meeldis artikkel, soovitad sa neid, mille manused on kõige lähemal. See on sisupõhine soovitamine: see tugineb sisule, mitte teiste kasutajate käitumisele. Artikkel, mis avaldati kümme minutit tagasi ja mida ükski lugeja pole veel avanud, omab juba manust ja muutub koheselt soovitatavaks.
Sisupõhine soovitamine
Allpool olev kataloog segab tahtlikult kahte maailma – masinõpe ühel pool ja tarkvaratehnika teisel –, et tulemused oleksid kontrollitavad. Iga artikkel kodeeritakse, liites selle pealkirja ja sisu: pealkiri püüab teema lühidalt, sisu pakub sõnavara ja ühe kasutamine ilma teiseta halvendab leitud naabrite kvaliteeti.
Nipp peitub reas scores[idx] = -1. Ilma selleta oleks artikliga kõige sarnasem artikkel alati see ise, skooriga 1,0 – ja sa soovitaksid lugejale seda, mida ta just lõpetas.
from openai import OpenAI
import numpy as np
client = OpenAI()
# Article catalog
articles = [
{"id": "a1", "titre": "Introduction au machine learning",
"contenu": "Le ML permet aux machines d'apprendre à partir de données..."},
{"id": "a2", "titre": "Deep learning avec PyTorch",
"contenu": "PyTorch est un framework de deep learning flexible..."},
{"id": "a3", "titre": "Déployer une API REST avec FastAPI",
"contenu": "FastAPI est un framework Python pour créer des APIs..."},
{"id": "a4", "titre": "Les bases de PostgreSQL",
"contenu": "PostgreSQL est un SGBD relationnel open source..."},
{"id": "a5", "titre": "Réseaux de neurones convolutifs",
"contenu": "Les CNN sont utilisés pour la vision par ordinateur..."},
{"id": "a6", "titre": "NLP avec les transformers",
"contenu": "Les transformers ont révolutionné le traitement du langage..."},
]
# Index the catalog
textes = [f"{a['titre']}. {a['contenu']}" for a in articles]
response = client.embeddings.create(
input=textes, model="text-embedding-3-large"
)
catalogue_embs = np.array(
[d.embedding for d in sorted(response.data, key=lambda x: x.index)]
)
def recommander_similaires(
article_id: str,
k: int = 3
) -> list[dict]:
"""Recommends the k most similar articles."""
idx = next(i for i, a in enumerate(articles) if a["id"] == article_id)
article_emb = catalogue_embs[idx]
# Similarity with all other articles
scores = catalogue_embs @ article_emb
scores[idx] = -1 # Exclude the article itself
top_k = np.argsort(scores)[-k:][::-1]
return [
{"article": articles[i], "score": float(scores[i])}
for i in top_k
]
# A user reads "Introduction to ML"
recos = recommander_similaires("a1", k=3)
print("You read: Introduction au machine learning")
print("Recommendations:")
for r in recos:
print(f" [{r['score']:.3f}] {r['article']['titre']}")
Kasutajaprofiil ajaloo põhjal
Ühe artikli põhjal soovitamine lõksutab lugeja kiiresti. Et arvestada kogu tema teekonda, lood profiilivektori, kombineerides vaadatud artiklite manused: see keskmine punkt esindab tema huvisid samas ruumis kui kataloog ja seejärel otsid sellele punktile kõige lähemal olevaid artikleid.
Kuus kuud tagasi loetud artiklid ei tohiks siiski kaaluda sama palju kui eilsed. Ajaline kaalumine lahendab selle: tegur 0.5 ** (n - 1 - i) poolitab kaalu iga sammu võrra ajaloos tagasi minnes. Lugeja, kes on pikka aega jälginud masinõpet, kuid hiljuti API-dele üle läinud, näeb oma soovituste nihkumist mõne artikli jooksul, selle asemel et need jääksid külmunuks. Lõplik normaliseerimine toob profiili tagasi ühiksfäärile, mis on eelduseks, et skalaarkorrutis kataloogiga oleks korrektne koosinussarnasus.
def creer_profil_utilisateur(
articles_consultes: list[str],
poids_recency: bool = True
) -> np.ndarray:
"""Creates a profile vector from history."""
indices = [
i for i, a in enumerate(articles)
if a["id"] in articles_consultes
]
if not indices:
return np.zeros(catalogue_embs.shape[1])
embs = catalogue_embs[indices]
if poids_recency:
# Recent articles count more
n = len(indices)
poids = np.array([0.5 ** (n - 1 - i) for i in range(n)])
poids /= poids.sum()
profil = np.average(embs, axis=0, weights=poids)
else:
profil = np.mean(embs, axis=0)
# Normalize
profil /= np.linalg.norm(profil)
return profil
def recommander_pour_utilisateur(
articles_consultes: list[str],
k: int = 3
) -> list[dict]:
"""Recommends articles based on the user profile."""
profil = creer_profil_utilisateur(articles_consultes)
scores = catalogue_embs @ profil
# Exclude already viewed articles
for i, a in enumerate(articles):
if a["id"] in articles_consultes:
scores[i] = -1
top_k = np.argsort(scores)[-k:][::-1]
return [
{"article": articles[i], "score": float(scores[i])}
for i in top_k
]
# User who read ML and deep learning
recos = recommander_pour_utilisateur(["a1", "a2"], k=3)
print("History: ML + PyTorch")
print("Recommendations:")
for r in recos:
print(f" [{r['score']:.3f}] {r['article']['titre']}")
Soovitamine tekstipäringuga
Käitumuslik profiil ignoreerib üht asja, mida kasutaja teab sinust paremini: mida ta täna otsib. Kuna kataloog on juba kodeeritud, pead lihtsalt kodeerima vaba tekstiga fraasi, et pärida sama ruumi. „Soovin õppida, kuidas luua API-sid“ toob esile FastAPI artikli, isegi kui lugeja ajaloos on ainult masinõpe. See on ka ainus võimalus külastaja jaoks, kellest sa midagi ei tea.
def recommander_par_interet(
description: str,
k: int = 3
) -> list[dict]:
"""Recommends articles based on an interest description."""
query_emb = client.embeddings.create(
input=description,
model="text-embedding-3-large"
).data[0].embedding
scores = catalogue_embs @ np.array(query_emb)
top_k = np.argsort(scores)[-k:][::-1]
return [
{"article": articles[i], "score": float(scores[i])}
for i in top_k
]
# "I want to learn how to create APIs"
recos = recommander_par_interet("créer des APIs web en Python")
for r in recos:
print(f" [{r['score']:.3f}] {r['article']['titre']}")
Soovituste mitmekesistamine
Puhta sarnasuse järgi sorteerimine tekitab tootmises nähtava vea: viis soovitust näevad välja identsed. CNN-i artikli lugeja saab viis arvutinägemise varianti, kuigi teine või kolmas ettepanek oleks võinud avada ukse transformeritele.
MMR (Maximal Marginal Relevance) parandab seda, valides artikleid ükshaaval: igal käigul valib see selle, mis maksimeerib asjakohasust päringule, miinus maksimaalne ülearusus juba valitutega. lambda_param määrab kompromissi – väärtusel 1,0 saad klassikalise sorteerimise, väärtusel 0,5 eelistad tugevalt mitmekesisust ja vaikimisi väärtus 0,7 annab asjakohase nimekirja, mis „hingab“.
def recommander_divers(
query_emb: np.ndarray,
k: int = 5,
lambda_param: float = 0.7
) -> list[int]:
"""MMR: balances relevance and diversity."""
scores = catalogue_embs @ query_emb
candidats = list(range(len(articles)))
selectionnes = []
for _ in range(k):
if not candidats:
break
meilleur_score = -float("inf")
meilleur_idx = -1
for idx in candidats:
# Relevance
pertinence = scores[idx]
# Max redundancy with already selected
if selectionnes:
sims_selectionnes = [
float(np.dot(catalogue_embs[idx], catalogue_embs[s]))
for s in selectionnes
]
redondance = max(sims_selectionnes)
else:
redondance = 0
# MMR Score
mmr_score = (
lambda_param * pertinence
- (1 - lambda_param) * redondance
)
if mmr_score > meilleur_score:
meilleur_score = mmr_score
meilleur_idx = idx
selectionnes.append(meilleur_idx)
candidats.remove(meilleur_idx)
return selectionnes
Peamised punktid
- Manused võimaldavad sovitada sisu sarnasuse põhjal
- Kasutajaprofiil luuakse vaadatud manuste keskmistamisega
- Ajaline kaalumine annab hiljutistele vaatamistele suurema kaalu
- MMR mitmekesistab soovitusi, karistades ülearusust