Персонализирани препоръки
На тази страница
Цели
- Изграждане на система за препоръки, базирана на вграждания (embeddings)
- Внедряване на препоръки, базирани на съдържанието и на потребителя
- Управление на проблема със „студения старт“ и осигуряване на разнообразие
Принципът: Сходството е равно на препоръка
Класическият двигател за препоръки наблюдава поведението: „Хората, които прочетоха тази статия, прочетоха и онази.“ Той се нуждае от огромен трафик, преди да може да каже нещо полезно – това е проблемът със „студения старт“, който засяга както новите каталози, така и статиите, публикувани тази сутрин.
Подходът с вгражданията пропуска това чакане. Ако потребителят е харесал дадена статия, Вие препоръчвате тези с най-близки вграждания. Това е препоръка, базирана на съдържанието: тя разчита на самото съдържание, а не на поведението на други потребители. Статия, публикувана преди десет минути, която все още никой читател не е отворил, вече има вграждане и става подходяща за препоръка незабавно.
Препоръки, базирани на съдържанието
Каталогът по-долу умишлено смесва два свята – машинно обучение от едната страна и софтуерно инженерство от другата, така че резултатите да са проверими. Всяка статия се кодира чрез конкатенация на заглавието и съдържанието ѝ: заглавието улавя същността на темата, съдържанието предоставя речника, а използването само на едното без другото влошава качеството на намерените съседи.
Трикът се крие в реда scores[idx] = -1. Без него статията, най-подобна на дадена статия, винаги щеше да бъде самата тя със скорост 1.0 – и Вие щяхте да препоръчвате на читателя онова, което току-що е прочел.
from openai import OpenAI
import numpy as np
client = OpenAI()
# Article catalog
articles = [
{"id": "a1", "titre": "Introduction au machine learning",
"contenu": "Le ML permet aux machines d'apprendre à partir de données..."},
{"id": "a2", "titre": "Deep learning avec PyTorch",
"contenu": "PyTorch est un framework de deep learning flexible..."},
{"id": "a3", "titre": "Déployer une API REST avec FastAPI",
"contenu": "FastAPI est un framework Python pour créer des APIs..."},
{"id": "a4", "titre": "Les bases de PostgreSQL",
"contenu": "PostgreSQL est un SGBD relationnel open source..."},
{"id": "a5", "titre": "Réseaux de neurones convolutifs",
"contenu": "Les CNN sont utilisés pour la vision par ordinateur..."},
{"id": "a6", "titre": "NLP avec les transformers",
"contenu": "Les transformers ont révolutionné le traitement du langage..."},
]
# Index the catalog
textes = [f"{a['titre']}. {a['contenu']}" for a in articles]
response = client.embeddings.create(
input=textes, model="text-embedding-3-large"
)
catalogue_embs = np.array(
[d.embedding for d in sorted(response.data, key=lambda x: x.index)]
)
def recommander_similaires(
article_id: str,
k: int = 3
) -> list[dict]:
"""Recommends the k most similar articles."""
idx = next(i for i, a in enumerate(articles) if a["id"] == article_id)
article_emb = catalogue_embs[idx]
# Similarity with all other articles
scores = catalogue_embs @ article_emb
scores[idx] = -1 # Exclude the article itself
top_k = np.argsort(scores)[-k:][::-1]
return [
{"article": articles[i], "score": float(scores[i])}
for i in top_k
]
# A user reads "Introduction to ML"
recos = recommander_similaires("a1", k=3)
print("You read: Introduction au machine learning")
print("Recommendations:")
for r in recos:
print(f" [{r['score']:.3f}] {r['article']['titre']}")
Потребителски профил въз основа на историята
Препоръчването въз основа на една единствена статия бързо затваря читателя в капан. За да отчетете целия му път, Вие изграждате вектор на профила, комбинирайки вгражданията на статиите, които е разглеждал: тази средна точка представлява неговите интереси в същото пространство като каталога, и след това търсите статиите, най-близки до тази точка.
Въпреки това, прочитите от преди шест месеца не трябва да тежат толкова, колкото вчерашните. Претеглянето според давността решава този проблем: факторът 0.5 ** (n - 1 - i) намалява наполовина теглото при всяка стъпка назад в историята. Читател, който дълго време е следвал машинното обучение, но наскоро е преминал към API, ще види как препоръките му се изместват в рамките на няколко статии, вместо да останат замръзнали. Крайното нормализиране връща профила към единичната сфера, което е условие скаларното произведение с каталога да представлява правилно косинусово сходство.
def creer_profil_utilisateur(
articles_consultes: list[str],
poids_recency: bool = True
) -> np.ndarray:
"""Creates a profile vector from history."""
indices = [
i for i, a in enumerate(articles)
if a["id"] in articles_consultes
]
if not indices:
return np.zeros(catalogue_embs.shape[1])
embs = catalogue_embs[indices]
if poids_recency:
# Recent articles count more
n = len(indices)
poids = np.array([0.5 ** (n - 1 - i) for i in range(n)])
poids /= poids.sum()
profil = np.average(embs, axis=0, weights=poids)
else:
profil = np.mean(embs, axis=0)
# Normalize
profil /= np.linalg.norm(profil)
return profil
def recommander_pour_utilisateur(
articles_consultes: list[str],
k: int = 3
) -> list[dict]:
"""Recommends articles based on the user profile."""
profil = creer_profil_utilisateur(articles_consultes)
scores = catalogue_embs @ profil
# Exclude already viewed articles
for i, a in enumerate(articles):
if a["id"] in articles_consultes:
scores[i] = -1
top_k = np.argsort(scores)[-k:][::-1]
return [
{"article": articles[i], "score": float(scores[i])}
for i in top_k
]
# User who read ML and deep learning
recos = recommander_pour_utilisateur(["a1", "a2"], k=3)
print("History: ML + PyTorch")
print("Recommendations:")
for r in recos:
print(f" [{r['score']:.3f}] {r['article']['titre']}")
Препоръки с текстово заявка
Поведенческият профил игнорира едно нещо, което потребителят знае по-добре от Вас: какво точно търси днес. Тъй като каталогът вече е кодиран, трябва само да кодирате фраза в свободен текст, за да направите заявка в същото пространство. „Искам да науча как да създавам API“ ще изведе статията за FastAPI, дори историята на читателя да съдържа само машинно обучение. Това също така е единствената налична опция за посетител, за когото не знаете нищо.
def recommander_par_interet(
description: str,
k: int = 3
) -> list[dict]:
"""Recommends articles based on an interest description."""
query_emb = client.embeddings.create(
input=description,
model="text-embedding-3-large"
).data[0].embedding
scores = catalogue_embs @ np.array(query_emb)
top_k = np.argsort(scores)[-k:][::-1]
return [
{"article": articles[i], "score": float(scores[i])}
for i in top_k
]
# "I want to learn how to create APIs"
recos = recommander_par_interet("créer des APIs web en Python")
for r in recos:
print(f" [{r['score']:.3f}] {r['article']['titre']}")
Разнообразяване на препоръките
Сортирането чрез чисто сходство произвежда видим дефект в продукционна среда: петте препоръки изглеждат еднакви. Читател на статия за CNN получава пет варианта на компютърно зрение, когато втората или третата препоръка биха могли да отворят вратата към трансформерите.
MMR (Maximal Marginal Relevance) решава това, като избира статиите една по една: на всеки ход той избира тази, която максимизира релевантността спрямо заявката, минус максималната излишност спрямо вече избраните. Параметърът lambda_param задава баланса – при 1.0 получавате класическо сортиране, при 0.5 силно благоприятствате разнообразието, а стойността по подразбиране от 0.7 дава релевантен списък, който „диша“.
def recommander_divers(
query_emb: np.ndarray,
k: int = 5,
lambda_param: float = 0.7
) -> list[int]:
"""MMR: balances relevance and diversity."""
scores = catalogue_embs @ query_emb
candidats = list(range(len(articles)))
selectionnes = []
for _ in range(k):
if not candidats:
break
meilleur_score = -float("inf")
meilleur_idx = -1
for idx in candidats:
# Relevance
pertinence = scores[idx]
# Max redundancy with already selected
if selectionnes:
sims_selectionnes = [
float(np.dot(catalogue_embs[idx], catalogue_embs[s]))
for s in selectionnes
]
redondance = max(sims_selectionnes)
else:
redondance = 0
# MMR Score
mmr_score = (
lambda_param * pertinence
- (1 - lambda_param) * redondance
)
if mmr_score > meilleur_score:
meilleur_score = mmr_score
meilleur_idx = idx
selectionnes.append(meilleur_idx)
candidats.remove(meilleur_idx)
return selectionnes
Ключови изводи
- Вгражданията позволяват препоръки въз основа на сходство на съдържанието
- Потребителският профил се изгражда чрез осредняване на прегледаните вграждания
- Претеглянето според давността придава по-голяма тежест на скорошните прегледи
- MMR разнообразява препоръките, като наказва излишността