Personālie ieteikumi
Šajā lapā
Mērķi
- Izveidot ieteikumu sistēmu, kas balstīta uz iegulstījumiem (embeddings)
- Īstenot uz saturu un uz lietotāju balstītus ieteikumus
- Atrisināt „aukstā starta” problēmu un nodrošināt daudzveidību
Princips: Līdzība nozīmē ieteikumu
Klasiska ieteikumu dzinējs analizē uzvedību: „Cilvēki, kuri lasīja šo rakstu, lasīja arī to.” Tam ir nepieciešams liels datu apjoms, lai sniegtu jēdzīgus rezultātus — tā ir „aukstā starta” problēma, kas skar gan jaunus katalogus, gan šorīt publicētus rakstus.
Iegulstījumu pieeja ļauj izvairīties no šīs gaidīšanas. Ja lietotājam patika kāds raksts, tu iesaki tos, kuru iegulstījumi ir vistuvāk. Tas ir uz saturu balstīts ieteikums: tas paļaujas uz saturu, nevis citu lietotāju uzvedību. Raksts, kas publicēts pirms desmit minūtēm un kuru vēl neviens nav atvēris, jau ir ieguvis savu iegulstījumu un uzreiz kļūst ieteicams.
Uz saturu balstīti ieteikumi
Zemāk esošajā katalogā apzināti sajauktas divas pasaules — mašīnmācīšanās vienā pusē un programmatūras inženierija otrā —, lai rezultāti būtu pārbaudāmi. Katrs raksts tiek kodēts, apvienojot tā virsrakstu un saturu: virsraksts kodē tēmu īsumā, saturs nodrošina vārdu krājumu, un tikai viena no šīm daļām izmantošana pasliktina atrasto kaimiņu kvalitāti.
Triks slēpjas rindā scores[idx] = -1. Bez tās raksts, kas ir vislīdzīgākais konkrētam rakstam, vienmēr būtu tas pats raksts ar rezultātu 1,0 — un tu ieteiktu lasītājam to, ko viņš tikko pabeidzis lasīt.
from openai import OpenAI
import numpy as np
client = OpenAI()
# Rakstu katalogs
articles = [
{"id": "a1", "titre": "Introduction au machine learning",
"contenu": "Le ML permet aux machines d'apprendre à partir de données..."},
{"id": "a2", "titre": "Deep learning avec PyTorch",
"contenu": "PyTorch est un framework de deep learning flexible..."},
{"id": "a3", "titre": "Déployer une API REST avec FastAPI",
"contenu": "FastAPI est un framework Python pour créer des APIs..."},
{"id": "a4", "titre": "Les bases de PostgreSQL",
"contenu": "PostgreSQL est un SGBD relationnel open source..."},
{"id": "a5", "titre": "Réseaux de neurones convolutifs",
"contenu": "Les CNN sont utilisés pour la vision par ordinateur..."},
{"id": "a6", "titre": "NLP avec les transformers",
"contenu": "Les transformers ont révolutionné le traitement du langage..."},
]
# Kataloga indeksēšana
textes = [f"{a['titre']}. {a['contenu']}" for a in articles]
response = client.embeddings.create(
input=textes, model="text-embedding-3-large"
)
catalogue_embs = np.array(
[d.embedding for d in sorted(response.data, key=lambda x: x.index)]
)
def recommander_similaires(
article_id: str,
k: int = 3
) -> list[dict]:
"""Iesaka k vislīdzīgākos rakstus."""
idx = next(i for i, a in enumerate(articles) if a["id"] == article_id)
article_emb = catalogue_embs[idx]
# Līdzība ar visiem pārējiem rakstiem
scores = catalogue_embs @ article_emb
scores[idx] = -1 # Izslēdz pašu rakstu
top_k = np.argsort(scores)[-k:][::-1]
return [
{"article": articles[i], "score": float(scores[i])}
for i in top_k
]
# Lietotājs izlasa „Ievads mašīnmācīšanā"
recos = recommander_similaires("a1", k=3)
print("You read: Introduction au machine learning")
print("Recommendations:")
for r in recos:
print(f" [{r['score']:.3f}] {r['article']['titre']}")
Lietotāja profils, balstīts uz vēsturi
Ieteikumu sniegšana, balstoties tikai uz vienu rakstu, ātri ierobežo lasītāju. Lai ņemtu vērā visu viņa ceļojumu, tu izveido profila vektoru, apvienojot to rakstu iegulstījumus, kurus viņš ir apskatījis: šis vidējais punkts attēlo viņa intereses tajā pašā telpā, kurā atrodas katalogs, un pēc tam tu meklē rakstus, kas atrodas vistuvāk šim punktam.
Tomēr lasījumiem pirms sešiem mēnešiem nevajadzētu svērt tikpat daudz kā vakardienas lasījumiem. To risina svēruma pielāgošana pēc aktualitātes: koeficients 0.5 ** (n - 1 - i) uz pusi samazina svaru katrā solī atpakaļ vēsturē. Lasītājs, kurš ilgu laiku sekoja mašīnmācīšanās tēmām, bet nesen pārgāja uz API, redzēs, ka viņa ieteikumi mainās jau pēc dažiem rakstiem, nevis paliek iesaldēti. Beigu normalizācija atgriež profilu vienības sfērā, kas ir priekšnosacījums, lai skalārais reizinājums ar katalogu būtu pareiza kosinusa līdzība.
def creer_profil_utilisateur(
articles_consultes: list[str],
poids_recency: bool = True
) -> np.ndarray:
"""Izveido profila vektoru, balstoties uz vēsturi."""
indices = [
i for i, a in enumerate(articles)
if a["id"] in articles_consultes
]
if not indices:
return np.zeros(catalogue_embs.shape[1])
embs = catalogue_embs[indices]
if poids_recency:
# Neseni raksti tiek vērtēti augstāk
n = len(indices)
poids = np.array([0.5 ** (n - 1 - i) for i in range(n)])
poids /= poids.sum()
profil = np.average(embs, axis=0, weights=poids)
else:
profil = np.mean(embs, axis=0)
# Normalizēšana
profil /= np.linalg.norm(profil)
return profil
def recommander_pour_utilisateur(
articles_consultes: list[str],
k: int = 3
) -> list[dict]:
"""Iesaka rakstus, balstoties uz lietotāja profilu."""
profil = creer_profil_utilisateur(articles_consultes)
scores = catalogue_embs @ profil
# Izslēdz jau apskatītos rakstus
for i, a in enumerate(articles):
if a["id"] in articles_consultes:
scores[i] = -1
top_k = np.argsort(scores)[-k:][::-1]
return [
{"article": articles[i], "score": float(scores[i])}
for i in top_k
]
# Lietotājs, kurš lasīja par ML un dziļo mācīšanos
recos = recommander_pour_utilisateur(["a1", "a2"], k=3)
print("History: ML + PyTorch")
print("Recommendations:")
for r in recos:
print(f" [{r['score']:.3f}] {r['article']['titre']}")
Ieteikumi, izmantojot teksta vaicājumu
Uzvedības profils ignorē vienu lietu, ko lietotājs zina labāk par tevi: ko viņš meklē šodien. Tā kā katalogs jau ir kodēts, tev tikai jāiekodē brīvas formas teksta frāze, lai veiktu vaicājumu tajā pašā telpā. Frāze „Es vēlos iemācīties izveidot API” parādīs FastAPI rakstu, pat ja lasītāja vēsturē ir tikai mašīnmācīšanās tēmas. Tas ir arī vienīgais variants apmeklētājam, par kuru tev nav nekādas informācijas.
def recommander_par_interet(
description: str,
k: int = 3
) -> list[dict]:
"""Iesaka rakstus, balstoties uz interešu aprakstu."""
query_emb = client.embeddings.create(
input=description,
model="text-embedding-3-large"
).data[0].embedding
scores = catalogue_embs @ np.array(query_emb)
top_k = np.argsort(scores)[-k:][::-1]
return [
{"article": articles[i], "score": float(scores[i])}
for i in top_k
]
# „Es vēlos iemācīties izveidot tīmekļa API Python valodā"
recos = recommander_par_interet("créer des APIs web en Python")
for r in recos:
print(f" [{r['score']:.3f}] {r['article']['titre']}")
Ieteikumu daudzveidošana
Šķirošana pēc tīras līdzības rada redzamu trūkumu ražošanas vidē: pieci ieteikumi izskatās vienādi. CNN raksta lasītājs saņem piecas datorredzes variācijas, lai gan otrais vai trešais ieteikums varētu atvērt durvis uz transformatoriem.
MMR (Maximal Marginal Relevance) to novērš, atlasot rakstus pa vienam: katrā solī tas izvēlas to, kas maksimizē atbilstību vaicājumam, mīnus maksimālo redundanci ar jau atlasītajiem. Parametrs lambda_param nosaka kompromisu — pie 1,0 tu iegūsti klasisku šķirošanu, pie 0,5 tu spēcīgi favorizē daudzveidību, un noklusējuma vērtība 0,7 nodrošina atbilstošu un „elpojošu” sarakstu.
def recommander_divers(
query_emb: np.ndarray,
k: int = 5,
lambda_param: float = 0.7
) -> list[int]:
"""MMR: līdzsvaro atbilstību un daudzveidību."""
scores = catalogue_embs @ query_emb
candidats = list(range(len(articles)))
selectionnes = []
for _ in range(k):
if not candidats:
break
meilleur_score = -float("inf")
meilleur_idx = -1
for idx in candidats:
# Atbilstība
pertinence = scores[idx]
# Maksimālā redundance ar jau atlasītajiem
if selectionnes:
sims_selectionnes = [
float(np.dot(catalogue_embs[idx], catalogue_embs[s]))
for s in selectionnes
]
redondance = max(sims_selectionnes)
else:
redondance = 0
# MMR rezultāts
mmr_score = (
lambda_param * pertinence
- (1 - lambda_param) * redondance
)
if mmr_score > meilleur_score:
meilleur_score = mmr_score
meilleur_idx = idx
selectionnes.append(meilleur_idx)
candidats.remove(meilleur_idx)
return selectionnes
Galvenās atziņas
- Iegulstījumi ļauj veikt ieteikumus, balstoties uz satura līdzību
- Lietotāja profils tiek veidots, aprēķinot apskatīto iegulstījumu vidējo vērtību
- Svēruma pielāgošana pēc aktualitātes piešķir lielāku nozīmi neseniem skatījumiem
- MMR daudzveido ieteikumus, sodot par redundanci