协同过滤推荐系统可通过以下步骤用python实现:1. 数据准备:获取用户-物品评分数据,如movielens等;2. 构建用户-物品矩阵,使用pandas的pivot方法转换数据结构;3. 计算相似度,基于用户或物品,常用余弦相似度或皮尔逊相关系数;4. 预测评分并生成推荐,通过加权平均相似用户评分得出候选列表;5. 注意事项包括冷启动问题、评分标准化、稀疏性优化及性能优化。每一步均需结合代码实现并根据实际场景调整策略以提升效果。
推荐系统是现在很多平台的核心功能之一,比如电商、视频网站、音乐平台等。Python 作为数据处理和算法开发的主力语言,在构建推荐系统方面非常合适。协同过滤(Collaborative Filtering)是最经典的推荐算法之一,实现起来也不算太难。
下面我来一步步说说怎么用 Python 实现一个简单的协同过滤推荐系统。
1. 数据准备:用户-物品评分矩阵
协同过滤的基础是用户对物品的评分数据。最常见的是“用户-物品-评分”的三列结构,比如:
立即学习“Python免费学习笔记(深入)”;
user_id | item_id | rating --------|---------|------- 1 | A | 5 1 | B | 3 2 | A | 4 ...
你可以使用公开的数据集,例如 MovieLens,也可以自己整理类似格式的数据。
常见问题:评分缺失太多怎么办? 答案很简单:没关系,协同过滤本来就是用来处理稀疏矩阵的。
2. 构建用户-物品评分矩阵
有了原始数据之后,第一步是把它转成一个二维矩阵,行表示用户,列表示物品,值是评分。
可以用 Pandas 轻松完成这一步:
import pandas as pd # 假设你已经加载了数据到 df,包含 user_id, item_id, rating ratings_matrix = df.pivot(index='user_id', columns='item_id', values='rating')
这时候你会得到一个看起来像这样的矩阵:
item_id A B C user_id 1 5.0 3.0 NaN 2 4.0 NaN 2.0 3 NaN 4.0 5.0
3. 计算相似度:用户之间 or 物品之间?
协同过滤分为两种:
- 基于用户的协同过滤(User-CF):找和当前用户兴趣相近的其他用户,然后推荐他们喜欢但当前用户没看过的东西。
- 基于物品的协同过滤(Item-CF):找和目标物品相似的其他物品,推荐给喜欢过这些相似物品的用户。
这里以 User-CF 为例,计算用户之间的相似度常用方法是皮尔逊相关系数或余弦相似度。
from sklearn.metrics.pairwise import cosine_similarity # 填充 NaN 为 0,方便计算相似度 similarity_matrix = cosine_similarity(ratings_matrix.fillna(0))
这样你就得到了一个用户之间的相似度矩阵。
4. 预测评分并生成推荐
接下来就是预测某个用户对未评分物品的兴趣程度。公式大致如下:
$$ hat{r}_{ui} = bar{r}u + frac{sum{v in N(u)} text{sim}(u,v) cdot (r_{vi} – bar{r}v)}{sum{v in N(u)} |text{sim}(u,v)|} $$
不过在实际代码中可以简化处理,比如先找出最相似的几个用户,再根据他们的评分加权平均。
举个例子:
# 找出与用户1最相似的前3个用户 similar_users = similarity_df[1].sort_values(ascending=False)[1:4].index # 收集这些用户评价过的电影,但用户1没有看过的 candidate_items = ratings_matrix.loc[similar_users].mean(axis=0).sort_values(ascending=False) # 排除用户1已经评过分的项目 user_rated = ratings_matrix.loc[1].dropna().index recommendations = candidate_items.drop(user_rated, errors='ignore')
最终 recommendations 就是你想推荐的内容。
5. 注意事项 & 小技巧
- 冷启动问题:新用户或新物品没有评分,无法推荐。这是协同过滤的硬伤,只能配合其他策略缓解。
- 评分标准化:有些用户打分偏高,有些偏低,建议做去中心化处理(比如减去用户的平均评分)。
- 稀疏性优化:矩阵太大太稀疏时,可以用稀疏矩阵(scipy.sparse)节省内存。
- 性能优化:如果用户/物品太多,直接两两比较会很慢,可以考虑使用近似最近邻(ANN)加速。
基本上就这些步骤了。协同过滤虽然简单,但效果不错,尤其适合入门推荐系统。如果你能结合一些内容特征或者上下文信息,效果还能更上一层楼。
评论(已关闭)
评论已关闭