<p>两种最普遍的推荐系统的类型是基于内容和协同过滤（CF）。协同过滤基于用户对产品的态度产生推荐，基于内容的推荐系统基于物品属性的相似性进行推荐。CF可以分为基于内存的协同过滤和基于模型的协同过滤。</p>    <p>我们将使用MovieLens数据集，它是在实现和测试推荐引擎时所使用的最常见的数据集之一，包含来自943个用户以及精选的1682部电影的评分。 </p>    <p>导入numpy和pandas库</p>    <pre>  <code class="language-python">import numpy as np  import pandas as pd  </code></pre>    <p>读入u.data数据文件</p>    <pre>  <code class="language-python">header = ['user_id', 'item_id', 'rating', 'timestamp']  df = pd.read_csv('u.data', sep = '\t', names = header)  </code></pre>    <p>查看用户和电影的数量</p>    <pre>  <code class="language-python">n_users = df.user_id.unique().shape[0]  n_items = df.item_id.unique().shape[0]  print 'Number of users = ' + str(n_users) + ' | Number of movies = ' + str(n_items)  </code></pre>    <pre>  <code class="language-python">Number of users = 943 | Number of movies = 1682  </code></pre>    <p>使用scikit-learn库将数据集分割成测试集和训练集，调用 Cross_validation.train_test_split 根据测试样本的比例(test_size)将数据混洗并分割成两个数据集。</p>    <pre>  <code class="language-python">from sklearn import cross_validation as cv  train_data,test_data = cv.train_test_split(df, test_size = 0.25)  </code></pre>    <p>##基于内存的协同过滤</p>    <p>基于内存的协同过滤方法可以分为两个部分：用户－产品协同过滤和产品－产品协同过滤。用户－产品协同过滤将选取一个特定的用户，基于打分的相似性发现类似于该用户的用户，并推荐那些相似用户喜欢的产品。产品－产品协同过滤会选取一个产品，发现喜欢该产品的用户，并找到这些相似用户还喜欢的其它产品。</p>    <p>用户－产品协同过滤：“喜欢这东西的人也喜欢……”</p>    <p>产品－产品协同过滤：“像你一样的人也喜欢……”</p>    <p>在这两种情况下，从整个数据集构建一个用户产品矩阵。</p>    <p>用户产品矩阵的例子：</p>    <p>计算相似性，并创建一个相似性矩阵。</p>    <p>在产品－产品协同过滤中的产品之间的相似性是通过观察所有对两个产品打分的用户来度量的。</p>    <p>在用户－产品协同过滤中的用户之间的相似性是通过观察所有同时被两个用户打分的产品来度量的。</p>    <p>通常用于推荐系统中的距离矩阵是余弦相似性，其中，打分被看成n维空间中的向量，而相似性是基于这些向量之间的角度进行计算的。用户a和m的余弦相似性可以用下面的公式进行计算：</p>    <p><img src="https://simg.open-open.com/show/2404791b7acfdbdbc4d76da28f607f6e.gif"></p>    <p>要计算产品m和b之间的相似性，使用公式：</p>    <p><img src="https://simg.open-open.com/show/ac2397e3e365061d39c05dbbbeac6f0e.gif"></p>    <p>创建用户产品矩阵，针对测试数据和训练数据，创建两个矩阵：</p>    <pre>  <code class="language-python">train_data_matrix = np.zeros((n_users,n_items))  for line in train_data.itertuples():      train_data_matrix[line[1]-1, line[2]-1] = line[3]    test_data_matrix = np.zeros((n_users, n_items))  for line in test_data.itertuples():      test_data_matrix[line[1]-1, line[2]-1] = line[3]  </code></pre>    <p>使用sklearn的pairwise_distances函数来计算余弦相似性。</p>    <pre>  <code class="language-python">from sklearn.metrics.pairwise import pairwise_distances  user_similarity = pairwise_distances(train_data_matrix, metric = "cosine")  item_similarity = pairwise_distances(train_data_matrix.T, metric = "cosine")  </code></pre>    <p>已经创建了相似性矩阵：user_similarity和item_similarity，因此，可以通过基于用户的CF应用下面的公式做出预测：</p>    <p>可以将用户k和用户a之间的相似性看成权重，乘以相似用户a(校正的平均评分用户)的评分，这里需要规范化该值，使得打分位于1到5之间，最后对尝试预测的用户的平均评分求和。</p>    <p>基于产品的CF应用下面的公司进行预测，此时无需纠正用户的平均打分</p>    <pre>  <code class="language-python">def predict(rating, similarity, type = 'user'):      if type == 'user':          mean_user_rating = rating.mean(axis = 1)          rating_diff = (rating - mean_user_rating[:,np.newaxis])          pred = mean_user_rating[:,np.newaxis] + similarity.dot(rating_diff) / np.array([np.abs(similarity).sum(axis=1)]).T      elif type == 'item':          pred = rating.dot(similarity) / np.array([np.abs(similarity).sum(axis=1)])      return pred  </code></pre>    <pre>  <code class="language-python">item_prediction = predict(train_data_matrix, item_similarity, type ='item')  user_prediction = predict(train_data_matrix, user_similarity, type ='user')  </code></pre>    <p>####评估</p>    <p>这里采用均方根误差(RMSE)来度量预测评分的准确性</p>    <p>可以使用sklearn的mean_square_error(MSE)函数，其中RMSE仅仅是MSE的平方根。</p>    <pre>  <code class="language-python">from sklearn.metrics import mean_squared_error  from math import sqrt  defrmse(prediction, ground_truth):      prediction = prediction[ground_truth.nonzero()].flatten()      ground_truth = ground_truth[ground_truth.nonzero()].flatten()      return sqrt(mean_squared_error(prediction, ground_truth))  </code></pre>    <pre>  <code class="language-python">print 'User based CF RMSE: ' + str(rmse(user_prediction, test_data_matrix))  print 'Item based CF RMSe: ' + str(rmse(item_prediction, test_data_matrix))  </code></pre>    <pre>  <code class="language-python">User basedCF RMSE: 3.12466203536  Item basedCF RMSe: 3.45056350625  </code></pre>    <p>可以看出，基于内存的算法很容易实现并产生合理的预测质量。</p>    <p>##基于模型的协同过滤</p>    <p>基于模型的协同过滤是基于矩阵分解(MF)的，矩阵分解广泛应用于推荐系统中，它比基于内存的CF有更好的扩展性和稀疏性。MF的目标是从已知的评分中学习用户的潜在喜好和产品的潜在属性，随后通过用户和产品的潜在特征的点积来预测未知的评分。</p>    <p>计算MovieLens数据集的稀疏度：</p>    <pre>  <code class="language-python">sparsity = round(1.0 - len(df) / float(n_users*n_items),3)  print 'The sparsity level of MovieLen100K is ' + str(sparsity * 100) + '%'  </code></pre>    <pre>  <code class="language-python">The sparsity level of MovieLen100K is 93.7%  </code></pre>    <p>###SVD</p>    <p>一般的方程可以表示为：</p>    <p><img src="https://simg.open-open.com/show/7540226eeee7a03aa37bb5b9c22e85c9.gif"></p>    <p>给定m * n矩阵X:</p>    <p>U 是一个(m * r)正交矩阵</p>    <p>S 是一个对角线上为非负实数的(r * r)对角矩阵</p>    <p>V^T是一个(r * n)正交矩阵</p>    <p>S的对角线上的元素被称为X的奇异值。</p>    <p>阵X可以被分解成U，S和V。U矩阵表示对应于隐藏特性空间中的用户的特性矩阵，而V矩阵表示对应于隐藏特性空间中的产品的特性矩阵。</p>    <p>现在，可以通过U, S和V^T的点积进行预测了：</p>    <pre>  <code class="language-python">import scipy.sparse as sp  from scipy.sparse.linalg import svds    u, s, vt = svds(train_data_matrix, k = 20)  s_diag_matrix = np.diag(s)  x_pred = np.dot(np.dot(u,s_diag_matrix),vt)    print 'User-based CF MSE: ' + str(rmse(x_pred, test_data_matrix))  </code></pre>    <pre>  <code class="language-python">User-basedCF MSE: 2.72035726617  </code></pre>    <p>总结：</p>    <p>实现了简单的协同过滤方法，包括基于内存的CF和基于模型的CF</p>    <p>基于内存的模型是基于产品或用户之间的相似性，这里采用余弦相似性。</p>    <p>基于模型的CD是基于矩阵分解，采用SVD来分解矩阵</p>    <p>标准的协同过滤方法在面对冷启动的情况时表现不佳。</p>    <p> </p>    <p>来自：https://jlunevermore.github.io/2016/06/25/36.python实现推荐系统/</p>    <p> </p>