微信注册平台,深圳seo网站排名优化,国外装修效果图网站,手机主页哪个网站好推荐系统–矩阵分解(1) 推荐系统–矩阵分解(2) 推荐系统–矩阵分解(3) 推荐系统–矩阵分解(4) 推荐系统–矩阵分解(5) 推荐系统–矩阵分解(6)
8 基于隐式反馈的矩阵分解
8.1 引入
相对于显示反馈的评分数据#xff0c;隐式反馈有以下几方面的特征#xff1a;
只有正反馈隐式反馈有以下几方面的特征
只有正反馈没有负反馈只能得到用户喜欢那些物品对于用户不喜欢的物品没有数据支持隐式反馈噪声比较多不像用户评分行为是用户强烈的主动行为用户浏览行为、点击行为都相对比较被动。例1某个页面是因为用户默认打开页面导致打分较高例2买东西可能只是用来送礼显式反馈的评分数据代表用户真实的喜好程度隐式反馈代表置信度需要有合适的方法来对隐式反馈进行评价而不能直接用RMSE。
8.2 模型
模型引入喜好变量和置信度变量。 fui{1rui00rui0(1)f_{u i}\left\{\begin{array}{cc} 1 r_{u i}0 \\ 0 r_{u i}0 \end{array}\right. \tag1 fui{10rui0rui0(1) 符号说明 喜好变量fuif_{u i}fui一个二元变量表示用户是否具有该偏好。 置信度变量的计算有两种方式 cui1αrui(2)c_{u i}1\alpha r_{u i} \tag2 cui1αrui(2) 或 cui1αlog(1rui/ϵ)(3)c_{u i}1\alpha \log \left(1r_{u i} / \epsilon\right) \tag3 cui1αlog(1rui/ϵ)(3) 符号说明 置信度变量 cuic_{u i}cui表示用户对物品喜好的置信程度。
最终得到如下优化目标函数 L(p,q)minp⋆,q⋆∑u,icui(fui−puTqi)2λ(∑u∥pu∥2∑i∥qi∥2)(4)L(p, q) \min _{p_{\star}, q_{\star}} \sum_{u, i} c_{u i}\left(f_{u i}-p_{u}^{T} q_{i}\right)^{2}\lambda\left(\sum_{u}\left\|p_{u}\right\|^{2}\sum_{i}\left\|q_{i}\right\|^{2}\right) \tag4 L(p,q)p⋆,q⋆minu,i∑cui(fui−puTqi)2λ(u∑∥pu∥2i∑∥qi∥2)(4)
8.3 求解pup_upu和qiq_iqi
首先计算梯度 12∂L(p,q)∂pu∑icui(puTqi−fui)qiλpu∑icui(qiTpu−fui)qiλpuQTCuQpu−QTCuf(u)λpu\begin{aligned} \frac{1}{2} \frac{\partial L(p, q)}{\partial p_{u}} \sum_{i} c_{u i}\left(p_{u}^{T} q_{i}-f_{u i}\right) q_{i}\lambda p_{u} \\ \sum_{i} c_{u i}\left(q_{i}^{T} p_{u}-f_{u i}\right) q_{i}\lambda p_{u} \\ Q^{T} C^{u} Q p_{u}-Q^{T} C^{u} f(u)\lambda p_{u} \end{aligned} 21∂pu∂L(p,q)i∑cui(puTqi−fui)qiλpui∑cui(qiTpu−fui)qiλpuQTCuQpu−QTCuf(u)λpu 有两种方法可以求解pup_upu和qiq_iqi
第一种方法为直接法令偏导为0则有 pu(QTCuQλI)−1QTCuf(u)p_{u}\left(Q^{T} C^{u} Q\lambda I\right)^{-1} Q^{T} C^{u} f(u) pu(QTCuQλI)−1QTCuf(u) 矩阵计算的维度如下 (k×nn×nn×k)(k×n)(n×n)(n×1)k×1(k \times n \ n \times n \ n \times k) \ (k \times n) \ (n \times n) \ (n \times 1) k \times 1(k×nn×nn×k)(k×n)(n×n)(n×1)k×1 同理可得 qi(PTCiPλI)−1PTCif(i)q_{i}\left(P^{T} C^{i} P\lambda I\right)^{-1} P^{T} C^{i} f(i) qi(PTCiPλI)−1PTCif(i)
符号说明 f(u)∈Rnf(u) \in \mathbb{R}^{n}f(u)∈Rn包含用户uuu的所有偏好向量 f(i)∈Rmf(i) \in \mathbb{R}^{m}f(i)∈Rm包含用户对物品tit_iti的偏好向量 P∈Rm×kP \in \mathbb{R}^{m \times k}P∈Rm×k潜在用户特征矩阵 Q∈Rn×kQ \in \mathbb{R}^{n \times k}Q∈Rn×k潜在物品特征矩阵 Cu∈Rn×nC^{u} \in \mathbb{R}^{n \times n}Cu∈Rn×n是CiiucuiC_{i i}^{u}c_{u i}Ciiucui其余地方为0的对角矩阵如下所示
C11uC_{11}^{u}C11uC22uC_{22}^{u}C22uC33uC_{33}^{u}C33uC44uC_{44}^{u}C44uC55uC_{55}^{u}C55u
Ci∈Rm×mC^{i} \in \mathbb{R}^{m \times m}Ci∈Rm×m是CuuicuiC_{uu}^{i}c_{u i}Cuuicui的对角矩阵其余地方为0的对角矩阵如下所示
C11iC_{11}^{i}C11iC22iC_{22}^{i}C22iC33iC_{33}^{i}C33iC44iC_{44}^{i}C44iC55iC_{55}^{i}C55i
第二种方法为迭代法 梯度计算如下 12∂L(p,q)∂pu∑i[cui(puTqi−fui)]qiλpu∑i[cui(qiTpu−fui)]qiλpu12∂L(p,q)∂qi∑u[cui(puTqi−fui)]puλqi\begin{aligned} \frac{1}{2} \frac{\partial L(p, q)}{\partial p_{u}} \sum_{i} \left[c_{u i}\left(p_{u}^{T} q_{i}-f_{u i}\right)\right] q_{i}\lambda p_{u} \\ \sum_{i} \left[c_{u i}\left(q_{i}^{T} p_{u}-f_{u i}\right)\right] q_{i}\lambda p_{u} \\ \frac{1}{2}\frac{\partial L(p, q)}{\partial {q}_{i}} \sum_{u}\left[c_{u i}\left({p}_{u}^{T}{q}_{i}- f_{u i}\right)\right] {p}_{u} \lambda {q}_{i} \end{aligned} 21∂pu∂L(p,q)21∂qi∂L(p,q)i∑[cui(puTqi−fui)]qiλpui∑[cui(qiTpu−fui)]qiλpuu∑[cui(puTqi−fui)]puλqi 迭代公式为 pupu−γ∂L(p,q)∂puqiqi−γ∂L(p,q)∂qi\begin{aligned} {p}_{u}{p}_{u}-\gamma \frac{\partial L(p, q)}{\partial {p}_{u}}\\ {q}_{i}{q}_{i}-\gamma \frac{\partial L(p, q)}{\partial {q}_{i}} \end{aligned} puqipu−γ∂pu∂L(p,q)qi−γ∂qi∂L(p,q)