网站续费后为何还不能用,深圳专业网站建设要求,企业代码查询入口,中国建设协会官网WSDM 2024接收的论文已经公布#xff0c;全部收录的论文可前往地址 网址#xff1a;https://www.wsdm-conference.org/2024/accepted-papers/ 其中推荐系统相关论文三十余篇#xff0c;下文列举了部分论文的标题以及摘要#xff0c;更多内容欢迎关注公众号【深度学习推荐算…WSDM 2024接收的论文已经公布全部收录的论文可前往地址 网址https://www.wsdm-conference.org/2024/accepted-papers/ 其中推荐系统相关论文三十余篇下文列举了部分论文的标题以及摘要更多内容欢迎关注公众号【深度学习推荐算法】
1、Mixed Attention Network for Cross-domain Sequential Recommendation卡耐基梅隆快手【跨域序列推荐的混合注意力网络】
在现代推荐系统中顺序推荐利用按时间顺序排列的用户行为来提供有效的下一项目建议但这种方法存在数据稀缺问题尤其是对新用户而言。跨领域推荐是一项很有前景的工作它利用多个领域的数据训练模型以提高数据稀缺领域的性能。最近提出的跨领域顺序推荐模型如 PiNet 和 DASL有一个共同的缺点即严重依赖不同领域的重叠用户这限制了它们在实际推荐系统中的应用。在本文中我们提出了一种具有本地和全局注意力模块的混合注意力网络M ixed A ttention N etworkMAN以提取特定域和跨域信息。首先我们提出了一个本地/全局编码层来捕捉特定领域/跨领域的序列模式。然后我们提出了一个混合注意力层包括项目相似性注意力、序列融合注意力和群体原型注意力分别用于捕捉本地/全局项目相似性、融合本地/全局项目序列和提取不同领域的用户群体。最后我们提出了一个局部/全局预测层以进一步发展和结合特定领域和跨领域的兴趣。在两个真实世界数据集每个数据集有两个领域上的实验结果表明了我们提出的模型的优越性。进一步的研究还表明我们所提出的方法和组件与模型无关并且可以在不同领域中使用。进一步的研究还表明我们提出的方法和组件分别与模型无关而且非常有效。代码和数据可在网站上获取。 https://github.com/Guanyu-Lin/MAN 图 1(a) 依赖重叠用户的用户转移学习和(b) 无用户重叠假设的群体转移学习示意图 图 2我们提出的城域网模型示意图。(1) 项目序列首先被输入本地/全局编码层该层为每个项目建立本地和全局嵌入并对其进行编码以提取本地和全局序列模式(2) 在混合注意层中项目相似性注意被输入本地和全局项目嵌入以捕捉项目级模式。在混合注意层中项目相似性注意利用本地和全局项目嵌入来捕捉项目级关系序列融合注意融合编码的本地和全局序列表示来捕捉序列级关系组原型注意利用共享的组原型来捕捉组级关系。在此我们以领域 A 为例详细说明所提出的各个注意力组件。(4) 聚合嵌入将分别输入局部预测层和全局预测层进行最终预测。
2、Knowledge Graph Context-Enhanced Diversified Recommendation伊利诺伊【知识图谱上下文增强的多样化推荐】
推荐系统RecSys领域已被广泛研究以利用用户的历史互动来提高准确性。然而对准确性的不懈追求往往会削弱多样性最终导致众所周知的 “回音室 ”现象。多元化 RecSys 作为一种对策应运而生它将多样性与准确性相提并论赢得了学术界和行业从业者的广泛关注。本研究在错综复杂的知识图谱KG背景下探索多元化 RecSys。这些知识图谱是有关实体和项目的相互关联信息的存储库通过纳入具有洞察力的上下文信息为扩大推荐多样性提供了有利途径。我们的贡献包括引入了一个创新指标–实体覆盖率和关系覆盖率该指标可有效量化 KG 领域内的多样性。此外我们还引入了多样化嵌入学习DEL模块该模块经过精心设计能够制定出具有与生俱来的多样性意识的用户表征。与此同时我们还引入了一种名为 “条件对齐和一致性”CAU的新技术。它在保持上下文完整性的同时还能巧妙地对 KG 项目嵌入进行编码。总之我们的贡献标志着在以 KG 为基础的 RecSys 范例中在增强推荐多样性全景方面取得了重大进展。 图 1带有知识图谱的多元化 RecSys。
3、Exploring Adapter-based Transfer Learning for Recommender Systems: Empirical Studies and Practical Insights西湖大学【基于适配器的推荐系统迁移学习探索实证研究与实践启示】
适配器是一种具有可调参数的插件式神经网络模块它是一种参数高效的迁移学习技术可将预先训练好的模型适配到下游任务中尤其适用于自然语言处理NLP和计算机视觉CV领域。同时直接从原始项目模式特征如 NLP 的文本和 CV 的图像中学习推荐模型可以实现有效和可迁移的推荐系统称为 TransRec。有鉴于此一个自然而然的问题出现了基于适配器的学习技术能否实现参数高效、性能良好的 TransRec 为此我们进行了实证研究以解决几个关键的子问题。首先我们询问基于适配器的 TransRec 与基于标准全参数微调的 TransRec 的性能是否相当是否适用于不同项目模式的推荐例如文本 RS 和视觉 RS。如果是我们将在项目推荐任务中对这些在 NLP 和 CV 任务中被证明有效的现有适配器进行基准测试。第三我们仔细研究了基于适配器的 TransRec 的几个关键因素即在哪里以及如何插入这些适配器最后我们通过扩大源训练数据或缩小目标训练数据来研究基于适配器的 TransRec 的效果。我们的论文为统一可转移推荐–一种研究较少的推荐方案–提供了重要见解和实用指导。我们在下列URL上发布了我们的代码和其他资料 https://github.com/westlake-repl/Adapter4Rec/ 图 1大型工业 RS 平台通常有一个主推荐频道和多个垂直频道如体育、教育、时尚等。我们必须通过标准微调的单独模型来维护每个频道的整个模型相比之下通过适配器微调只需要维护一小部分参数。 图 3基于适配器的 TransRec 框架。TransRec 由一个用户编码器UE和多个项目编码器组成以虚线划分。BERT 和 ViT 分别用作文本编码器和图像编码器的示例。SASRec 和 CPCDSSM 变体用于训练 UE。˜1, …, ˜ 是由 UE 生成的向量1, …, 是由 ME 生成的向量。因此在 UE 中注入适配器的方法与项目编码器的方法相同。
4、Diff-MSR: A Diffusion Model Enhanced Paradigm for Cold-Start Multi-Scenario Recommendation香港城市大学华为【Diff-MSR冷启动多场景推荐的扩散模型增强范式】
随着各种商业场景的爆炸式增长关于多场景推荐MSR的研究也越来越多。MSR 利用多个场景的数据训练推荐系统旨在同步提高所有这些场景的推荐性能。然而由于各领域间的交互数量差异较大多场景推荐模型通常会出现学习不足和负迁移的问题尤其是在冷启动场景上从而加剧了数据稀疏性问题。为了填补这一空白我们在本研究中提出了一种新的扩散模型增强范式该范式以数据驱动生成的方式为多场景推荐中的冷启动问题量身定制。具体来说基于全域数据我们将扩散模型与新设计的方差表和提出的分类器相结合通过利用生成的高质量和信息嵌入利用丰富的场景明确提升冷启动场景的推荐性能。我们在豆瓣和亚马逊数据集上的实验证明了所提范式的两个优势(i) 其有效性在这两个数据集上的准确率分别显著提高了 8.5% 和 1%(ii) 其与各种多场景骨干模型的兼容性。为便于复制我们提供了实施代码。 https://github.com/Applied-Machine-Learning-Lab/Diff-MSR
https://github.com/mindspore-lab/models/tree/master/research/huawei-noah/Diff-MSR 图 1多场景推荐模型图解。蓝色代表共享参数红色和黄色代表特定场景参数。 图 2扩散模型示意图。上半部分 实线箭头的上半部分表示正向过程而虚线箭头的下半部分表示反向过程。表示反向过程。 图 3Diff-MSR 的图示其中rich dog域用于帮助冷启动cat域的 OOD 生成。为简单起见省略了用户配置文件。微调数据由 3.5 节中介绍的三部分组成。
5、AutoPooling: Automated Pooling Search for Multi-valued Features in Recommendations腾讯
大规模推荐系统通常包含数百个多值特征字段每个字段的值数量不同。为了便于传统固定形状神经网络的计算池化算子被广泛用于将多值特征压缩为固定维度的向量。大多数现有工作为所有字段设置单一池化方法但这会导致次优结果因为不同的特征字段具有不同的信息分布因此需要不同的池化方法。在这项工作中我们提出了一个基于 AutoML 的框架称为 AutoPooling它可以自动高效地为每个多值特征搜索最佳池化算子。具体而言可学习的权重被分配给每个特征字段中的所有候选池化算子。然后使用基于 AutoML 的算法来学习模型参数和字段感知权重。最后可以根据相关权重获得最佳池化算子。我们在公共数据集和工业数据集上评估了所提出的框架。结果表明AutoPooling 明显优于基准。进一步的实验结果表明我们的方法在各种深度推荐模型和不同的搜索空间中都具有鲁棒性。 图 1传统池化运算符和自动池化运算符。在自动池化过程中不同颜色的线表示候选池化运算符的字段感知权重实线表示每个特征的最佳池化。传统池化运算符为所有字段设置单个池化运算符。 图 2所提出的 AutoPooling 框架概述。
6、C^ 2DR: Robust Cross-Domain Recommendation based on Causal Disentanglement中南【C^2DR基于因果解耦的鲁棒跨域推荐】
跨域推荐旨在利用异构信息将知识从数据充足的域源域转移到数据稀缺的域目标域。现有方法主要侧重于学习单域用户偏好然后使用传输模块来获取跨域用户偏好但忽略了对用户对项目的域特定偏好的建模。我们认为从源域中引入域特定偏好将引入与目标域不相关的信息。此外直接结合域共享和域特定信息可能会阻碍目标域的性能。为此我们提出了 C^ 2DR这是一种从因果角度解开域共享和域特定偏好的新方法。具体而言我们制定因果图来捕捉基于底层推荐过程的关键因果关系明确将域共享和域特定信息标识为因果无关变量。然后我们引入解缠正则化项来学习因果图中遵循独立性约束的因果变量的不同表示。值得注意的是我们提出的方法能够有效地干预和传输领域共享信息从而提高推荐模型的稳健性。我们通过对三个真实数据集的大量实验来评估 C^ 2DR 的有效性结果表明与最先进的基线相比C^2DR 有显著的改进。 图 1(a)图书和电影领域中用户偏好的示例。(b)2 利用解开的领域共享信息和领域特定因素进行推荐。 图 32 的训练过程。1. 2 训练多个编码器并使用具有梯度反向层 (GRL) 的域分类器有效地提取域共享信息。2. 2 学习一个权重向量该权重向量重新加权表示空间以便独立处理因果变量。3. 2 通过在每个域中强制域共享信息 与损失函数的梯度之间的正交性来减轻域无关信息的负面转移。
7、Unified Pretraining for Recommendation via Task Hypergraphs伊利诺伊Salesforce【基于任务超图的推荐统一预训练】
尽管预训练近年来引起了广泛关注和普及但它在基于图的推荐系统中的应用相对有限。在广泛使用的 ID 相关数据集中通过预训练来利用先验知识是一项挑战。一方面一个数据集中的用户-项目交互历史很难通过预训练转移到其他数据集因为 ID 不同。另一方面在同一数据集上进行预训练和微调会导致过拟合的风险很高。在本文中我们提出了一种新的多任务预训练框架即通过任务超图进行推荐的统一预训练。为了形成一个统一的学习模式来处理各种借口任务的不同要求和细微差别我们设计了任务超图来将借口任务推广到超边预测。设计了一种新颖的过渡注意层来有区别地学习每个借口任务和推荐之间的相关性。在三个基准数据集上的实验结果验证了 UPRTH 的优越性。进行了额外的详细调查以证明所提框架的有效性。 图 2(a) UPRTH 的整体框架首先我们根据不同的借口任务构建任务超图。接下来我们应用超图编码器从任务超图中学习特定于任务的嵌入。最后我们使用 TA 层将知识从辅助借口任务有区别地转移到推荐任务(b) 过渡注意力 (TA) 层的图示。
8、SSLRec: A Self-Supervised Learning Library for Recommendation港大【自监督推荐库】
近年来自监督学习 (SSL) 作为一种解决推荐系统中稀疏和噪声数据所带来的挑战的解决方案引起了人们的极大兴趣。尽管越来越多的 SSL 算法旨在在各种推荐场景例如图形协同过滤、顺序推荐、社交推荐、KG 增强推荐中提供最先进的性能但仍然缺乏集成不同领域推荐算法的统一框架。这样的框架可以作为自监督推荐算法的基石统一现有方法的验证并推动新方法的设计。为了解决这一差距我们推出了 SSLRec这是一个新颖的基准平台它提供了一个标准化、灵活和全面的框架来评估各种 SSL 增强推荐器。SSLRec 库具有模块化架构允许用户轻松评估最先进的模型以及一整套数据增强和自监督工具包以帮助创建具有特定需求的 SSL 推荐模型。此外SSLRec 简化了使用一致和公平的设置训练和评估不同推荐模型的过程。我们的 SSLRec 平台涵盖了一套适用于不同场景的先进 SSL 增强推荐模型使研究人员能够评估这些前沿模型并推动该领域的进一步创新。SSLRec 框架可在源代码存储库中找到 https://github.com/HKUDS/SSLRec 图 1SSLRec 的总体框架。
9、Multi-Sequence Attentive User Representation Learning for Side-information Integrated Sequential Recommendation深圳大学腾讯【辅助信息集成序列推荐的多序列注意用户表征学习】
集成辅助信息的顺序推荐结合了补充信息以缓解数据稀疏性问题。最先进的工作主要利用一些辅助信息来改进注意力计算以更准确地学习用户表示。然而在这个主题中仍然存在一些限制需要解决。它们中的大多数仅仅在项目级别学习用户表示而在计算注意力时忽略了项目序列和辅助信息序列的关联从而导致用户表示的学习不全面。其中一些在项目和辅助信息级别学习用户表示但它们仍然面临多个用户表示优化不足的问题。为了解决这些限制我们提出了一个新模型即多序列顺序推荐器MSSR它从不同的序列中学习用户的多个表示。具体来说我们设计了一个多序列集成注意力层来学习比现有工作更多的注意力对并自适应地融合这些对来学习用户表示。此外我们的用户表示对齐模块构建了自监督信号来优化表示。随后它们在训练过程中通过我们的边信息预测器进一步完善。对于项目预测我们的 MSSR 额外考虑了候选项目的边信息从而能够全面衡量用户的偏好。在四个公共数据集上进行的大量实验表明我们的 MSSR 优于 11 个最先进的基线。可视化和案例研究也证明了我们的 MSSR 的合理性和可解释性。 图 1用户对品牌、类别和商品序列的多重表征。(a) 用户的多重序列。绿色箭头表示当前商品的交互受到前一个商品的影响而蓝色箭头表示它也受到相关类别和品牌的影响。(b) 用户的多重表征。 图 2我们的 MSSR 概览。我们的 MSSR 将多个序列作为输入并通过嵌入层获得嵌入矩阵。这些矩阵被输入到多序列集成注意层中以学习用户的多个表示这些表示由用户表示对齐模块进一步优化。最后预测模块利用学习到的表示执行辅助信息预测在训练期间和项目预测。
10、LabelCraft: Empowering Short Video Recommendations with Automated Label Crafting中科大快手【LabelCraft通过自动标签制作实现短视频推荐】
短视频推荐通常会受到用户反馈质量的限制因为用户反馈可能无法准确描述用户的兴趣。为了应对这一挑战出现了一项新任务从原始反馈中生成更可靠的标签。现有的标签生成方法依赖于手动规则需要大量人力并且可能与平台的预期目标不一致。为了超越这些限制我们推出了 LabelCraft这是一种新颖的自动标签生成方法明确优化了平台成功的关键运营指标。通过将标签生成制定为高于推荐模型优化的更高级别的优化问题LabelCraft 引入了一个可训练的标签模型用于自动标签机制建模。通过元学习技术LabelCraft 有效地解决了推荐和标签模型带来的双层优化障碍从而实现了复杂标签生成机制的自动获取。对真实数据集的大量实验证实了 LabelCraft 在各种运营指标方面的卓越表现包括使用时间、用户参与度和保留率。代码可从以下网址获取: https://github.com/baiyimeng/LabelCraft 图 1LabelCraft 概览利用平台目标指导标签模型 的学习并以推荐模型 作为中介桥梁 算法 1LabelCraft 的训练
11、MONET: Modality-Embracing Graph Convolutional Network and Target-Aware Attention for Multimedia Recommendation汉阳大学【MONET包含图卷积网络的模态和多媒体推荐的目标感知注意力】
在本文中我们重点研究使用图卷积网络 (GCN) 的多媒体推荐系统其中多模态特征以及用户-项目交互被一起使用。我们的研究旨在更有效地利用多模态特征以准确捕捉用户对项目的偏好。为此我们指出了现有基于 GCN 的多媒体推荐系统存在以下两个局限性(L1) 虽然用户交互项目的多模态特征可以揭示她对项目的偏好但现有方法使用的 GCN 仅专注于捕获协作信号导致最终用户/项目嵌入中多模态特征的反映不足(L2) 虽然用户通过考虑目标项目的多模态特征来决定是否喜欢目标项目但现有方法无论目标项目的多模态特征如何都将她表示为单个嵌入然后利用她的嵌入来预测她对目标项目的偏好。为了解决上述问题我们提出了一种新颖的多媒体推荐系统名为 MONET由以下两个核心思想组成模态包容 GCN (MeGCN) 和目标感知注意力。通过使用四个真实数据集进行大量实验我们证明了 i) MONET 明显优于七个最先进的竞争对手与最佳竞争对手相比召回率20 的准确率高出 30.32%和 ii) MONET 中两个核心思想的有效性。所有 MONET 代码均可在以下网址上找到 https://github.com/Kimyungi/MONET 图 2用户 对目标商品 Pegasus 39 的兴趣玩具示例。箭头颜色越深表示当用户 决定是否购买 Pegasus 39 时她对交互商品的兴趣考虑得越多。 图 4MONET 概览由三个关键组件组成(a) 基于 MeGCN 的编码器(b) 基于目标感知注意力的聚合器© 利用用户的一般嵌入和面向目标的嵌入的预测器。
12、RecJPQ: Training Large-Catalogue Sequential Recommenders【RecJPQ训练大型目录序列推荐】
顺序推荐是一种流行的推荐任务它使用用户与项目交互的顺序来模拟不断变化的用户兴趣和行为的顺序模式。当前最先进的基于 Transformer 的顺序推荐模型例如 BERT4Rec 和 SASRec会生成序列嵌入并计算目录项目的分数但目录大小的增加使得训练这些模型的成本很高。联合乘积量化 (JPQ) 方法最初是为段落检索提出的它通过用有限数量的共享子嵌入替换段落嵌入显著减少了检索索引的大小而对模型有效性的影响却微乎其微。本文介绍了 RecJPQ这是 JPQ 的一种新颖的顺序推荐改编它取代了项目嵌入张量并用有限数量的共享子嵌入的串联替换了项目嵌入从而限制了可学习的模型参数的数量。RecJPQ 的主要思想是在训练主推荐模型之前将项目拆分为子项目实体其灵感来自于将单词拆分为标记并在语言模型中训练标记器。我们将 RecJPQ 应用于三个大型序列数据集上的 SASRec、BERT4Rec 和 GRU4rec 模型。我们的结果表明RecJPQ 可以显著减小模型大小例如Gowalla 数据集的模型大小减少了 48%而效果没有降低。RecJPQ 还可以通过正则化效果提高模型性能例如此 http URL 数据集的 NDCG10 改进了 0.96%。总体而言RecJPQ 允许在工业应用中训练最先进的 Transformer 推荐器其中包含数百万个项目的数据集很常见。 图 1典型顺序推荐系统中的项目嵌入。这些项目嵌入有两种用途(i) 获取序列表示和 (ii) 生成项目分数。嵌入张量需要 | | · 个可训练参数其中 | | 是项目目录大小 是嵌入的大小。当目录大小 | | 很大时项目嵌入包含模型的大部分参数。 图 2使用乘积量化重建项目嵌入码本长度 3项目嵌入长度 12每个分割的子 ID 数量 256。
13、On the Effectiveness of Unlearning in Session-Based Recommendation山大【基于会话的推荐中释放的有效性研究】
基于会话的推荐系统可以根据会话中的历史交互预测用户未来的兴趣。尽管可以记住历史样本但出于用户隐私或模型保真度等原因有时也会要求进行反学习即消除某些训练样本的影响。然而现有的反学习研究并不适用于基于会话的推荐系统。一方面由于要反学习的项目与会话中剩余项目之间存在协同相关性和顺序连接这些方法无法达到令人满意的反学习效果。另一方面很少有研究对基于会话的推荐场景中的反学习效果进行验证。在本文中我们提出了一个基于会话的推荐反学习框架SRU该框架可以在基于会话的推荐中实现较高的反学习效率、准确的推荐性能和更好的反学习效果。具体来说我们首先根据会话之间的相似性将训练会话划分为单独的子模型然后利用基于注意机制的聚合层根据会话与子模型中数据集心之间的相关性融合隐藏状态。为了提高去学习效果我们进一步提出了三种额外数据删除策略包括协作额外删除CED、邻居额外删除NED和随机额外删除RED。此外我们提出了一个评估指标用于衡量数据删除后去学习样本是否可以推断出来以验证去学习的有效性。我们用三个有代表性的基于会话的推荐模型实现了SRU并在三个基准数据集上进行了实验。实验结果证明了我们方法的有效性。 图 1精确的忘却学习很难实现。由于协作相关性和会话中项目之间的顺序连接仍可以推断出未学习的项目。 图 2所提出的 SRU 框架概述SRU由会话分区、注意聚合和数据删除模块组成。
