Nov, 2016

一种通用的坐标下降框架 —— 从隐式反馈中学习

PDF
TL;DR本文提供了一种新的框架来衍生复杂推荐模型的高效 CD 算法，其中一项关键是 k 可分离模型的属性。这个框架被应用在各种最先进的模型上，包括分解机和 Tucker 分解，提供了高效的隐式 CD 算法推荐模型的理论和构建模块。
recommender researchimplicit feedbackcomplex modelsstochastic gradient descentcoordinate descent
发现论文，激发创造
  • 矩阵流形上的 Riemannian 坐标下降算法

    提出了在矩阵流形上开发计算效率高的坐标下降（CD）算法的一般框架，从而允许在每次迭代中仅更新少数变量，并符合流形约束。通过一阶目标函数的近似实现了更高效的变体，分析了它们的收敛性和复杂性，并在多个应用中验证了它们的有效性。

    Jun, 2024

  • 推荐系统的协作深度学习

    本研究提出了一种层次贝叶斯模型，名为 CDL，其通过深度表示学习和协作过滤来处理稀疏的推荐数据，并在三个真实世界数据集上验证了其有效性。

    Sep, 2014

  • 面向分布式特征的通信高效的协作学习框架

    提出一种协作学习框架，允许多方共同构建模型而不暴露其原始数据或模型参数，并通过 Federated Stochastic Block Coordinate Descent 算法来减少通信轮数，该方法在各种任务和数据集上得到了验证。

    Dec, 2019

  • 用于加速并行坐标下降的特征聚类

    本文介绍一种新的算法集合，叫做块贪心坐标下降法，用于解决大规模的 L1 正则化问题，此算法家族的收敛性分析表明用于此问题的算法可以更好的利用并行计算，此理论收敛性分析得到实际数据实验的支持。

    Dec, 2012

  • 内存高效优化的锥下降

    通过对第一阶锥下降（CD）求解器进行直观性、理论性和算法实现方面的改进研究，发现 CD 可以通过对偶问题的几何推导得到直观的解释，从而为新算法设计打开了大门，其中包括动量变量 MOCO。进一步深入研究了 CD 和 MOCO 的对偶行为，揭示了解析合理的停止准则和设计预处理器以加快对偶收敛的潜力。最后，为了扩展半定规划（SDP）的规模，特别是对于低秩解，开发了一个内存高效的 MOCO 变体，并得到了数值验证。

    Aug, 2023

  • 面向协同过滤的图感知扩散建模

    使用神经模型通过条件扩散框架来恢复掩盖的反馈，在隐式反馈数据上实现了前向扩散，利用图傅里叶变换在图谱域中等效地表征模型，并在一个数据集上大幅超越最先进的方法，并在其他数据集上获得有竞争力的结果。

    Nov, 2023

  • 联邦块坐标下降方案用于学习全局和个性化模型

    文章提出了一种二次罚函数公式，用于训练全局模型并允许个性化本地模型，并且通过采用分层结构建模云和边缘设备之间的通信（同时也适用于云内部的通信），解决了边缘设备异构训练时间引起的延迟问题。理论与实验都证实，这种系统可以更快地收敛于在边缘设备上个性化模型进行训练，比现有技术更优秀。

    Dec, 2020

  • 跨域和跨系统推荐的深度框架

    本文提出了一种基于矩阵分解和全连接深度神经网络的深度跨域和跨系统推荐框架 DCDCSR，通过考虑不同域或系统中个人用户和项目的评级稀疏度来指导 DNN 的培训过程，有效利用评分数据，实验结果表明，该框架在推荐准确性方面优于现有的 CDR 和 CSR 方法。

    Sep, 2020

  • 多目标推荐系统的多梯度下降

    本文提出了用随机梯度下降的方法（MGDRec）来解决推荐系统中多目标优化问题，通过梯度规范化将不同度量指标作为一个整体优化，确保同时提升多个利益相关者的目标，避免了全梯度计算的缺点并且在提高准确率的同时也提升了产品的质量。

    Dec, 2019

  • 半随机坐标下降

    提出了一种基于半随机坐标下降（S2CD）的新型随机梯度方法，用于最小化表示为大量平滑凸函数平均值的强凸函数，我们所提出的方法具有非常好的稳定性和计算复杂度。

    Dec, 2014