- 语言建模的显式词语密度估计
使用基于 NeuralODEs 和连续模拟的 Normalizing Flows 的一种新型语言模型,改进了某些基准模型。
- 连接性塑造矩阵完备性模型的隐式正则化
矩阵分解模型在理解超参数模型的隐含偏差方面,作为一个重要的测试平台已被广泛研究。本文系统地研究了矩阵分解模型在解决矩阵补全问题时的隐含正则化,通过实验证明观测数据的连接性在隐含偏差中起着关键作用,其随着观察次数的增加由低核范数转变为低秩解。 - 有效的矩阵分解:通过 Householder 变换
基于正交字典学习问题,我们提出了一种新的矩阵分解方法,其中数据矩阵 Y 是 Householder 矩阵 H 和二进制矩阵 X 的乘积。首先,我们证明了从 Y 中确切恢复出因子 H 和 X 是在 Y 中具有 Ω(1) 列的;接下来,我们证明 - WWW利用结构复杂度度量评价推荐系统的可预测性
基于用户 - 物品评分矩阵的结构复杂性,此研究引入了数据驱动的度量标准来衡量推荐系统的可预测性。使用奇异值分解和矩阵分解策略,通过扰动数据评估其预测能力,结果表明度量标准与真实数据集上表现最佳的预测算法的准确性之间存在高相关性。
- 通过动态修剪加速矩阵分解以实现快速推荐
提出了算法方法加速矩阵分解,通过观察矩阵特征的细粒度结构稀疏性,重新排列特征矩阵并修剪不显著的潜在因素,实现了乘法和更新过程中的动态剪枝操作,加速了推荐系统中矩阵分解的训练过程。
- 基于矩阵分解的无监督特征选择的核对齐
通过特征选择方法,将无关和冗余特征删除,以期获得原始特征的良好表示。本文构建了一个模型,通过集成核函数和核对齐,来解决非线性结构信息的捕捉问题。此外,还提出了一种多核学习方法,通过学习线性和非线性相似性信息,并自动生成最合适的核函数。在实验 - 线性时间图神经网络可扩展的推荐系统
在信息爆炸时代,推荐系统是为用户提供个性化推荐的重要工具。本文提出了一种线性时间图神经网络(LTGNN)来扩展基于 GNN 的推荐系统,以实现与经典 MF 方法相当的可扩展性,同时保持 GNN 强大的表达能力以获得更准确的预测。通过大量实验 - 利用全局非凸优化软件检查充分分散条件
本研究论文描述了一个关于矩阵分解问题的重要条件 —— 充分散布条件(SSC),并提出了一种非凸二次优化问题的方法来检验该条件,并应用于实际数据集和真实世界的高光谱图像。
- 矩阵分解在 fMRI 数据中的性能评估
本研究通过应用不同的矩阵分解方法于全脑功能磁共振成像数据的神经活动,研究了整个人脑中稀疏编码的有效性,结果表明稀疏编码假设在整个人脑信息表示中是成立的。
- 图上非线性耦合振荡器的潜在线性模型
耦合振子在任意图上本地驱动其相互同步的趋势,但通常会在整个图上表现出非线性行为。本文中,我们展示了这种耦合振子的非线性行为可以在某些潜在动态空间中被有效线性化。我们提出了基于监督矩阵分解的算法来学习这些潜在动态过滤器。我们的方法在同步预测任 - 基于量子退火的非负 / 二元矩阵分解图像分类方法
基于量子退火的矩阵分解方法在图像分类中与传统的机器学习方法进行了性能比较,发现在数据、特征和迭代次数较少的情况下,利用量子退火技术训练模型的准确性优于传统的神经网络,并且该技术还能显著减少计算时间。
- 矩阵分解在热带和混合热带线性代数中的应用
矩阵分解在机器学习和数据挖掘中有广泛应用,包括协同过滤推荐系统、降维、数据可视化和社区检测。本文基于热带代数和几何在机器学习领域的最新成果,研究了两个涉及矩阵分解的问题。我们提出了一种改进的算法来解决热带矩阵分解问题,并通过将传统矩阵乘法与 - ResFields:用于时空信号的残差神经场
提出了一种将时间残差层引入神经场的有效方法,用于表示复杂的时间信号,通过降低可训练参数数量和增强泛化能力的矩阵分解技术,实现了对 2D 视频逼近、通过时间 SDFs 进行动态形状建模和动态 NeRF 重建等各种具有挑战性任务中结果的稳定提升 - 将鲁莽性纳入基于协同过滤的推荐系统
通过在矩阵分解推荐系统的学习过程中引入一项称为 “鲁莽性” 的新项,我们提出的推荐系统可以控制在做出关于预测可靠性的决策时所期望的风险水平,从而提高预测的数量和质量。
- 对称矩阵分解的削减方案
通过扩展我们最近引入的替代性 “减少” 程序,我们对广泛秩问题进行研究,并对其性能进行了深入研究。
- 迭代收敛式分布式机器学习中参数服务器的慢工问题实证研究
当前研究旨在测试当前延迟问题缓解技术在不同重要的迭代收敛机器学习算法(包括矩阵分解、多项逻辑回归和潜在狄利克雷分布)上的有效性,并通过使用 FlexPS 系统实现了实验,该系统采用参数服务器架构进行最新的系统实现。本实验采用批同步并行计算模 - 语言模型压缩的低秩剪枝和分解
利用网络剪枝与矩阵分解相结合的方式,提出了一种有效的预训练语言模型的模型压缩方法,通过新的初始化技术和训练过程优化技巧,能够在保持性能的同时实现更加高效的模型压缩。
- (扩展) 带状矩阵分解:一种私有化训练的统一方法
本文介绍了一种基于带状矩阵的矩阵分解机制,可以用于差分隐私的联合训练和集中式训练,并且具有更好的性能和更低的计算复杂度。
- 多视角多样化表示的一步聚类
提出了一种多视角聚类方法,它使用矩阵分解实现低复杂度且高效率的多视角聚类,并在自我监督学习的基础上利用多样的表示方法,避免二阶段过程,在多维度下开展信息聚合,并使用 $k$-means 进行统一聚类,得出了在各种数据集上优越的聚类性能表现。
- 高效交替最小化与带权低秩近似的应用
本研究提供了一种有效和稳健的交替最小化框架来解决线性代数和机器学习中的一些问题,关注于都市中加权矩阵的低秩矩阵近似问题,并将运行时间从之前的 n^2k^2 降至 n^2k。