NIPSMay, 2017

多输出多项式网络与因子分解机

PDF
TL;DR本文介绍了将因子分解机和多项式网络拓展应用到多输出设置的方法，并提出了一种基于共同基础的三维张量的学习问题的凸形式，进一步提出一种高效的条件梯度算法以解决该问题，并在分类和推荐任务中通过实验验证了其良好的性能和较稀疏的模型。
发现论文，激发创造
  • 多项式网络和因子分解机：新见解和高效训练算法

    本文从统一的视角重新审视了多项式网络和分解机模型，提出了高效训练算法，并将参数学习作为低秩对称张量估计问题进行求解。在回归和推荐系统任务中展示了我们的方法。

    Jul, 2016

  • 张量分解、深度学习及其超越中的全局最优性

    该研究通过对矩阵分解、张量分解和深度神经网络训练等问题的非凸优化问题的充分条件分析，提出了一种通用框架，能够在任意初始的情况下使用纯局部下降算法找到全局最小值，为深度神经网络的优化提供了理论支持和指导。

    Jun, 2015

  • 高阶分解机

    本文介绍了一种用于训练任意阶 HOFMs 的通用且高效的算法，以及具有共享参数的新变体，这大大减少了模型大小和预测时间，同时保持了类似的准确性，并在四个不同的链接预测任务上演示了所提出的方法。

    Jul, 2016

  • 向量输出 ReLU 神经网络问题是共正规划：两层网络的凸分析与多项式时间算法

    这篇论文描述了两层向量输出 ReLU 神经网络训练问题的凸半无限对偶问题，利用它可以找到全局最优解，而神经网络隐式地尝试通过半非负矩阵分解解决共正程序。

    Dec, 2020

  • 分布式柔性非线性张量分解

    本文提出了一种分布式、灵活的非线性张量分解模型，通过可避免昂贵的计算以及提供高质量推理的上限，它能够克服传统张量分解模型中的限制，并展现出在 CTR 预测方面的巨大潜力。

    Apr, 2016

  • 通过矩阵分解实现张量分解

    本研究提出了一种新的 CP 张量分解方法，使用了随机投影算法降低了问题难度并在模拟和真实数据集上得到了更好的表现。

    Jan, 2015

  • 关于张量、稀疏性和非负因子分解

    本文研究了稀疏计数数据的多线性建模问题，提出了一个以泊松分布为假设的描述性张量分解模型和相应的算法和理论，并介绍了一种基于主导极小化方法的泊松张量分解算法，称为 CP-APR，并在几个数据集上的结果得到了验证。

    Dec, 2011

  • 凸分解机用于回归

    本文提出了一种凸分解机方法（CFM），它是广泛使用的分解机（FM）的一个凸变体。该方法可以找到全局最优解，并已在应用于多视角矩阵分解和张量完成问题时获得成功。

    Jul, 2015

  • 多视图分解机

    本文提出了一种名为多视角机器（MVM）的通用预测器，其可以有效地包括多个视图中特征之间的所有可能交互，并嵌入联合分解以实现参数稀疏估计。通过与其他方法进行比较，我们进一步说明了 MVM 的优势，包括支持向量机（SVM）、支持张量机（STMs）和因子机（FMs）等多视角分类任务。同时我们还提出了一个用于学习 MVM 模型的随机梯度下降方法。

    Jun, 2015

  • 基于张量网络分解的概率建模表现力研究 - 从隐马尔科夫模型到量子机器学习的应用

    该论文研究了张量网络在离散多元概率分布建模中的表达能力，并针对使用不同类型的张量带来的参数数量和效率变化进行了严格分析，发现局部纯净态表示法的表达能力优于其他表示法。

    Jul, 2019