本文提出了一种新的基于贝叶斯原则的稀疏学习(SBL)的“矩阵完成”和“鲁棒主成分分析”算法,该方法通过将低秩约束作为稀疏约束来确定正确的秩,并能提供很高的恢复性能。
Feb, 2011
本文提出一种基于随机压缩预测变量的高维回归方法,并使用模型平均来减少方法对于随机投影矩阵的敏感度,可用于实际数据应用。
Mar, 2013
使用统计力学工具分析了矩阵分解问题的可实现性和计算可处理性,在贝叶斯最优推断设置下计算任意计算时间内可能实现的最小均方误差和有效近似迭代推理算法可以达到的误差。
Feb, 2014
研究使用SVI在稀疏潜在因子模型(尤其是BPFA)中的性能,发现使用Gibbs采样维护特定后验依赖关系非常有效,但在BPFA中不同的后验依赖关系与LDA不同,并且模拟内局部变量依赖性的近似方法表现最佳。
Jun, 2015
介绍了一种概率生成模型——OrMachine,用于布尔矩阵分解和推导出马尔科夫链蒙特卡罗(Metropolised Gibbs)采样器,实现了高效的并行后验推断,并在真实世界和模拟数据上优于目前所有现有的布尔矩阵分解和完整方法,首次为布尔矩阵分解提供了完整的后验推断,在协同过滤中用于控制假阳性率,并关键地提高了推断模式的可解释性。提出的算法在通用硬件上扩展到大型数据集,如在1.3百万只老鼠脑细胞上分析11千个基因的单细胞基因表达。
Feb, 2017
本文考虑在通过随机投影压缩的数据上准确高效地计算低秩矩阵或张量分解的问题。我们研究了在压缩域内执行分解并从恢复(压缩)因子中重构原始高维因子的方法,在矩阵和张量设置中,我们建立了这种自然方法能够证明恢复原始因子的条件。我们对合成数据进行了实验,证实了压缩因式分解在真实世界的基因表达和脑电时间序列数据集中的实际适用性,并支持这些理论结果。
Jun, 2017
本文提出了一种通用方法来证明分数后验变分近似的集中性,应用于矩阵补全和高斯VB两个例子,弥补了变分贝叶斯方法在理论方面的不足。
该研究考虑用贝叶斯矩阵分解法进行数据预测和模式发现,比较了不同推理方法在噪声和数据稀疏性下的收敛性和鲁棒性,并讨论了如何通过提出的贝叶斯自动相关性确定先验进行模型选择。
Jul, 2017
本文研究了贝叶斯框架下稀疏矩阵分解的超参数调整问题。基于先前的工作,提出了一种新的基于数值的超参数调整方法,通过评估稀疏矩阵先验中的归一化因子零点。与广泛使用的稀疏主成分分析算法相比,我们的方法在地面真实稀疏矩阵重建上表现出优异的性能。
May, 2023
通过考虑非均匀采样方案,我们为二值观测的矩阵完成问题提供了理论保证,证明了分数后验的有效性。我们使用两种不同类型的先验分布来实现这一目标:低秩分解先验和谱缩放的学生先验,后者需要较少的假设。重要的是,我们的结果具有自适应性,不需要对参数矩阵的秩有先验知识,与最频繁的文献中的结果相当,但需要较少的限制性假设。
Apr, 2024