本文介绍了使用核方法进行多视图潜变量模型学习的理论。方法利用复现核希尔伯特空间嵌入多视图潜变量的联合分布，并提出了一种有效的张量幂法来恢复潜变量参数。实验结果展示了该非参数模型在多个方面都优于现有光谱算法和 EM 算法。

Nov, 2013

我们提出了一种基于正则化密度的 Sobolev 范数的非参数密度估计的新方法，该方法与核密度估计不同，使模型的偏差清晰且可解释，虽然没有与其关联的核的封闭解析形式，但我们展示了可以使用采样来近似它，所需确定密度的优化问题是非凸的，并且标准梯度法性能不佳，然而我们展示了适当的初始化和使用自然梯度可以得到良好的解，最后，虽然该方法提供未归一化的密度，无法使用对数似然进行交叉验证，但我们展示了可以使用基于费歇分歧的得分匹配方法来完成此任务，我们在最近的安全检测基准套件 ADBenchn 上对所得方法进行了评估，发现排名第二，超过 15 种算法。

Jul, 2023

从非线性和含噪声观测中估计一个低秩矩阵的任务中，我们证明了一个强普适性结果，表明贝叶斯最优性能可由一个等效的高斯模型表示，其先验参数完全由非线性函数的展开所确定。特别地，我们展示了为了准确重建信号，需要一个随着 $ N^{rac 12 (1-1/k_F)}$ 增长的信噪比，其中 $k_F$ 是函数的第一个非零 Fisher 信息系数。我们提供了最小可实现均方误差（MMSE）的渐近特征及一个类似于问题的线性版本的条件下能达到 MMSE 的近似传递算法。我们还提供了方法如主成分分析与贝叶斯去噪等的渐近误差，并将其与贝叶斯最优 MMSE 进行了比较。

Mar, 2024

本文探讨了基于鲍姆 - 韦尔奇定理的 Stein 方法和 Score Matching 方法的核估计者，提出了一种基于正则化非参数回归框架的统一视角，允许我们分析现有的估计器并选择不同的假设空间和正则化器构建新的估计器。最后，我们提出了基于迭代正则化的分数估计器，它们受到无旋核和快速收敛的计算优势的支持。

May, 2020

本文提出了一种基于非参数核密度估计的变分逼近方法，通过优化内核位置和带宽参数最大化数据边际似然下限，不同于其他变分逼近方法，本方法能够捕捉后验分布的多个模式，并成功应用于各种图模型和非线性矩阵分解模型中，预测性能优于更专业化的变分方法和基于样本的逼近方法。

Jun, 2012

基于期望最大化 (EM) 的非负张量分解统一框架，通过优化 Kullback-Leibler 散度来避免在每次 M 步骤和学习率调整中的迭代，并建立了低秩分解和多体逼近之间的一般关系，进而利用了多体逼近的闭式解来同时更新所有参数。我们的框架不仅为各种低秩结构（包括 CP、Tucker 和 Train 分解）提供了统一的方法，还包括了张量的组合形成混合以及稳健的自适应噪声建模。实证方面，与传统的基于张量的方法相比，我们的框架在离散密度估计方面提供了更好的泛化。

May, 2024

本文研究了在 Lipschitz 和 Sobolev 空间中具有全局隐私性的非参数密度估计问题，并探讨了隐私预算不应为常数的情况下的最优解。 结果表明投影估计器在这种新的设置下与纯差分隐私的相同密度类别几乎是最优的。

Jun, 2023

提出了一种基于核算子特征函数的密度比估计器，避免了显式降维步骤，可以更好地反映数据的几何结构，同时可扩展应用于极端高维下的似然函数估计问题。

Apr, 2014

本文介紹了一些新的高維度非參數密度估計算法，探討其在無監督學習中的應用，特別是聚類問題，並且提出了一些和高維數據分析相關的研究方向。

Mar, 2019

本文研究了属于生成对抗网络框架下学习密度函数的收敛速度，通过借鉴非参数统计学中的思路引入了一种改进型生成对抗网络估算器，同时利用目标密度的光顺程度和度量结果，实现更快速的学习速率，并理论上解决了文献中报道的模式崩溃问题。作者还构建了最小极大下界来证明，在维数较大的情况下，新生成对抗网络估算器的速率指数是接近最优的。因此我们的结果可以以量化的方式回答生成对抗网络在多种光滑程度具有不同密度下的学习效果，并从中获得了更好的泛化界限。

Dec, 2017