Feb, 2024

基于块稀疏信号的多元化学习

PDF
TL;DR提出了一种新颖的先验 Diversified Block Sparse Prior，用于描述现实世界数据中普遍存在的块稀疏现象。通过允许方差和相关矩阵的多样化，我们有效地解决了现有块稀疏学习方法对预定义块信息的敏感性问题，实现了自适应的块估计同时减少过拟合的风险。基于此，提出了一种多样化块稀疏贝叶斯学习方法（DivSBL），利用 EM 算法和双升方法进行超参数估计。此外，还建立了模型的全局和局部最优性理论。实验证实了 DivSBL 相对于现有算法的优势。
diversified block sparse priorblock sparsityadaptive block estimationdivsblhyperparameter estimation
发现论文，激发创造
  • 稀疏深度学习的自适应经验贝叶斯方法

    本文提出了一种新的自适应经验贝叶斯方法来实现稀疏深度学习，该方法通过使用一类自适应 spike-and-slab 先验来保证稀疏性，应用该方法在 MNIST 和 Fashion MNIST 数据集上的表现最先进，在 CIFAR10 数据集的压缩性能也是最好的，同时该方法还提高了对抗攻击的抵抗能力。

    Oct, 2019

  • 盲压缩感知的稀疏变换联合学习模型基于数据驱动

    本研究提出了一种同时重建基础图像和未知模型的盲压缩感知框架，用于利用稀疏变换或字典中图像 / 图像补丁的稀疏性从高度欠采样的测量中精确恢复图像。我们将这个模型扩展到了一个转换融合模型，以更好地捕捉自然图像中的特征。与其他最近的图像重建方法相比，我们的数值实验表明，提出的框架通常会导致 MRI 图像重建的质量更好。

    Nov, 2015

  • 任意线性变换下的自适应块稀疏正则化

    我们提出了一种用于未知块结构下任意线性变换的块稀疏凸信号重建方法，它是现有方法 LOP-𝓁₂/𝓁₁的一种推广，能够在不可逆变换下重建具有块稀疏性的信号。我们提供了解决该方法的迭代算法，并给出了收敛到最优解的条件。数值实验验证了该方法的有效性。

    Jan, 2024

  • 使用变分德特密度点过程实现稀疏化的多样性

    提出了一个基于行列式点加工（DPP）的新颖多样的特征选择方法，用于生物信息学中的癌症基因预测和空间统计，显著提高了特征多样性，不降低准确性。

    Nov, 2014

  • 稀疏贝叶斯学习模型的超参数估计

    本文提出了一个综合框架，用于稀疏贝叶斯学习模型中的超参数估计，包括著名的算法如期望最大化、MacKay 和凸包算法。通过交替最小化和线性化范式来统一解释这些算法，并引入了一种新颖的算法，表现出增强的效率，尤其是在低信噪比条件下。此外，还通过收敛性分析和数值实验来证实这些进展，在各种噪声条件和信噪比下证明了算法的有效性。

    Jan, 2024

  • 学习滤波器稀疏变换

    本论文提出了一个新的变换学习框架，其中稀疏变换是一个不可降采样的完美重构滤波器组设定，数值结果表明，滤波器组变换优于现有的基于图像块变换学习方法，同时在设计过程中具有额外的灵活性。

    Mar, 2018

  • MSplit LBI: 在 Few-shot 和 Zero-shot 学习中同时实现特征选择和密集估计

    本文提出了一种新的方法 --MSplit LBI 来同时实现特征选择和密集估计，实验证明该方法优于 L₁和 L₂正则化，并在 few-shot 和 zero-shot 学习中实现了最先进的性能.

    Jun, 2018

  • 折叠凹形 Laplacian 谱罚款学习带强 Oracle 属性的块对角稀疏模式

    本文通过开发一种折叠凹形拉普拉斯光谱惩罚方法和提供相应的非凸问题的主导最小化算法，展示了该算法在高维条件下仅需两步就可以很可能地收敛到 Oracle 估计器，进而证明了这种算法具有吸引人的计算保证和统计保证，并在协方差估计、线性回归和逻辑回归等案例中进行了验证。

    Jul, 2021

  • 稀疏广义线性模型的大规模变分推断和实验设计

    本文介绍了一种基于贝叶斯思想的算法框架，通过查询稀疏线性模型后验协方差来解决高阶贝叶斯决策问题，并且利用该算法框架成功地推动了磁共振成像的采样轨迹优化，为实际图像的压缩感知提供了新的启示。

    Oct, 2008

  • 带稀疏先验的贝叶斯线性回归

    研究高维线性回归的完全贝叶斯程序，旨在寻找未知的稀疏矢量，选择正确的稀疏模型或显著不同于零的系数，并构建和研究置信集以量化不确定性。

    Mar, 2014