Jan, 2024

基于非凸优化的快速半监督解混合

PDF
TL;DR本文介绍了一种针对半监督 / 基于库的解混合的新型线性模型，该模型结合了库不匹配的考虑，同时实现了丰度总和为一的约束 (ASC)。与传统的稀疏解混合方法不同，该模型涉及非凸优化，带来了显著的计算挑战。我们证明了交替乘子法 (ADMM) 在循环解决这些复杂问题方面的有效性。我们提出了两种半监督解混合方法，分别依赖于应用于新模型和 ASC 的不同先验：稀疏性先验和凸性约束。我们的实验结果验证了对端元库施加凸性约束优于稀疏性先验。这些结果在三个模拟数据集 (考虑光谱变异性和不同像素纯度级别) 和 Cuprite 数据集上得到了验证。此外，我们与传统稀疏解混合方法的比较展示了我们提出的模型的明显优势，该模型涉及非凸优化。值得注意的是，我们提出的算法 (快速半监督解混合 FaSUn 和软阈值稀疏解混合 SUnS) 的实现要比传统稀疏解混合方法高效得多。SUnS 和 FaSUn 使用 PyTorch 实现，并在一个名为 Fast Semisupervised Unmixing (FUnmix) 的专用 Python 包中提供，该包是开源的，可在此 URL 获取。
linear modelsemisupervised unmixinglibrary mismatchconvexity constraintnonconvex optimization
发现论文，激发创造
  • 约束稀疏回归的交替方向算法：应用于高光谱解混合

    本文介绍了两种新算法（SUnSAL 和 C-SUnSAL），用于解决凸优化问题，特别是在高光谱分离中使用的问题。这些算法基于交替方向乘子方法，可用于解决 CBP 和 CBPDN 问题以及 CLS 和 FCLS 问题。实验结果表明，这些算法在速度和准确性方面优于现有的方法。

    Feb, 2010

  • 一类非凸、非光滑问题的交替方向乘子法及其在背景 / 前景提取中的应用

    本文针对图像科学中广泛使用的一类优化问题，基于 ADMM 算法，通过使用通用的双重步长方法、构建特殊的潜函数以及采用简单的初始化策略实现了非凸优化问题全局收敛和解决，并在实际应用中进行了比较实验，表明最优化效果良好。

    Jun, 2015

  • 基于 Correntropy 度量的鲁棒高光谱解混合

    本文提出了一种基于神经元的半二次优化技术的鲁棒性第一个非监督高光谱分离模型，该模型针对纯度未知的情况下如何准确进行分离和清晰谱带噪声的情况下如何去噪，通过引入基于神经元的指标和数据稀疏等约束条件来解决这些问题.

    May, 2013

  • 具有生成先验学习的快速可证明 ADMM

    本文提出了一种线性化的 ADMM 算法，用于最小化一个凸函数在非凸约束下的解，旨在解决变量处于神经网络范围内的约束问题，并给出了这种算法在 feedforward 架构下的性能特征，相比于梯度下降法更加高效。

    Jul, 2019

  • 使用无约束未标记数据扩大半监督学习规模

    提出了一种名为 UnMixMatch 的半监督学习框架，该框架可以从无约束的未标记数据中学习有效表示，以提高性能。它由三个组件组成：具有硬增强的监督学习器提供强大的正则化，对照一致性正则化器从未标记数据中学习底层表示以及自监督损失用于增强从未标记数据中学习的表示。在 4 个常用数据集上进行了实验，在现有的半监督方法上表现出卓越的性能提高 4.79%。广泛的消融和敏感性研究表明了我们方法的每个提出组件的有效性和影响。

    Jun, 2023

  • 交替方向乘子法的非凸稀疏谱聚类及其收敛性分析

    该研究提出了一种基于交替方向乘子法 (ADMM) 的非凸稀疏谱聚类算法，直接对 $UU^ op$ 施加稀疏正则化，该算法具有收敛保证和高效性，实验结果验证了其有效性。

    Dec, 2017

  • 非凸非光滑优化中的 ADMM 全局收敛性

    本文分析了交替方向乘子法（ADMM）在非凸优化中的收敛性，并提供了针对特定情形的收敛保证。同时，通过例子和分析，本文表明 ADMM 有望比增广拉格朗日方法（ALM）更适用于某些非凸非光滑问题。

    Nov, 2015

  • 小批量随机 ADMM 方法求解非凸非光滑优化问题

    本文提出了一种用于解决大规模非凸非光滑问题的小批量随机 ADMM 类方法，并将小批量随机梯度方法扩展到非凸 SVRG-ADMM 和 SAGA-ADMM 中。

    Feb, 2018

  • 非凸随机优化中的随机 Anderson 混合

    提出了一种基于 Anderson Mixing 的随机方法，称为 SAM，用于求解非凸随机优化问题，并应用于训练各种神经网络，包括 CNN、ResNet、WideResNet、ResNeXt、DenseNet 和 RNN，实验证明该方法具有优异的性能。

    Oct, 2021

  • SUnAA：基于典型分析的稀疏解混合

    本研究介绍了一种使用原型分析进行稀疏成分分解的新技术 (SUnAA)。该技术基于原型分析设计了一个新模型，通过对兴趣成分的凸组合进行估计，并使用非凸优化问题和主动集算法进行迭代求解。实验结果表明，SUnAA 在信号重构误差方面相比其他传统和先进技术具有更好的性能，并且成功估计了矿物质量和改善了主要矿物的检测。

    Aug, 2023