本文提出了一种名为 FsNet 的 DNN 基于非线性特征选择方法，针对高维度和小样本数据。实验结果显示，该方法在多个真实的生物数据集上表现出较高的有效性。

Jan, 2020

本文提出使用组凸正则化的稀疏输入神经网络框架，用于解决在高维数据中进行的变量筛选和非线性函数估计的问题。通过对每个输入节点的所有出节点的权重的 L2 范数应用适当的凹值惩罚，从而为每个问题生成一个小型子集，取得了令人满意的有限样本性能和稳定的解决方案。

Jul, 2023

本文提出一种新的滤波器剪枝方法，该方法结合了多个特征图选择机制：多样性感知选择和相似性感知选择，能够有效地减小卷积神经网络的参数大小和浮点运算数，同时几乎不会降低其分类准确度。

May, 2020

针对高维、小样本的表格型生物医学数据，我们提出了一种 Weight Predictor Network with Feature Selection（WPFS）神经网络。该网络通过特征选择和参数减少来学习高维、小样本数据，具有较好的性能，并提供了有用的学习洞察。

Nov, 2022

通过神经元选择的结构化剪枝方法，可以通过减小基本结构的尺寸来减少 RNN 的存储和计算成本，并利用 L0 范数优化，取得了语言建模等任务上的优异表现。

Jun, 2019

本文提出了一种简单有效的框架来对深度模型进行端到端的剪枝，方法是先引入一个称为 “缩放因子” 的新参数来缩放特定结构的输出，然后对这些因子加入稀疏正则化，并通过修改的随机加速远端梯度（APG）方法解决这个优化问题。将某些因子强制为零，可以安全地移除对应的结构，从而削减 CNN 的不重要部分，该方法相较于其他需要数千次试验或迭代微调的结构选择方法具有更好的性能。

Jul, 2017

在一些领域（如医学数据）中，有大量的标注数据对于深度神经网络的效果至关重要。为了明智地选择待标注的数据（即子集选择问题），我们研究了子集选择和神经网络剪枝之间的关系，并建立了它们之间的联系。借鉴了神经网络剪枝的见解，我们提出了利用神经网络特征的范数准则来改进子集选择方法。我们在各种网络和数据集上进行了实证验证，证明了准确度的提高。这表明利用剪枝工具进行子集选择的潜力。

Jun, 2024

通过引入基于深度学习的自监督机制，提出了一种批量注意力自监督特征选择（A-SFS）方法，该方法利用多任务自监督自编码器发现特征之间的隐藏结构，并通过批量注意力机制生成特征权重，以减少少量有噪音数据的影响。与 14 种主要的算法进行比较，实验结果表明，该方法在大多数数据集中具有最高的准确性，并且在降低对标签的依赖，并且对于噪声和丢失数据最具有鲁棒性。

Jul, 2022

本文提出了一种基于多层感知机（MLP）网络的嵌入式特征选择方法，并将其推广到面向组特征或传感器选择问题，该方法可以控制所选特征或组之间的冗余级别。此外，我们还将组套索惩罚推广为特征选择的机制，以在同时保持对冗余的控制的情况下选择有价值的组特征。在适当的假设下，我们建立了所提算法的单调性和收敛性，并通过一些基准数据集上的实验结果展示了所提方法在特征选择和组特征选择方面比一些最先进的方法具有良好的性能。

Oct, 2023

特征选择是机器学习和数据挖掘中的一项复杂任务，其目标是去除无关和多余的特征，以提高分类准确性和减少内存需求。我们提出了一种多目标二进制优化算法 Compact NSGA-II，通过紧凑表示将种群视为概率分布，从而减少适应度评估次数，有效地探索搜索空间并在有限预算内表现出更高的效率。该算法是首个用于特征选择的紧凑多目标算法，并在五个数据集上的昂贵优化案例中取得了比 NSGA-II 更好的性能表现。

Feb, 2024