本文提出了一种基于混合整数规划的方法来解决最佳子集选择问题，旨在通过离散优化方法扩展现有的一阶连续优化算法，为线性回归提供更高质量的可行解，并延伸到最小绝对偏差损失函数，最终实验证明本文的方法在求解 $n$ 为 1000s 和 $p$ 为 100s 及 $n$ 为 100s 和 $p$ 为 1000s 的问题时可以在几分钟内得到可靠的最优解，并且相比于其他流行的稀疏学习过程，具有更好的预测能力和更少的稀疏性。

Jul, 2015

使用轻量级贝叶斯处理和基于大规模预训练模型的即用型零样本预测器，解决了现实场景中标记错误、重复或有偏差的数据在训练中的问题，提高了模型的训练效率。

Aug, 2023

本文介绍一种使用多样性模型的训练数据子集选择方法，该方法可提高计算机视觉任务的准确性并减少标注成本。

Jan, 2019

本文提出使用大规模集成主动学习方法来扩展数据子集搜索，通过在数百个模型中重复使用中间训练检查点来实现。实验结果表明，优化训练数据分布可以对大规模视觉任务带来显著的益处。

May, 2019

该研究提出了一种基于子模函数最大化的小批量选择策略，设计了一种高效的、贪心的算法来解决该 NP - 硬组合优化问题。实验表明，所提出的批量选择策略培训的深度模型具有比随机梯度下降优化方法以及流行的基准采样策略更好的泛化性能。

Jun, 2019

本文介绍了一种自适应子抽样方法 AdaSelection，能够快速训练大规模深度学习模型，同时不会牺牲模型性能，该方法能够灵活地组合任意数量的基准子抽样方法，并在每次迭代中结合方法级重要性和内部方法样本级重要性，我们通过在不同类型的输入和任务上进行分类任务测试以及回归任务测试来展示我们的方法的有效性。与业界标准基线相比，AdaSelection 始终显示出优异的性能。

Jun, 2023

本研究探讨了一种新的用于 fine-tuning 神经网络的方法，称为子集 fine-tuning，即只对部分层进行精细调整并锁定其余权重，该方法可以在不增加计算成本的情况下实现多任务的学习和推理，并在数据稀缺的情况下实现与完全 fine-tuning 模型相当甚至更好的性能。

Feb, 2023

提出了一种数据子集选择框架 Glister，通过将离散数据选择作为弱次模优化的实例。该框架可应用于机器学习的不同方面，可以提高模型的效率和准确性，并且在鲁棒性方面表现出色。

Dec, 2020

该论文提出了一个新的理论框架，以提供关于 MAML 算法在两种实际感兴趣的目标函数（重新采样情况和有限和情况）下收敛性的保证，并表征了在非凸情况下实现多步 MAML 的计算复杂度和收敛速率，建议内部阶段步长应选择与内部阶段步数 N 成反比来保证 N 步 MAML 有保证的收敛性，从技术上讲，它们开发了处理多步 MAML 的元梯度嵌套结构的新技术。

Feb, 2020

通过设计一个独特的数据选择流程，利用现有的通用模型对各个数据集进行单次推理，而无需额外的训练或监督，本文提出了一种新的自由数据选择（FreeSel）方法，通过捕捉通用模型的中间特征中提取出的语义模式来选择所有数据样本，可以显著提高效率，并且比现有的主动学习方法快 530 倍。

Sep, 2023