本文提出了一种基于混合整数规划的方法来解决最佳子集选择问题，旨在通过离散优化方法扩展现有的一阶连续优化算法，为线性回归提供更高质量的可行解，并延伸到最小绝对偏差损失函数，最终实验证明本文的方法在求解 $n$ 为 1000s 和 $p$ 为 100s 及 $n$ 为 100s 和 $p$ 为 1000s 的问题时可以在几分钟内得到可靠的最优解，并且相比于其他流行的稀疏学习过程，具有更好的预测能力和更少的稀疏性。

Jul, 2015

我们展示了 Lasso 估计器和 Dantzig 选择器间的近似等价性，并为两种方法推导出一般非参数回归模型中预测风险的并行 Oracle 不等式，以及在线性模型中在 1≤p≤2 的 l_p 估计损失的界限，当变量数量可以远大于样本容量时。

Jan, 2008

文章提出了基于稀疏假设的广义 LASSO 和 Dantzig Selector 方法，同时解决了 transductive 任务的问题。

Jun, 2009

使用加入 l1-norm 惩罚项的最大似然问题的解决办法来估计高斯或二元分布参数，以得到稀疏的无向图模型，并利用块坐标下降和 Nesterov's 一阶法等算法将复杂度限制在可接受范围内。

Jul, 2007

本研究探讨了一类 l0 正则化问题的对偶形式，并基于其原始问题和对偶问题结构开发了一种高效的原始对偶算法，通过利用对偶范围估计和增量策略，可能减少了冗余计算并改进了最佳子集选择的解决方案。理论分析和对合成数据集和实际数据集的实验验证了所提出解决方案的效率和统计特性。

Feb, 2024

本文研究考虑设计误差的线性回归模型，针对在实践应用中常见但引入噪声的自变量情况，提出了一种基于稀疏性假设的估计方法，并指出该方法在极小化期望风险下是近乎最优的。所提出的估计方法可以通过解线性规划问题实现高效计算，同时具有达到极小化效率界的估计量。

Aug, 2014

本文采用混合整数圆锥优化方法，结合整体广义线性模型，完全自动化模型选择过程。具体而言，我们直接优化赤池信息准则和贝叶斯信息准则，并在特征选择任务中引入旨在处理多重共线性的约束条件，其中包括一种新的配对相关约束，它结合了符号协调约束和来自经典统计模型（如岭回归模型和 OSCAR 模型）的想法。

Apr, 2024

本研究为高维非线性函数估计问题提出了一种基于 Bernoulli 分布连续松弛和梯度下降的特征选择方法，通过最小化指示变量向量的 l0 范数，同时选择相关特征和最小化损失函数。这种方法在合成和真实应用程序中表现出良好的潜力，并提供了将伯努利分布结合到我们方法中的信息理论证明。

Oct, 2018

提出了从混合整数锥优化的角度，具有证明最优的特征选择程序的机器学习方法，可以考虑辅助成本以获取特征，同时创建了用于临床预后模型研究的合成数据生成器，以系统评估不同的启发式和最优基数约束特征选择程序。

Oct, 2023

本文介绍了一种新的算法，通过将 LSTD 与 Dantzig Selector 结合，解决了 L1 正则化与 LSTD 整合的困难问题，该算法适用于高维问题。

Jun, 2012