惩罚式生成变量选择

Feb, 2024

Penalized Generative Variable Selection

Tong Wang, Jian Huang, Shuangge Ma

TL;DR利用条件瓦狄斯坦生成对抗网络进行建模和估计，应用组 Lasso 惩罚实现变量选择，分析受截尾生存数据的收敛率、近似误差和效率，以及通过仿真和实验数据分析实际应用中的实用性。

Abstract

deep networks are increasingly applied to a wide variety of data, including data with high-dimensional predictors. In such analysis, variable selection can be needed along with estimation/model building. Many of

deep networks variable selection conditional wasserstein generative adversarial networks group lasso penalization censored survival data

发现论文，激发创造

高维特征空间变量选择的选择性概述（邀请评论文章）

本文简要介绍了高维统计推断中变量选择的理论、方法和实现的最近发展，强调单峰罚函数的统计性质及其在高维统计建模中的作用，同时还回顾了独立筛选和两种方法在超高维变量选择方面的最近进展。

Oct, 2009

使用组凸规则的稀疏输入神经网络

本文提出使用组凸正则化的稀疏输入神经网络框架，用于解决在高维数据中进行的变量筛选和非线性函数估计的问题。通过对每个输入节点的所有出节点的权重的 L2 范数应用适当的凹值惩罚，从而为每个问题生成一个小型子集，取得了令人满意的有限样本性能和稳定的解决方案。

Jul, 2023

特征选择作为深度顺序生成学习

我们提出了一种深度序列生成学习方法来进行特征选择，该方法通过学习连续嵌入空间，将特征选择决策序列映射为与效用分数相关的嵌入向量，从而解决了传统方法中存在的离散搜索空间和专家特定超参数的问题。

Mar, 2024

高维变量选择

本文讨论了在高维模型中进行变量选择时可以给出什么样的统计保证，并以某些多阶段回归方法的误差率和功率为例。我们考虑了三种筛选方法：套索、边际回归和前向逐步回归，提出了在某些条件下一致的变量选择方法。

Apr, 2007

辅助深度生成模型

通过引入辅助变量（auxiliary variables），我们扩展了深度生成模型，用于提高变分近似方法，这让变分分布更有表现力，具有更快的收敛速度和更好的结果，从而实现了半监督学习的最先进性能，适用于 MNIST、SVHN 和 NORB 数据集。

Feb, 2016

深度神经网络的分组稀疏正则化

探讨了深度神经网络、特征选择和优化之间的关系，并通过引入 Group Lasso penalty 的方法，同时解决了三个问题，证明此方法可以在大规模分类任务上有效地实现。

Jul, 2016

具有缩小和扩散先验的贝叶斯变量选择

提出一种基于贝叶斯方法、将先验分布放置在回归系数以及模型空间上、使用针对高维协变量的针尖和板块高斯先验、通过 Gibbs 抽样执行的变量选择方法，具有可靠的选择一致性和优于其他方法的良好性能。

May, 2014

生成模型的自适应密度估计

该论文研究了无监督学习中生成模型的训练方法，提出了一种在对抗网络与似然训练之间进行混合训练的方法，其中使用深度可逆变换来解决概率和逆变换之间的冲突，实现了更好的生成样本和更高的似然性评估。

Jan, 2019

通过变量选择稳定性实现调参参数的一致性选择

本文提出了一种基于变量选择稳定性的通用调参方法，通过选择调参，使得结果回归模型在变量选择上更加稳定，并在固定和发散维度下建立了选择一致性，同时在多种模拟示例和前列腺癌数据应用中证明了其有效性。

Aug, 2012

重要性加权生成网络

该研究介绍了基于重要性加权算法的深度生成网络，该算法可以在无法直接访问目标分布的情况下，估计与目标分布相对的损失函数，并在理论和实践上表现出色。

Jun, 2018