- 高维线性多臂赌博机与背包问题
研究如何在高维度环境下应用稀疏估计和在线学习算法改进上下文强化学习中的多臂老虎机与背包问题,通过联合在线估计和原始 - 对偶框架,控制背包容量,从而取得了特征维度对数级依赖的次线性遗憾,同时在数据贫瘠和数据丰富情况下实现了最优遗憾结果。
- 线性模型中的彩票票:迭代幅值剪枝分析
本文分析了彩票假设下利用迭代幅值剪枝方法对梯度流训练的线性模型进行裁剪的过程,并探讨了 IMP 作为一种稀疏估计方法的效果。
- 通过迭代滤波进行异常值鲁棒的高维稀疏估计
研究高维稀疏估计任务中的鲁棒性问题,提出使用基于谱技术的迭代式方法消除数据中的离群值,实现高效稳健的稀疏均值估计和稀疏主成分分析。
- 利用 L1 回归进行对抗稀疏噪声的压缩感知
本文提供了一个简单有效的算法来解决稀疏鲁棒线性回归问题,即从被稀疏噪声干扰的线性测量中估计一个稀疏的向量,对于高斯测量,基于 L1 回归的简单算法可以成功地估计任何小于 0.239 的锁定率,而该算法所需的测量数为 O (klog (n/k - MSplit LBI: 在 Few-shot 和 Zero-shot 学习中同时实现特征选择和密集估计
本文提出了一种新的方法 --MSplit LBI 来同时实现特征选择和密集估计,实验证明该方法优于 L₁和 L₂正则化,并在 few-shot 和 zero-shot 学习中实现了最先进的性能.
- 从贝叶斯稀疏到门控循环神经网络
本文指出,关于促进稀疏性的更强大的贝叶斯算法具有类似于长短期记忆 (LSTM) 网络或先前设计用于序列预测的替代门控反馈网络的结构,从而导致了一种新的稀疏估计系统,当授予训练数据时,可以在其他算法失败的方案中高效地估计最优解,包括在实际方向 - 高维稀疏估计任务的鲁棒性
本文研究在高维度及受到恶意破坏性干扰情况下,稀疏估计任务能否有效地完成,并提供了一些在存在噪音的情况下,提供非平凡误差保证的有效算法。研究表明,在这些问题上存在着计算与统计之间的差距。
- 高斯图模型的差异性检验及其应用:大脑连接研究
该研究通过使用稀疏估计的参数来计算信赖区间,建立了基于大脑功能的参数分布,提出一种去偏的多任务融合 Lasso 方法。该方法可用于比较变化的功能脑网络边缘,并在自闭症研究方面进行了验证。
- 稀疏估计的广义条件梯度算法
本文研究了广义条件梯度算法在解决稀疏结构优化问题中的应用,提出了优化极化算子计算的高效方法,证明其在数据处理方面的有效性。实验表明,该算法能够显著减少现有方法的训练成本。
- 增量主次优化在大规模机器学习中的应用
提出了一种增量主化极小化算法,用于最小化连续函数的大量和,研究给出了非凸优化的渐近稳定点保证,并针对凸优化提供了期望目标函数值的收敛速度,在实验中展示了该方法在解决机器学习问题方面的竞争力以及处理非凸性惩罚稀疏估计的实用性。
- 协方差估计:广义线性模型和正则化视角
本文提供了一种将协方差矩阵估计问题转化为回归问题的方法,通过压缩维度,追求稀疏性和构建新的可解释性的矩阵分解,解决了在高维数据情况下使正定约束成本过高的问题。
- 基于凸优化的结构稀疏化
本文介绍了一种基于结构规则的稀疏估计方法,通过应用不仅仅关注稀疏性,而且可以考虑一些结构化先验知识,这种方法可以处理多种结构的问题。同时,我们还介绍了该方法在无监督学习、非线性变量选择等方面的应用。
- 指数筛选与稀疏估计的最优速率
通过 Exponential Screening 方法,本文讨论了高维线性回归的稀疏估计问题,提出一个同时考虑稀疏性和均方误差最小的线性组合近似函数估计方法,并证明其在高斯回归方面的优越性。