- 序数分类的一致风险控制
我们扩展了标准的符合预测方法,开发了几种符合风险控制方法,并应用于不同的学习问题。本文中,我们致力于控制序列分类任务中的符合风险,该任务在许多实际问题中具有广泛应用。为此,我们首先在符合风险控制框架中对序列分类任务进行了规范,并提供了理论风 - 异质决策者下的选择性标签学习:一种工具变量方法
本文针对部分标注的学习问题进行研究,提出了一种基于工具变量框架的加权学习方法,分析了预测规则全人群风险的端点识别条件,并在半合成金融数据集上进行了实验,证明了方法在选择偏差存在时具有更优异的性能。
- 深度线性网络在浅层网络无法时可能出现良性过拟合
本研究针对使用梯度流训练的深度线性网络的过度风险进行了边界限制,发现与最小 l2 范数插值的已知边界非常接近或者相等,深度并不能提高算法隐藏噪声的能力,并通过模拟数据验证了该边界的典型行为。
- ICCV基于知识驱动的狄利克雷过程的终身无限混合模型
本文通过理论分析计算模型估计生成的随机分布与目标数据分布之间的差异距离,推导了生命周期学习模型的风险范围,提出了新的生命周期学习方法 Lifelong Infinite Mixture(LIMix)模型,通过门控机制自适应地扩展其网络结构以 - 变分贝叶斯统计最优性
本文研究了使用变分贝叶斯方法进行参数估计的合理性问题,并提供了获得基于点估计的最优风险界的一般条件。这些条件涉及参数空间上距离度量的某些测试函数的存在以及对先验的最小假设。本文概述了验证这些条件的一般步骤,这对具有或没有潜变量的现有贝叶斯模 - 随机凸优化的经验风险最小化:$O (1/n)$ 和 $O (1/n^2)$ 类型的风险界
利用平滑和强凸条件改善风险上界,建立了新的凸优化式 的有限样本错误分析方法。
- 向量值函数估计的界限
本文提出了一个框架,用于推导具有广泛特征映射和损失函数的向量值学习的风险界限。我们采用多任务学习和一对多多类别学习作为例子,并详细讨论了具有一层隐藏层的向量值函数,并证明了共享表示何时有利于多任务学习同样适用于多类别学习。
- KDD具有可证明保证的 Ridge 回归特征选择
提出了一种基于单个集合的谱稀疏化和杠杆分数采样的特征选择方法,用于分类问题和岭回归问题,并在固定设计的情况下,给出了两种方法的风险边界和实验结果,表明所提出的方法比现有的特征选择方法表现更好。
- 关于保序和其他形状受限回归问题的风险界限
在一定约束条件下通过最小二乘估计器来估算位于特定凸多面锥体内的未知 θ ,得到了该估计器的风险边界,特别地,研究了保序回归中的风险边界及其本地最小值下边界。
- 在线线性回归中个别序列的稀疏性遗憾界
本文探讨了在线线性回归问题,针对稀疏情况提出了一种确定性在线对应方法,同时将其应用于随机性线性回归模型,实现了自适应风险界限的计算。
- 鲁棒线性最小二乘回归
针对在普通最小二乘法回归中预测的偏差问题,我们提出了一个更好的估算方法 —— 基于截断误差差值的极小 - 极大框架,其期望和差距都为 d/n。