- 面向协变量偏移条件下核方法统一分析的探究
统一分析了具有协变量转移的一般非参数方法在再生核希尔伯特空间下的理论,得出了收敛速度,并与现有文献中使用的最优结果相吻合。在合成和实际例子上进行的广泛数值研究证实了我们的理论发现,进一步说明了我们提出的方法的有效性。
- 在协变量偏移下,在少量测试样本的情况下改善公平性和准确性的权衡
在测试数据中的协变量偏移可以显著降低模型的准确性和公平性表现。我们提出了一种基于加权熵的预测准确性目标和表示匹配损失的新型组合目标函数,通过实验证明了我们的损失函数优化在公平性与准确性的权衡上优于其他基线方法。我们还提出了一种称为不对称协变 - ImageNet-OOD: 解析现代异常检测算法
通过广泛的实验,我们展示了当前的 ODD 检测器对于协变量转移比语义转移更为敏感,并且最新的 ODD 检测算法对于语义转移的检测效果微乎其微。我们的数据集和分析为指导未来的 ODD 检测器设计提供了重要见解。
- 目标平均处理效应的倍加稳健联邦估计
提出了一种新颖的联合方法,基于多中心数据实现针对目标人群的有效因果推断。通过开发多重鲁棒的针对隐私保护的烦扰函数估计方法,我们对各个中心之间的协变量偏移和不匹配进行了调整。我们的方法融合了迁移学习,用于估计集成权重以组合来自源站点的信息。我 - 面向未知领域的有效语义 OOD 检测:基于领域泛化的视角
语义领域间异常检测方法同时解决多个分布转变,并通过提出的领域泛化和异常检测正则化策略,在三个领域泛化基准测试中展示了其对于异常检测性能的卓越表现以及相当的 InD 分类准确度。
- ICCV距离在改善协变量偏移下的性能估计中起作用
考虑到协变量转移下测试样本与预期训练分布的距离,可以显著提高性能估计,通过引入 “距离检查” 来避免依赖于不可信任的模型输出以进行准确度估计。
- 神经网络在协变量转换下的安全性能
基于神经网络的激活模式和操作数据的近似分布,我们提出了一种基于约束的方法,通过重塑初始测试集来重新评估神经网络的安全性能,以解决协变量转移对操作安全性能的影响问题。
- 最小误差熵准则的鲁棒性再探:一项迁移学习案例研究
本文旨在探讨最小误差熵准则 (MEE) 在非高斯噪声情况下的鲁棒性,并将其运用在实际的迁移学习回归任务中,结果表明仅通过将 MSE 损失替换为 MEE,我们就能够在 fine-tuning 和线性探测等基本的迁移学习算法上取得与最先进的算法 - ICML一石二鸟:利用野外数据实现区分数据泛化和检测
本文提出了一种新的 margin-based learning 框架,该框架利用公开的未标记数据,在同时泛化到协变量移位的情况下,鲁棒地检测语义移位。
- 协变量偏移适应性的双加权方法
该研究提出了最小化风险分类的方法来处理资料控制变量变化的问题,同时也发展了有效的技术,取得了更好的分类性能。
- 信息几何泛化协变量移位自适应
本文研究了机器学习中的一个重要研究主题:协变量转移。我们表明这个领域的方法都可以归为信息几何的范畴,并且我们提出的方法可以更高效地进行参数搜索和更好地适应数据,结果比现有方法好。
- 基于领域和区域的机器学习性能抗协变量移位能力评估
本文研究了异变转移对传统机器学习模型性能的影响,通过对概率密度函数域的区域进行分类器性能评估,发现在二维分类问题中,随机森林算法表现最好,在高维实验中,模型主要受到分类函数复杂度的影响,对高密度区域呈现出高偏差的性质。
- 统一的超领域检测:基于模型视角
本文提出了一个更广泛的框架来研究模型针对特定因素(如未知类别、协变量变化等) 检测 out-of-distribution(OOD)问题,该框架能够检测出一个训练好的机器学习模型无法正确预测的测试样例,而是否拒绝该测试样例取决于模型本身,该 - CLARE: 离线反向强化学习中保守的基于模型的奖励学习
该论文提出了一种名为 CLARE 的算法,该算法通过将 “保守性” 纳入学习的奖励函数并利用估计的动力学模型来解决离线逆强化学习中的奖励外推错误问题,其得到的学习奖励函数是高度可指导后续的学习,通过大量实验证明了 CLARE 相较于现有最先 - DITTO: 带有全局模型的离线模仿学习
使用物理世界模型和在线强化学习,本文提出了一种 DITTO 的离线模仿学习算法,用于解决协变量转移的问题,并通过 Atari 游戏环境测试表明,在线学习性能已经达到了最先进水平。
- 基于反向模型的少量演示稳健仿真
本文提出了一种基于生成式反向动力学模型的行为克隆方法以解决自我学习表现不佳的问题,利用模型产生短期想象轨迹进行训练,提高了模型的健壮性和适应性。
- 批量层归一化,一种用于 CNNs 和 RNN 的新归一化层
介绍了一种新的归一化层 Batch Layer Normalization(BLN),可以在深度神经网络中减少内部协变量偏移问题,通过适应性的权衡 mini-batch 和特征标准化,并且具有比批归一化和层归一化更快的收敛速度。
- 缓解协变量和条件偏移的领域泛化
本文提出一种新颖的领域泛化方法,通过视觉对齐和基于不确定性引导的置信度集成 (VAUE) 来处理分布偏移,在 4 个广泛使用的数据集上展示了其卓越的性能。
- DeepTime: 面向非平稳时间序列预测的深度时间索引元学习
本论文介绍了 DeepTime,一个通过元学习培训的深度时间索引模型,它在非平稳时间序列预测方面具有显著的优势,并展示了与现有神经预测方法相比的竞争结果和高效性。
- KDD协变量偏移下的类别先验估计:难点何在?
本文探究了在分类上,当协变量发生变化时,简单的预先估计方法是不可行的,因为降低协变量的信息量会导致与源和目标分布之间的关系失去恒定性。我们证明了在统计意义上,保留协变量变化特性的协变量变换对于所有协变量是必要的,同时提出了一种另类的探究算法