- 关于上下文学习中敏感性和准确性之间的关系
我们研究了上下文学习的灵敏度,并发现标签偏差使真实灵敏度难以确定。由此,我们提出了一种少样本选择性预测方法 —— extsc {SenSel},此方法避免了敏感的预测,实验结果表明, extsc {SenSel} 在十个分类数据集上一致优 - KDD基于可解释人工智能的消融研究分析
针对可解释人工智能 (XAI) 方法缺乏基础事实的问题,研究人员提出了基于公理的方法,通过削弱输入属性的重要性来评估模型性能是否符合期望;本文则使用五个数据集,三种 XAI 方法,四个基线和三个扰动方案,展示了不同的扰动策略在验证过程中的作 - 利用生成潜空间中的对比可反事实来解释图像分类器
在不需要重新训练或调整的情况下,使用预训练的生成模型,介绍了生成因果关系和可解释的反事实解释方法,以提供对黑匣子算法的透明性,并获得对面部属性分类器的对比和因果支持和必要分数,从而展示不同属性如何影响分类器输出。
- 随机特征回归模型的最优激活函数
针对随机特征回归模型(RFR)的渐近均方测试误差和灵敏度进行了深入研究,找到了一系列在不同的函数简洁性定义下最小化 RFR 测试误差和灵敏度的激活函数族,并确定了优化的激活函数在 RFR 模型的特定属性下的影响。
- 神经网络中唯一私有特征的非预期记忆度量
通过对图像分类的神经网络进行实验,我们发现神经网络即使在训练数据中只出现了一次,也不经意地会记住独特的特征。我们开发了一个得分来估计模型对独特特征的敏感性,结果表明神经网络对于训练数据中罕见的隐私信息都具有风险。
- 时间关注:使用时间序列归因方法的全面基准测试
本文重点研究时间序列分析,对比了几种最先进的卷积分类器解释方法,发现扰动法是较优选项,但也强调选择最适合的归因方法与所需用例的选择密切相关。
- ICLR无参数落下:基于敏感度导向的自适应学习速率训练大型 Transformer 模型
通过提出一种新的训练策略,根据每个参数的敏感度自适应调整学习率,以减少冗余并改善泛化性能。该训练方法在自然语言理解、神经机器翻译和图像分类方面取得了显著的有效性。
- ACL自然语言处理中的模型解释的敏感性和稳定性
该研究提出两个衡量 NLP 模型判断过程解释准确性的新标准,即灵敏度和稳定性,并引入了一种新的基于对抗性鲁棒性的解释方法,证明了其在相应标准下的优越性。还应用该方法和度量标准在依赖分析中。
- 自动有限样本鲁棒性指标:少量数据的丢失是否能够产生显著影响?
本文提出了一种评估应用计量经济学结论对样本中很小一部分数据敏感性的方法 —— 近似最大影响摄动法,并提供了有限的样本误差界,发现敏感性取决于推断问题中的信噪比,不会随着渐近逐渐消失,并不是由于错误规范而引起的。
- 基于公理的 Grad-CAM:CNN 的准确可视化和解释
本文提出了两个公理– 保守性和灵敏度,为 CAM 方法的可视化范式引入了理论支持,并提出了一个专门基于公理的 Grad-CAM(XGrad-CAM),以尽可能地满足这些公理。实验证明,相对于 Grad-CAM++ 和 Ablation-CA - DeepStreaks:使用深度学习在 Zwicky 瞬变设施数据中识别快速运动的物体
使用卷积神经网络的 DeepStreaks 系统能够高效、准确地识别和追踪 ZTF 所捕获的高速行星,有效减少人工识别的时间和准确性。
- 关于解释的 (不) 忠诚度和灵敏度
本文探讨了针对复杂黑箱机器学习模型的显著性解释的客观评估措施,并提出了两种最近文献中考虑的(不)逼真度和敏感性的简单稳健变体。通过优化这些措施的最优解释,我们提出了一种新颖的方法,通过改变定义不忠实度的扰动分布来获得新颖的解释,我们显示出其 - 通过模型突变测试实现深度神经网络的对抗样本检测
该研究提出了一种使用统计学假设检验和模型变化测试的敏感性测量方法,以在运行时检测基于 MNIST 和 CIFAR10 数据集的最新攻击方法生成的对抗样本的方法。结果表明,该方法可以高效准确地检测出对抗样本。
- 过度不变性导致对抗性漏洞
深度神经网络对任务无关的改变过于敏感,对任务相关的改变过于不敏感,导致广泛的输入空间易受到对抗攻击,传统的交叉熵损失函数存在局限性,本文提出了基于信息论分析的目标函数以克服这些问题。
- ICLR深度神经网络的本地解释方法对参数值缺乏敏感性
通过对深度神经网络的局部解释方法进行研究,发现具有随机初始化权重的 DNN 与具有学习权重的 DNN 的解释在视觉和数量上都很相似,可能是因为较低层次的特征被 DNN 的结构所主导,这对学习到的表示具有极大的影响。
- CVPR深度学习解释的交互式分类
本文介绍了一个交互式系统,使用户能够操作图像,探索深度学习图像分类器的稳健性和灵敏度,用户可以使用图像修复算法删除图像特征并实时获得新的分类,从而通过实验性地修改图像并观察模型的反应,提出各种 “如果” 的问题。我们的系统允许用户比较和对比 - 应用于推广限制的神经网络压缩数据相关聚类
提出了基于 Coresets 的神经网络压缩算法,利用重要性采样方案削减冗余参数并保留重要参数,通过理论分析表明压缩网络的大小和准确性得到保证,并给出了新的一般性界限,对神经网络的泛化特性提供了新视角,并在各种神经网络配置和实际数据集上证明 - 光滑布尔函数很容易:低灵敏度函数的高效算法
该文章证明了计算平滑的布尔函数的计算上界、点态噪声稳定性保证和局部纠正误差,为攻击布尔函数判断树猜想提供了新的证据和新方向。
- 从 MOOC 论坛学习教师干预:初步结果与问题
本论文研究 MOOC 授课中关于其有限带宽下教师何时干预讨论,设计了一个二元分类器,在分类过程中结合论坛类型信息,通过人类评判验证表明该问题的难度,且结果受教师干预偏好影响较大,并指出了未来相关研究问题。
- MMSOAP3-dp: 基于 GPU 的快速、准确、敏感的短读比对器
SOAP3-dp 是一个同时提供高速和高灵敏度的短读比对软件,它利用 CPU 和 GPU 的计算能力和优化算法来优化短读比对,相对于其他广泛采用的比对器和 GPU 比对器,SOAP3-dp 在不同长度的 Illumina 读取上的灵敏度和假