- 对抗鲁棒性的频域视角
针对深度学习系统中的对抗样本存在的挑战,提出了一种基于频率的对抗样本理解方法,并分析了在频率约束下训练鲁棒性模型的性质及其准确性与鲁棒性之间的权衡关系。
- ACLBERT-Defense: 基于 BERT 的概率模型用于抵御认知启发式正交攻击
本文研究在深度学习系统中敌对攻击的问题,使用字符级攻击并检验了几种防御方法和模型,表明一种无监督的迭代方法与 BERT 的掩码语言模型相结合可以达到与人类众包工人相当的效果。
- ACLOntoGUM:在 12 种更多类型中评估基于上下文的 SOTA 指代消解
本文介绍了 OntoGUM 数据集作为新的非开放领域的 OntoNotes 核指代解析任务的基准,证明了最新的基于神经语言模型的端到端系统对领域外数据的破坏很大,深度学习系统和确定性规则系统都有着近 15-20% 的性能下降。
- 通过 K-Arm 优化进行深度神经网络的后门扫描
本研究提出了一种基于多臂赌博策略的 K-Arm 优化方法来检测深度学习系统中的后门攻击,并成功在超过 4000 个模型上取得了领先的性能。
- 输入感知的动态后门攻击
本文提出一种新的神经后门攻击技术,其中触发器从输入到输入不同,通过基于输入的触发器生成器和交叉触发器测试实现触发器不可重用性,成功规避当前防御方法,从而实现神经后门攻击的隐蔽性。
- 一个用于命名实体识别的芬兰新闻语料库
本文提供一份芬兰新闻文章语料库,其中包含 953 篇来自 Digitoday 技术新闻平台的文章(共 193742 个单词标记),其中涵盖六种命名实体类别;并对该语料库在两个测试集中使用基于规则与两种深度学习系统进行了基础实验。
- 基于校准的模型驱动深度强化学习
探索了模型强化学习需要哪些不确定性,论证了好的不确定性必须具有校准性,并描述了一种简单的方法来增强任何模型强化学习代理程序,并表明通过校准模型,可以一致地提高规划、样本复杂度和探索能力,该方法在 HalfCheetah MuJoCo 任务中 - 生成式对抗少数族裔过采样
本文提出了一种基于三方博弈的凸生成器算法,通过在深度学习系统中处理类别不平衡,在类别边界附近生成人工样本,从而优化分类器的性能。对多个类别不平衡的图像数据集进行的实验证实了算法的有效性。
- 利用马氏距离改善重建自编码器的 OD 检测
本文针对在安全关键应用中如自主车辆系统的分类验证需求,提出了在潜变量空间中使用马氏距离来捕获偏离已知正常样本和模型参数定义的潜变量流形之间的异常值,以提高异常检测性能。
- 注意力融合网络:结合行为和电子邮件内容以提高客户支持
介绍了 Attention Fusion Network 模型,它通过结合从 Square 产品生态系统中提取的卖家交互信号和提交的电子邮件问题,预测卖家问题的最相关解决方案,表明使用最先进的深度学习系统结合两种很少一起使用的数据来源,远胜 - 针对医学深度学习系统的对抗攻击
本文发现对抗样本可以操纵深度学习系统在三个临床领域,建议医疗机构在部署深度学习系统时注意当前的漏洞,同时促进机器学习社区进一步研究医疗学习系统的领域特征。
- 模型压缩深度学习系统在对抗攻击下的安全分析与增强
通过综合考虑模型重塑和输入扰动,本研究首次探讨了实际模型优化的深度学习系统中的多因素对抗攻击问题,并开发了一种名为 “梯度抑制” 的防御技术,能够有效减轻对软硬件导向深度学习的对抗攻击。
- MM异步孕育势能,应用于深度学习
本文证明,异步优化算法中添加一类类动量项,可加速训练多层神经网络,对于卷积神经网络,异步度与动量呈直线关系,故在异步执行时,动量调整得当可提升算法效率,反之也可采用相反的动量来改善结果。
- 深度学习与音乐对抗
本文提出一种 deep learning 系统应用于音乐内容分析的 Adversary 方法,将其集成到新的深度系统中并探讨其对系统鲁棒性的影响。