Nov, 2023

基于对抗强化学习的逆向经验攻击时间相关评分系统

PDF
TL;DR我们提出了一种创新的框架，从预设的经验标准出发，通过对抗性学习问题训练，学习出一个适应攻击行为迹象的得分函数，以提高得分系统的鲁棒性。通过在共享计算资源平台和金融信用系统上进行的大量实验证明了我们提出的框架的有效性。
scoring systemsempirical criteriadesignground truthadversarial learning
发现论文，激发创造
  • 深度增强学习的深度攻击

    通过强化学习实现攻击，在考虑攻击效果和匿名性的前提下，使用新的攻击性能指标对此方法进行评估，初步实验结果表明了该方法的有效性、鲁棒性和可转移性。

    May, 2022

  • PermuteAttack: 机器学习信用评分卡的反事实说明

    本文提出了一个基于对抗性生成的数据方法的模型评估和解释框架，该方法可用于信贷评分系统中的机器学习算法，该算法应用于表格形式的金融数据，包括离散和分类变量，并使用基于遗传算法的无梯度优化进行优化。

    Aug, 2020

  • 通过基于分数的优化提高对抗鲁棒性

    我们引入了一个名为 ScoreOpt 的新的对抗防御方案，通过在测试时优化对抗样本，向原始清数据在得分优先的方向

    Jul, 2023

  • 摘要评分的通用规避攻击

    本研究针对自动摘要的评分问题进行了机器学习和逃避攻击，发现当前自动评分系统的鲁棒性较低，需要进一步改进。

    Oct, 2022

  • 探究面向对话系统的训练度量的鲁棒性

    本文介绍一种对话系统对话回复的鲁棒性测试方法，利用对抗学习方法提取出优化得分的回复策略，并利用该方法测试最近提出的训练度量标准，发现它们均容易将相对简单且明显存在缺陷的策略高分，如直接复制对话环境中的部分内容拼成回复竟然可以超越甚至优于人类翻译的水平。

    Feb, 2022

  • 通过对抗示例评估会话推荐系统的鲁棒性

    本文介绍了一个对话推荐系统（CRSs）的鲁棒性评估方案，其中自动生成敌对样本以评估系统在不同输入数据面前的鲁棒性。通过执行这些敌对样本，我们可以比较不同 CRSs 满足用户偏好的能力，并表明测试的三个 CRSs 都不够稳健和可靠。

    Mar, 2023

  • 通过自适应评分学习提高交互式强化学习的反馈效率

    本文提出了一种新的方法，使用由人提供的分数代替成对偏好，在交互式强化学习中提高反馈效率，该方法在机器人运动和操作任务中得到广泛评估，结果表明，该方法可以通过自适应学习从分数中高效学习接近最优策略，而无需像成对偏好学习方法那样需要更少的反馈。

    Jul, 2023

  • 深度排序中的对抗攻击和防御

    本文提出两种针对深度排名系统的攻击，即候选攻击和查询攻击，还提出了一种反折叠三元组防御来提高排序模型的鲁棒性，并通过提出的经验鲁棒性评分来全面度量排名模型的鲁棒性，实验结果表明，我们的防御措施可以显著提高排名系统的鲁棒性，并同时缓解各种攻击。

    Jun, 2021

  • 从对抗性武器竞赛到模型为中心的评估：推进自动化统一鲁棒性评估框架

    本文提出了一种统一的自动鲁棒性评估框架 RobTest，通过针对模型能力建立鲁棒性评估维度、生成不同维度下的对抗样本，最终实现自动鲁棒性评估。实验结果表明，该框架能有效评估 RoBERTa 模型的鲁棒性。

    May, 2023

  • 检测社会偏见的内容：BERT 排名器的度量框架与对抗性缓解

    本研究提出了一种新的框架来度量排名模型中检索文本内容的公平性，并使用针对信息检索的对抗性公平性缓解方法提出了一种排名模型 (AdvBert)，该模型联合学习以预测相关性并删除受保护特征，为信息检索中存在的偏见问题提供了有效的解决方案。实验结果表明，与基线算法相比，所有排名模型的公平性较低，使用提出的 AdvBert 模型可以显著提高 Bert 排名器的公平性，同时在不损失实用性的情况下保持显着的公平性改善。

    Apr, 2021