Feb, 2024

扰乱批次数据以操纵隐马尔可夫模型推断

PDF
TL;DR时间序列模型在对数据流进行估计时通常假设数据没有被破坏。然而，本研究提供了一种新颖的概率视角，探讨了自私的对手如何通过破坏数据来操纵隐马尔可夫模型的推断，进而影响决策者的结论。研究中开发了一套考虑实际不确定性和不同攻击目标的数据破坏问题，提出了三种从频率主义和贝叶斯主义角度解决问题的方法，并通过大量经验测试证明了每种方法的有效性。该研究强调了隐马尔可夫模型在面对对手活动时的弱点，从而促使我们采取鲁棒化技术来保证其安全。
发现论文，激发创造
  • 对抗性污染下的随机赌博机鲁棒性

    本文介绍了一种基于随机波段的新型随机抽样模型，该模型可以适应在受到敌对冲击的情况下仍然保持准确性，并且对于包含作弊行为的数据的性能逐渐降低，但依旧维持在一个线性水平。

    Mar, 2018

  • 通过污染攻击在事件序列数据中隐藏后门

    金融行业使用深度学习模型做出重要决策，但这导致了新的危险，因为深度黑盒模型容易受到对抗性攻击。为了在复杂的离散序列空间上植入后门，我们提供了一种方法来引入隐藏的后门，破坏模型的功能性。我们的实验研究揭示了这些影响如何在不同数据集、架构和模型组件中变化，同时探索了其他方法和基线，发现它们效率较低。研究结果不仅揭示了当代模型的漏洞，还有助于构建更健壮的系统。

    Aug, 2023

  • 可变时间推理的对抗意义

    该研究旨在提高基于决策的攻击，并展示了利用算法执行时间作为侧信道来实施决策攻击的能力，特别是在与目标检测相关的非最大抑制算法中发现的时间侧信道漏洞。研究提出了一种新的威胁模型，利用定时泄漏进行数据集推理，并探索了实施恒定时间推理传递作为一种缓解策略的潜力和限制。

    Sep, 2023

  • 概率自回归预测模型的对抗攻击

    我们针对神经模型输出概率分布序列的情况，开发了一种更有效的对抗攻击方法。我们解决的关键技术挑战是如何通过蒙特卡罗估计输出序列的联合分布统计量。此外，我们将概率预测的先前工作扩展到贝叶斯设置中，可以对未来观测进行调节。我们证明了这种方法可以在股票市场交易和电力消耗预测等两项关键任务中成功生成具有小输入扰动的攻击。

    Mar, 2020

  • 实时对抗攻击

    本论文提出了一种用于具有流式输入数据的机器学习模型的实时对抗攻击方案，该方案针对针对性地加入扰动来影响模型输出结果。

    May, 2019

  • 学习在噪声干扰下的一般性框架：标签干扰、属性干扰及其它

    本文通过马尔科夫核心框架对数据集水平下的数据污染模式进行了形式化分析，展示了标签和属性上存在复杂数据污染的影响，同时通过分析 Bayes 风险的变化，论述了这些污染对于标准监督学习的影响，为今后的定量比较提供了基础。

    Jul, 2023

  • 真相血清：毒化机器学习模型揭示它们的秘密

    介绍了一种新的针对机器学习模型的攻击方式，即通过污染训练数据集，导致模型泄露属于其他用户的私人数据。该攻击包括成员推断、属性推断和数据提取等多方面，可能会危及多方面的用户隐私。

    Mar, 2022

  • 通过对抗遗漏引发的误导行为：利用缺失数据干扰因果结构学习

    本文研究在观测数据的基础上推断因果结构，提出了一种新的攻击方法，即敌对遗漏攻击。通过省略一部分真实的训练数据，来偏置学习到的因果结构以达到预期的目的，并在真实和合成数据集上进行了实验验证，证明了敌对遗漏攻击在欺骗流行的因果结构学习算法方面的有效性。

    May, 2023

  • 动态模型应对相关性攻击研究议程

    描述了一项关于在测试时保护机器学习模型免受对抗性输入攻击的研究议程，建议使用动态模型作为解决这个问题的潜在方案。

    Mar, 2019

  • 攻击算法交易者的对抗扰动：接管股票市场

    本研究探讨在算法交易系统中，使用对抗性学习技术对输入数据流进行实时操纵的攻击，并评估其在现实市场数据流上的有效性和在白盒和黑盒设置中的影响。我们提出了各种缓解方法并讨论其限制，旨在提醒金融界对自动化学习模型使用所带来的潜在风险，并促进进一步研究。

    Oct, 2020