对随机赌徒的对抗攻击

NIPSOct, 2018

Adversarial Attacks on Stochastic Bandits

Kwang-Sung Jun, Lihong Li, Yuzhe Ma, Xiaojin Zhu

TL;DR该论文研究了对多臂赌博算法进行的对抗攻击，以操纵奖励信号以控制算法选择的行动，并提出了针对常见的两种多臂赌博算法 epsilon-greedy 和 UCB 的攻击方案。这种攻击是在不知道平均奖励的情况下进行的，并且攻击者所需的努力是对问题特定参数取对数，这个参数随着赌博问题变得越来越容易攻击而变小。结果表明，攻击者可以轻松地劫持多臂赌博算法的行为，以推广或阻止某些行动。由于多臂赌博算法在实践中的使用越来越广泛，因此我们的研究揭示了一个重大的安全威胁。

Abstract

We study adversarial attacks that manipulate the reward signals to control the actions chosen by a stochastic multi-armed bandit algorithm

adversarial attacks reward signals multi-armed bandit algorithm epsilon-greedy ucb

发现论文，激发创造

针对随机多臂赌博机的隐蔽对抗攻击

对随机多臂赌博（MAB）算法的对抗攻击进行了广泛研究。本文通过基于同质性检测的检测方法发现，大多数现有攻击方法容易被检测出来，这激发了我们研究针对随机 MAB 的隐蔽攻击概念并调查所产生的攻击能力，分析结果表明，在两个常用的 MAB 算法 UCB1 和 ε- 贪心中，隐蔽攻击的成功取决于环境条件和第一轮拉动的臂的实际奖励，对于配备我们的攻击检测方法的通用 MAB 算法，我们还分析了相应的情况并发现几乎总能成功执行隐蔽攻击，这为 MAB 算法的安全风险带来了新的见解。

Feb, 2024

概率无界对抗下的稳健随机赌博算法

提出抵御恶意攻击的新型样本中位数算法和探索辅助上限置信区间算法，并通过多个仿真和实验表明它们能够在多臂赌博机问题中实现 sublinear regret。

Feb, 2020

随机赌博机上的数据污染攻击

本文旨在研究敌对攻击策略对多臂赌博算法的影响，并提供了离线攻击和在线攻击的策略，展示了潜在的安全威胁。

May, 2019

UCB 赌博机上的近最优对抗攻击

我们提出了一种新的攻击策略，在随机多臂赌博问题中，通过操纵 UCB 原则来引导其选择一些次优的目标臂，攻击成本的累计代价随轮数的增加而增长，上界与下界相差一个 loglogT 的因子，因此我们的攻击接近最优。

Aug, 2020

对抗性贝叶斯强化学习的对抗攻击

在对抗式多臂赌博机中，攻击者通过攻击策略干扰损失或奖励信号，以实现对受害者赌徒玩家的行为控制。我们向攻击者显示，攻击者能够引导任何无憾对抗性赌博算法，在每轮之外的几乎所有轮次中选择次优目标臂，而仅产生次线性的攻击成本。这个结果意味着在现实世界中，基于赌博机的系统中存在重要的安全问题，例如，在线推荐中，攻击者可能能够劫持推荐系统并推广所需的产品。我们提出的攻击算法只需要了解后悔率，因此对受害方使用的具体赌博算法没有任何限制。此外，我们还推导了任何受害者不可知攻击算法必须产生的理论下限，并与我们的攻击产生的上限匹配，这表明我们的攻击在渐近意义下是最优的。

Jan, 2023

不完整信息下随机赌博机的内在鲁棒性对策略操纵

研究了在自利的情况下，三种常见的赌博算法 UCB, ε-Greedy 和 Thompson Sampling 对策略行为的适应性，为应用于经济学中的推荐系统提供了鲁棒的工具。

Jun, 2019

高斯过程赌博机的对抗攻击

本文从攻击者的角度研究了在高代价和潜在噪音条件下使用 Gaussian processes 进行优化的问题，并提出了不同假设攻击者强度和先前信息的不同对策，通过对函数 $f$ 进行干扰而导致算法朝着目标区域移动。作者设计了白盒和黑盒攻击方法，并展示了这些攻击在低攻击预算下能够成功地将算法强制推向目标区域，并在各种客观函数上测试了攻击的有效性。

Oct, 2021

抗对抗攻击的随机线性臂机算法

研究了随机线性赌博机问题，考虑了对抗攻击，提出了两种 Robust Phased Elimination 算法，证明了在非污染情况下可以获得近似最优的收益，并得出针对这些算法的相对近似最优的加性项。同时，在具有多样化情境的情况下，表明一种简单的贪婪算法是稳健的，近似最优的加性遗憾项，尽管不进行明确的探索并且不知道 C。

Jul, 2020

对抗性污染下的随机赌博机鲁棒性

本文介绍了一种基于随机波段的新型随机抽样模型，该模型可以适应在受到敌对冲击的情况下仍然保持准确性，并且对于包含作弊行为的数据的性能逐渐降低，但依旧维持在一个线性水平。

Mar, 2018

线性随机臂何时易受攻击？

本文探讨了对线性随机赌博机的对抗攻击，提供了攻击性的充分必要条件，针对 LinUCB 和 Robust Phase Elimination 方法提出了一种有效的攻击方法并得出了数字实验结果。

Oct, 2021