Feb, 2024

针对随机多臂赌博机的隐蔽对抗攻击

PDF
TL;DR对随机多臂赌博（MAB）算法的对抗攻击进行了广泛研究。本文通过基于同质性检测的检测方法发现，大多数现有攻击方法容易被检测出来，这激发了我们研究针对随机 MAB 的隐蔽攻击概念并调查所产生的攻击能力，分析结果表明，在两个常用的 MAB 算法 UCB1 和 ε- 贪心中，隐蔽攻击的成功取决于环境条件和第一轮拉动的臂的实际奖励，对于配备我们的攻击检测方法的通用 MAB 算法，我们还分析了相应的情况并发现几乎总能成功执行隐蔽攻击，这为 MAB 算法的安全风险带来了新的见解。
发现论文，激发创造
  • 对随机赌徒的对抗攻击

    该论文研究了对多臂赌博算法进行的对抗攻击，以操纵奖励信号以控制算法选择的行动，并提出了针对常见的两种多臂赌博算法 epsilon-greedy 和 UCB 的攻击方案。这种攻击是在不知道平均奖励的情况下进行的，并且攻击者所需的努力是对问题特定参数取对数，这个参数随着赌博问题变得越来越容易攻击而变小。结果表明，攻击者可以轻松地劫持多臂赌博算法的行为，以推广或阻止某些行动。由于多臂赌博算法在实践中的使用越来越广泛，因此我们的研究揭示了一个重大的安全威胁。

    Oct, 2018

  • 组合多臂赌博机上的对抗性攻击

    研究了组合多臂赌博机上的奖励污染攻击，提供了攻击条件和攻击算法，并验证了理论结果通过实验。

    Oct, 2023

  • 概率无界对抗下的稳健随机赌博算法

    提出抵御恶意攻击的新型样本中位数算法和探索辅助上限置信区间算法，并通过多个仿真和实验表明它们能够在多臂赌博机问题中实现 sublinear regret。

    Feb, 2020

  • 随机赌博机上的数据污染攻击

    本文旨在研究敌对攻击策略对多臂赌博算法的影响，并提供了离线攻击和在线攻击的策略，展示了潜在的安全威胁。

    May, 2019

  • 线性随机臂何时易受攻击？

    本文探讨了对线性随机赌博机的对抗攻击，提供了攻击性的充分必要条件，针对 LinUCB 和 Robust Phase Elimination 方法提出了一种有效的攻击方法并得出了数字实验结果。

    Oct, 2021

  • 多用户多臂老虎机用于协调频谱接入

    提出了两种多用户多臂赌博机算法框架，分别适用于随机环境和对抗环境下无协调频谱访问问题。算法可在不知道用户数量的情况下，通过估计和分配两个阶段实现高概率下的常数系统累积失误和次线性系统累积失误，并能够处理用户数量随时间改变的动态问题。

    Jul, 2018

  • 合作多智能体赌博中的对抗攻击

    合作多智能体多臂赌博 (CMA2B) 考虑多个智能体在共享多臂赌博游戏中的协作努力。我们研究了这种合作暴露出的潜在弱点，并考虑对一些智能体进行敌对攻击，以影响其他智能体的决策。我们提出了攻击策略，通过仅针对一个智能体，使所有智能体在选择一个特定目标臂 T-o (T) 次的同时，承担 o (T) 次攻击成本，在 T 轮中产生了攻击策略。在异构设置中，我们证明了对目标臂的攻击需要具有线性攻击成本，并提出了可以迫使最大数量的智能体遭受线性遗憾的攻击策略，同时仅操纵少数目标智能体的观察。数值实验证实了我们提出的攻击策略的有效性。

    Nov, 2023

  • 奖励漂移下的多臂赌博机激励探索

    本文研究了多臂赌博机问题中的激励探索方法，分析了偏差反馈对于 UCB 算法、E - 贪心算法以及汤普森抽样算法表现的影响。结果表明这些算法在偏差反馈下产生了 $log (T)$ 的遗憾和补偿，在激励探索方面是有效的。

    Nov, 2019

  • UCB 基于最佳臂识别策略的对抗攻击的样本复杂度

    研究多臂赌博机中 UCB 类型最佳臂识别策略的对手扰动攻击，探讨其对模型选择目标臂的影响，证明了在总臂数和伪中心极限定理参数已知的情况下，可以在 T 轮内找到目标臂作为最佳臂。

    Sep, 2022

  • 复合和匿名反馈多臂赌博机的自适应算法

    本文研究使用复合和匿名反馈的多臂老虎机问题，提出适应性算法，解决了没有先验关于奖励间隔大小的信息的问题，并且进行了基于真实数据集的模拟实验，结果表明我们的算法胜过现有的基准算法。

    Dec, 2020