Jun, 2024

Inception: 高效可计算的马尔可夫博弈虚假信息攻击

PDF
TL;DR研究马尔可夫博弈中信息不对称和错误信息导致的安全威胁，通过考虑一名攻击者玩家散布关于其奖励函数的错误信息来影响受害者玩家的行为，我们推导了在最坏情况理性下受害者的策略，并提出了基于线性规划和反向归纳的多项式时间算法来计算攻击者的最优最坏情况策略，在受限的奖励函数集合中找到最优的错误奖励函数，我们的方法利用了理性的普遍假设来高效计算攻击，因此，我们的工作揭示了在错误信息下由标准游戏假设引起的安全漏洞。
发现论文，激发创造
  • 对抗对手下的学习马尔科夫博弈：高效算法与基本极限

    本文研究了在零和游戏中应用没有遗憾学习算法对抗自适应对手并取得最优结果的问题，并给出了一组正负结果，其中提出的新算法在普通的策略类别小或对手策略类别小时，可取得平均的 regret 较小的结果。

    Mar, 2022

  • 操纵学习防御者及其反制方法

    通过游戏理论框架、制定策略的规则以及算法方法，能够应对攻击者的不当操纵行为，优化防守方的增益

    May, 2019

  • 腐败稳健的离线双人零和马尔可夫博弈

    我们研究了线性马尔可夫游戏中离线两人零和游戏中的数据损坏鲁棒性问题，提出了鲁棒版本的悲观极小极大值迭代算法，并给出了关于 epsilon 的 (近) 最优次优性能界限。

    Mar, 2024

  • 社交网络上通过约束随机优化公平缓解误导信息

    介绍了一种应对社交网络中误导信息的解决方案，利用随机和非恒定多重背包问题得出一种新的算法，使用学习自动机来实现公平分配，以实现对社交网络用户的公正影响。

    Mar, 2022

  • 广义形式博弈中针对承诺的最优私人收益操纵

    通过对追随者私有收益信息的误报，实现最优操纵是一个多项式时间可解的问题，不同态度的追随者对此有不同的态度。此项研究解决了这个广泛的问题。

    Jun, 2022

  • 扰乱批次数据以操纵隐马尔可夫模型推断

    时间序列模型在对数据流进行估计时通常假设数据没有被破坏。然而，本研究提供了一种新颖的概率视角，探讨了自私的对手如何通过破坏数据来操纵隐马尔可夫模型的推断，进而影响决策者的结论。研究中开发了一套考虑实际不确定性和不同攻击目标的数据破坏问题，提出了三种从频率主义和贝叶斯主义角度解决问题的方法，并通过大量经验测试证明了每种方法的有效性。该研究强调了隐马尔可夫模型在面对对手活动时的弱点，从而促使我们采取鲁棒化技术来保证其安全。

    Feb, 2024

  • 强化学习的最优攻击与防御

    为确保强化学习在真实系统中的可用性，需要保证其对噪声和对抗性攻击具有鲁棒性。本文研究在线操纵攻击的全类攻击形式，包括状态攻击、观察攻击、行动攻击和奖励攻击。我们通过马尔可夫决策过程（MDP）对隐藏在攻击交互中的元级环境进行建模，并展示了该攻击者设计隐蔽攻击以最大化其预期收益（通常对应于减小受害者价值）的问题。我们证明攻击者可以通过规划或使用标准强化学习技术进行学习，以多项式时间或多项式样本复杂度确定最优攻击策略。我们认为受害者的最优防御策略可以通过解决随机 Stackelberg 博弈获得，该博弈可以简化为部分可观察的交替轮流随机博弈（POTBSG）。攻击者和受害者都不会从偏离各自最优策略中获益，因此这些解决方案具有真正的鲁棒性。虽然防御问题是 NP 困难的，但我们证明在许多情况下最优马尔可夫防御策略可以在多项式时间（样本复杂度）内计算（学习）。

    Nov, 2023

  • 纠结：平衡惩罚和补偿，基于重复困境博弈的事实检查中的最大赔偿问题分析，绕过和最小成本路径，虚假新闻与弱华莱士定律案例

    针对假新闻的传播和有效事实核查问题，本研究借助 Metzler 函数和 Metzler 矩阵对新闻提供者之间信息传播动态进行建模，设计了一种策略来最小化有害的假新闻传播，同时最大化可信信息的传播。通过惩罚性支配问题和最大补偿问题，重新评估新闻提供者的激励并分析其对信息市场均衡的影响。通过将信息传播的纠缠概念应用于实际情境，揭示了新闻提供者之间相互作用的复杂性，并为制定更有效的信息管理策略提供了新的理论和实践见解。该研究旨在提高信息健康和公共数字健康。

    Feb, 2024

  • 利用不完美观察者的近乎必然意图欺骗规划

    本文研究了一种涉及意图欺骗的概率规划问题以及如何利用防御者的有限感知模式来实现攻击目标，同时隐藏攻击者的意图，为此我们提出了相应的攻击策略和规划算法，并验证了其正确性和完整性。

    Sep, 2022

  • 具有结构转移的零和马尔可夫博弈中可证明有效的虚拟博弈策略优化

    本研究在多智能体竞争的环境下对零和结构化 Markov 博弈问题的策略优化算法进行了提出和分析，考虑通过上置界乐观算法与虚拟博弈相结合的同时策略优化，从而使双方智能体的总体最优性差距以 $\widetilde {O}(\sqrt {K})$ 的速度收敛，其中 $K$ 为回合数量。

    Jul, 2022