Nov, 2022

AlphaZero-like 代理是否具有抗对抗扰动的鲁棒性？

PDF
TL;DR本研究针对神经网络棋类人工智能的对手状态攻击进行了探究，该方法可扩展至其他棋盘游戏；实验结果表明，加入 1-2 个无意义棋子即可使 AlphaGo Zero 等神经网络棋类 AI 产生错误决策。
发现论文，激发创造
  • Go AI 的对抗性鲁棒性能否得以保证？

    简单的防御策略无法阻止对超级人类级别的围棋 AI 的自适应攻击。

    Jun, 2024

  • 对抗策略击败超级围棋 AI

    我们通过对冻结的 KataGo 受害者进行对抗性玩家训练，攻击了最先进的 Go-playing AI 系统 KataGo。我们的攻击可以实现超过 99％的胜率，而 KataGo 没有进行树搜索时，当 KataGo 使用足够的搜索以超人能力获胜时，我们的攻击获得了超过 97％的胜率。

    Nov, 2022

  • 公正博弈：强化学习的挑战

    本文介绍了 AlphaZero 和 MuZero 的算法，探究了它们的局限性，并提供了新的瓶颈测试方法以解决 AlphaZero 在某些博弈游戏中学习能力不足的问题，并发现 AlphaZero 在解决 nim 游戏时会面临严重的问题。

    May, 2022

  • 面向神经网络的不可察觉且强韧对抗样本攻击

    该研究提出了一种新的对抗样本攻击方法，考虑到人类感知系统并最大化制作的对抗样本的噪声容忍度，实验结果证明了该技术的有效性。

    Jan, 2018

  • 通过学习模型规划，掌握雅达利、围棋、国际象棋和将棋

    本文提出了 MuZero 算法，它通过结合基于树的搜索和学习模型实现了对一系列具有挑战性且视觉复杂的领域的超人类表现，在 57 款不同的 Atari 游戏上以及对 Go、国际象棋和象棋等游戏的测试中，都表现出了与 AlphaZero 算法相当的性能，而无需知道游戏规则。

    Nov, 2019

  • AlphaZero 中的有针对性搜索控制以实现有效策略改进

    使用 Go-Exploit 进行 AlphaZero 的搜索控制，从而提高样本效率和性能，并相对于 KataGo 等其他策略展示出了更加有效的搜索控制策略。

    Feb, 2023

  • 生成自然对抗样本

    本文提出了一种使用生成敌对网络在语义空间中搜索自然和易读的对抗性样本的框架，以验证黑盒子分类器的鲁棒性，并证明该方法可在图像分类，文本蕴含和机器翻译等广泛应用中有效。

    Oct, 2017

  • 多元化人工智能：向着 AlphaZero 创造性中国象棋的方向发展

    通过在国际象棋中构建多样化的人工智能团队，研究表明多样性对于解决复杂计算问题具有价值，并能使团队中的人工智能系统产生出更多有创造性的决策机制。

    Aug, 2023

  • 深度强化学习的对抗状态不确定性可证明鲁棒性

    本研究基于对认证对抗鲁棒性研究的探讨，为深度强化学习算法提供在线认证鲁棒性的防御机制。该方法通过计算阈值来确定最佳的行动方案以应对各种可能存在的敌对行为和噪声干扰，从而有效提高了系统的鲁棒性。

    Apr, 2020

  • 加速围棋自我博弈学习

    通过改进 AlphaZero 的过程和架构，我们在 Go 中极大地加速了自我博弈学习，与类似方法相比，计算量减少了 50 倍。

    Feb, 2019