Apr, 2024

战争大象：重新思考战斗人工智能与人类监管

PDF
TL;DR该论文探讨了普遍人工智能对战斗性质的变化。在超越将人工智能替代专家的方式之外，我们提出了一种将人类和机器的能力相互结合的方法。通过历史和现代的例子，我们展示了如何通过人类 “AI 操作员” 与 AI/ML “代理操作员” 的团队来有效管理自主武器系统。通过将我们的解决方案基于补充原则，我们为管理致命自主系统提供了一种灵活和动态的方法。最后，我们提出了实现机器化作战整体愿景的路径，即由 AI 操作员操作战场 AI 以观察战场的行为模式以评估致命自主系统的性能。这种方法使得开发出的战斗系统可能更加道德化、运行速度更快，并能够应对更广泛的动态战场条件，超越任何纯粹自主人工智能系统能够支持的范围。
pervasive aicombatautonomous weapons systemsai operatorslethal autonomous systems
发现论文，激发创造
  • 战争游戏中智能代理的规模化

    未来与先进技术竞争对手保持竞争力需要加快我们在战争推演中人工智能（AI）的研发。更重要的是，利用机器学习进行智能战斗行为开发将成为未来实现超人类表现的关键，提高未来战争决策的质量和加速速度。尽管深度强化学习（RL）在智能代理行为开发方面仍然显示出有希望的结果，但在战斗模拟中通常遇到的长远、复杂任务中尚未达到或超过人类水平。充分利用 RL 的成功潜力和分层强化学习（HRL）的最新成功，我们的研究正在探索和扩展 HRL 的使用，以创建能在这些庞大而复杂的模拟环境中有效执行的智能代理。我们的最终目标是开发出一个能够具有超人类表现的代理，然后作为军事规划者和决策者的人工智能顾问。本文介绍了我们正在进行的方法以及我们的五个研究领域中的前三个，旨在管理迅速增长的计算，这些计算迄今为止限制了 AI 在战斗模拟中的使用: （1）为作战单位开发 HRL 训练框架和代理架构；（2）开发代理决策的多模型框架；（3）开发维度不变的状态空间观察抽象化以管理计算的指数增长；（4）开发内在奖励引擎以实现长期规划；（5）将该框架实施到更高保真度的战斗模拟中。

    Feb, 2024

  • 支持决策的数字战争游戏中用于扩展人工智能

    本文介绍了在技术驱动的转型时代，加强对人工智能在决策支持军事模拟中的应用的投资的重要性，通过推进人工智能系统和人类判断的结合来提高全域意识、改善决策周期的速度和质量、提供新型行动建议以及更迅速地应对对手行动；同时提出了通过深度强化学习来开发智能代理行为的前景与挑战，进一步讨论了通过多模型方法和维度不变观察抽象来开发层次强化学习框架的研究。

    Feb, 2024

  • 现实世界复杂环境中的人工智能协作与强化学习

    在复杂的模拟环境中，研究表明人工智能与人类的合作胜过仅有人类或仅有人工智能代理的情况，并开发出了一种用户界面，使人类有效地协助人工智能代理。

    Dec, 2023

  • 人感知 AI 系统的挑战

    讨论了设计人类感知人工智能系统面临的挑战，包括建模人类的心理状态、识别其愿望和意图、提供主动支持、展示可解释性行为、并引发信任等，并强调这种系统引出的伦理困境和推广真正跨学科合作的必要性。

    Oct, 2019

  • 未来指挥与控制的可扩展交互式机器学习

    未来作战将要求指挥与控制（C2）人员在复杂且潜在模糊的情况下以缩短的时间段做出决策。与机器学习算法合作以引导算法行为的交互式机器学习有望在 C2 作战过程中发挥潜力，带来适应性和效率的革新。本文提出在现有科学技术中存在的一些差距，并描述了三个研究重点领域，旨在实现可扩展的交互式机器学习（SIML）：1）开发人工智能交互算法以在复杂动态情境下进行规划；2）通过优化角色、配置和信任来培养弹性的人工智能与人类团队；3）为适应一系列潜在情境和情况扩大算法和人工智能团队的规模。

    Feb, 2024

  • 人工智能与武器控制

    该研究论文分析成功与失败的武器管制案例，提出武器的军事价值与可能性是影响管理控制成功的关键因素，本文探讨了未来 AI 武器管制的前景，并提出了政策建议。

    Oct, 2022

  • 人机认知协作中的 AI 挑战

    该研究讨论了在未来机器人作为人类队友的角色，并提出了更新智能体结构的方案，强调了自主代理的谋划过程中人类的心智模型要求。

    Jul, 2017

  • AI 驱动的自主武器威胁地缘政治不稳定并危及 AI 研究

    利用机器学习（ML）发展自主武器系统（AWS）对地缘政治稳定性和 AI 研究中的自由交流构成了严重风险。本文的目标是提醒公众和机器学习研究人员对军事技术中全面或近乎全面自主性带来的近期风险，并提出监管建议以减轻这些风险。

    May, 2024

  • 人工智能潜力与认知：从人工智能与网络安全合作的视角发表的一篇立场文件

    人工智能在网络安全领域的潜力以及人工智能与人类合作的风险因素、伦理和法律问题等方面进行了深入探讨，强调了将人类专家的专业知识与人工智能的计算能力相结合以改善网络防御的重要性。

    Sep, 2023

  • 人类对决机器：语言模型与战争游戏

    战争游戏在军事战略发展和国家对威胁或攻击的反应中有着悠久的历史。人工智能的出现在决策制定和军事效力提升方面承诺着更好的结果。然而，关于人工智能系统，特别是大型语言模型与人类的行为差异仍存在争议。为此，我们使用了一个涉及 107 位国家安全专家人类参与者的战争游戏实验，旨在研究虚构的中美危机升级情景中的人类参与者与模拟大型语言模型回应之间的比较。我们发现，模拟大型语言模型与人类回应之间存在显著的定量和定性差异，这提醒决策制定者在授权自主权或遵循基于人工智能的策略建议之前要谨慎。

    Mar, 2024