Sep, 2023

人工智能潜力与认知：从人工智能与网络安全合作的视角发表的一篇立场文件

PDF
TL;DR人工智能在网络安全领域的潜力以及人工智能与人类合作的风险因素、伦理和法律问题等方面进行了深入探讨，强调了将人类专家的专业知识与人工智能的计算能力相结合以改善网络防御的重要性。
ai potentialitycybersecurityhuman-ai teamingrisk factorsethical and legal implications
发现论文，激发创造
  • 人工智能在网络安全中的应用：威胁、攻击和缓解

    讨论了网络安全、网络威胁以及传统和智能防御措施，并最终以人工智能在网络安全领域未来的前景作为讨论的结尾。

    Sep, 2022

  • 通过基于 AI 的反应系统解决网络攻击问题：综述与未来展望

    综述了人工智能在网络安全中应对威胁系统的最新进展，提供了对人工智能与网络安全交叉领域的全面分析，指出了未来研究的挑战。

    Dec, 2023

  • 开发有效的人工智能与人类团队合作：人 - 机联合认知系统的视角

    人工智能与人类团队合作是新的设计范式，需要遵循以人为中心的人工智能 (HCAI) 方法。本文提出了人工智能与人类联合认知系统 (HAIJCS) 的概念框架，用于代表并实现人工智能与人类团队合作。

    Jul, 2023

  • 人感知 AI 系统的挑战

    讨论了设计人类感知人工智能系统面临的挑战，包括建模人类的心理状态、识别其愿望和意图、提供主动支持、展示可解释性行为、并引发信任等，并强调这种系统引出的伦理困境和推广真正跨学科合作的必要性。

    Oct, 2019

  • 对抗机器学习与网络安全：风险、挑战和法律影响

    这篇报告探讨了人工智能系统漏洞的相关议题，并提出了相关的建议，包括信息分享、法律监管和政府支持等方面。

    May, 2023

  • 人机认知协作中的 AI 挑战

    该研究讨论了在未来机器人作为人类队友的角色，并提出了更新智能体结构的方案，强调了自主代理的谋划过程中人类的心智模型要求。

    Jul, 2017

  • AAAI 2022 年人工智能网络安全 (AICS) 研讨会会议录

    本文讨论了人工智能在网络安全领域的应用，探讨了 AI 面临的挑战，以及在实践中普及 AI 的原因和现实难点。

    Feb, 2022

  • 基于模型和决策论的自动化网络安全响应视角

    本研究旨在描述一种自动化网络攻击防御的方法，通过将被保护系统的模拟与任意在线规划应用于部分观测的马尔科夫决策问题（POMDPs），并结合基于模型的人工智能，以实现风险防范与效益平衡。

    Feb, 2020

  • 信息不对称对人工智能团队的影响

    近年来，人工智能的不断发展已经在许多应用领域中提高了人类的决策能力。人工智能与人类之间的互补团队表现（CTP）可能会带来超过个体人工智能或人类所能达到的表现水平。通过在线实验，我们证明了在特定的决策情境下，人类可以使用特定的信息不对称性来调整人工智能的决策，最终实现 CTP。

    May, 2022

  • 人工智能伦理教育在网络安全中的挑战与机遇：一个焦点小组报告

    AI 工具在网络安全领域的出现带来了诸多机遇和不确定性。一项针对网络安全领域高级研究生的焦点小组讨论揭示了挑战和机遇的潜在深度和广度。主要问题包括获取开源或免费工具、文件文献、课程多样性以及明确的人工智能网络安全教育伦理原则的表达。解决 “黑匣子” 思维在人工智能网络安全工作中的问题至关重要，同时还需要更加深入和优先教授基础人工智能知识。系统思维和有效沟通也被认为是教育改进的相关领域。未来的人工智能教育家和从业者需要通过实施严格的技术培训课程、明确的文件文献和用于伦理监控人工智能的框架，结合批判性思维和系统思维和沟通技巧来解决这些问题。

    Nov, 2023