Feb, 2023

普适机器人系统的 AI 安全威胁：下一代网络安全人才的课程

PDF
TL;DR物理机器人近距离工作，科技安全的威胁引起人们担忧。现今缺少专业人士来保护这些系统，因此需要相应的课程来开发和集成。该课程包括七个自包含的模块，旨在对普及的机器人系统进行人工智能安全威胁防御与训练。
发现论文，激发创造
  • 人工智能机器人的安全考虑：当前方法、挑战和机会的调查

    本文针对 AI - 机器人系统中的安全问题进行了综合调查和分类，考虑了攻击面、伦理和法律问题以及人机交互安全等领域，旨在提供对这些领域的整体理解以增强 AI - 机器人系统的安全性。

    Oct, 2023

  • 人工智能在网络安全中的应用：威胁、攻击和缓解

    讨论了网络安全、网络威胁以及传统和智能防御措施，并最终以人工智能在网络安全领域未来的前景作为讨论的结尾。

    Sep, 2022

  • AAAI 2022 年人工智能网络安全 (AICS) 研讨会会议录

    本文讨论了人工智能在网络安全领域的应用，探讨了 AI 面临的挑战，以及在实践中普及 AI 的原因和现实难点。

    Feb, 2022

  • 通过基于 AI 的反应系统解决网络攻击问题：综述与未来展望

    综述了人工智能在网络安全中应对威胁系统的最新进展，提供了对人工智能与网络安全交叉领域的全面分析，指出了未来研究的挑战。

    Dec, 2023

  • AI 代理面临威胁：主要安全挑战与未来发展路径调查

    通过系统地审查人工智能代理所面临的安全威胁，本文突出了在保护人工智能代理方面所取得的进展和现有的限制，并旨在激发进一步研究以解决与人工智能代理相关的安全威胁，从而促进更加稳固和安全的人工智能代理应用程序的发展。

    Jun, 2024

  • 自动驾驶车辆：系统、网络安全、风险和问题概述与未来发展方向

    这篇研究论文探讨了自动驾驶汽车的复杂领域，分析了其基本组成和操作特性。重点介绍了自动驾驶汽车在交通预测、运输动态转变和各个行业中的自动化任务方面的应用，以及在自动驾驶汽车系统、网络安全和风险管理等方面提出的解决方案。

    Sep, 2023

  • 系统安全和人工智能

    本章提出了七个防止人工智能系统造成伤害的课程，探讨了系统安全领域的见解，针对公共机构及基础设施中的新应用程序引发的新危害，阐述了诊断和消除新人工智能系统危害的共识缺失，并探讨了有效人工智能管理所需的跨学科方法和共享语言。

    Feb, 2022

  • 对抗机器学习与网络安全：风险、挑战和法律影响

    这篇报告探讨了人工智能系统漏洞的相关议题，并提出了相关的建议，包括信息分享、法律监管和政府支持等方面。

    May, 2023

  • 保障数字世界安全：利用人工智能（AI）提供恶意软件和入侵检测保护智能基础设施和数字产业

    本研究探讨基于人工智能的网络威胁检测以保护我们的现代数字生态系统，主要关注评估基于机器学习的分类器和集成模型，用于异常恶意软件检测和网络入侵检测，并探讨如何将这些模型整合到网络安全、移动安全和物联网安全的环境中。讨论重点是在企业系统和 IT 基础设施中部署和整合 AI 增强的网络安全解决方案的挑战，以及克服这些挑战的选择。最后，本文提供了未来研究方向，以进一步增强我们现代数字产业、基础设施和生态系统的安全性和韧性。

    Oct, 2023

  • 保障海上自治系统中人工智能的红队框架

    通过使用一种多部分检查表的框架，我们展示了如何高效地评估海上自主系统的人工智能安全，并揭示其中的多个漏洞，从中毒到对抗性补丁攻击。通过系统化的人工智能红队行动，我们可以防止与提高对使命关键人工智能的接受和依赖性相应的严重事件。

    Dec, 2023