Oct, 2023

人工智能机器人的安全考虑：当前方法、挑战和机会的调查

PDF
TL;DR本文针对 AI - 机器人系统中的安全问题进行了综合调查和分类，考虑了攻击面、伦理和法律问题以及人机交互安全等领域，旨在提供对这些领域的整体理解以增强 AI - 机器人系统的安全性。
roboticsartificial intelligencesecurity concernsattack surfaceshuman-robot interaction
发现论文，激发创造
  • 普适机器人系统的 AI 安全威胁：下一代网络安全人才的课程

    物理机器人近距离工作，科技安全的威胁引起人们担忧。现今缺少专业人士来保护这些系统，因此需要相应的课程来开发和集成。该课程包括七个自包含的模块，旨在对普及的机器人系统进行人工智能安全威胁防御与训练。

    Feb, 2023

  • 建筑工程产业中的人工智能与机器人伦理

    人工智能和机器人技术研究在建筑工程领域崛起，以提高项目效率和效果，但其采用需要对伦理问题进行思考，如职业安全、隐私等，本研究系统综述了过去五年中 AEC 社区中与 AI 和机器人技术伦理相关的研究并从中筛选出九个重要的伦理问题以及十三个与伦理主题相关的研究方向，最后提出了当前的挑战、知识空白和七个未来研究方向，既引起了更多相关利益相关方的关注，也提供了实现安全高效的即刻行动。

    Oct, 2023

  • AI 代理的安全性

    通过研究典型 AI 代理的工作流程和体验，我们从系统安全的角度详细描述了 AI 代理中存在的潜在漏洞，强调了其原因和严重影响，并介绍了相应的防御机制及其有效性评估实验，从而让 AI 代理的安全性和可靠性得到进一步提升。

    Jun, 2024

  • 用于长期机器人自主的人工智能：一项调查

    该论文介绍了在复杂的长期实际情境下，人工智能技术对于自主机器人实现长期自主的重要性，综述了各个子领域中研究的技术及其在长期机器人自主方面的应用，讨论了当前集成各项技术的进展、未来挑战和机遇。

    Jul, 2018

  • 探讨高水平人工智能的差异化风险和控制问题

    本文使用分层复杂系统框架对人工智能（AI）风险进行建模，并从公共和私营领域的领域专家收集调查数据以分类 AI 影响和可能性，结果显示强大的 AI 代理情景有更多不确定性，对 AI 对齐失败和影响寻求行为的关注增加以及对多智能体环境的信心增强。

    Nov, 2022

  • AI 代理面临威胁：主要安全挑战与未来发展路径调查

    通过系统地审查人工智能代理所面临的安全威胁，本文突出了在保护人工智能代理方面所取得的进展和现有的限制，并旨在激发进一步研究以解决与人工智能代理相关的安全威胁，从而促进更加稳固和安全的人工智能代理应用程序的发展。

    Jun, 2024

  • 人工智能机器人中数字孪生系统的隐私攻击综述

    通过整合人工智能 / 机器学习（AI / ML）和数字孪生（DT）技术，工业 4.0 见证了复杂机器人的崛起。本文调查了针对 AI 和 DT 模型启用机器人的隐私攻击。讨论了 ML 模型的渗透和数据泄露，以及从一阶模型（如基于物理的模型）中提取模型的潜在能力。我们还讨论了 DT 集成机器人的设计考虑，涉及 ML 模型训练、负责任的 AI 和 DT 保障、数据治理和道德考虑对这些攻击的有效性的影响。我们主张一个可信的自治途径，强调将机器人、人工智能和数字孪生技术与强大的道德框架和可靠性原则相结合，以实现安全可靠的 AI 机器人系统。

    Jun, 2024

  • 人工智能伦理调查：社会技术观点

    这项研究综合了当前和未来的人工智能应用所面临的伦理问题，从技术和社会角度对 AI 部署中的公平性、隐私和数据保护、透明度与可解释性等伦理原则进行了综述。

    Nov, 2023

  • 通过基于 AI 的反应系统解决网络攻击问题：综述与未来展望

    综述了人工智能在网络安全中应对威胁系统的最新进展，提供了对人工智能与网络安全交叉领域的全面分析，指出了未来研究的挑战。

    Dec, 2023

  • 系统安全和人工智能

    本章提出了七个防止人工智能系统造成伤害的课程，探讨了系统安全领域的见解，针对公共机构及基础设施中的新应用程序引发的新危害，阐述了诊断和消除新人工智能系统危害的共识缺失，并探讨了有效人工智能管理所需的跨学科方法和共享语言。

    Feb, 2022