Aug, 2024

可信、负责任和安全的人工智能：一个全面的人工智能安全架构框架及其挑战与应对

HTML
PDF
TL;DR本文针对快速发展的AI技术，尤其是生成式AI背景下人工智能安全这一亟待解决的问题，提出了一个创新的架构框架，从可信的AI、负责任的AI和安全的AI三个视角进行分析与理解。研究通过对当前AI安全领域的文献回顾及实际案例分析，阐明了识别与应对AI安全问题的有效机制和方法，旨在提升公众对数字化转型的信任。
发现论文，激发创造
  • 值得信赖的人工智能：计算视角

    本文从计算的角度综述了AI可信赖性的最新技术，其中包含了六个方面：安全、非歧视与公平、可解释性、隐私、责任与审计能力以及环境福祉，旨在帮助读者理解可信赖AI的最新技术以及现实系统的应用。

    Jul, 2021

  • 建立值得信赖的人工智能的关键：从AI原则，伦理，关键要求到负责任的AI系统和监管中去连接关系

    提出了可信人工智能的七个技术要求和三个主要支柱的构建方法，并考虑到了系统整个生命周期中的所有过程和角色的可信性。同样，还介绍了通过审核过程提高人工智能系统的责任的概念，以及为了未来社会进步而必须面对的规制辩论。

    May, 2023

  • 柴平台的AI安全框架

    本文将集成的人工智能（AI）安全原则纳入 Chai 中，以优先考虑用户安全、数据保护和道德技术使用，特别探讨了 AI 安全研究的多维领域，在 Chai 的对话聊天机器人平台中进行了应用，并提出了 Chai 的 AI 安全原则，并提出安全框架：内容保障; 稳定和强大性; 和操作透明度和可追溯性，成功实施了安全AI框架，表明了在AI技术的可持续和道德使用方面缓解潜在风险的实用性。

    Jun, 2023

  • 生成型AI系统的社会技术安全评估

    生成型人工智能系统的安全评估需要考虑风险，本文提出了一个三层框架来评估这些风险，结合体系安全原则并考虑人类互动和系统影响作为额外的评估层，同时分析现有的安全评估存在的几个问题并提出解决办法，以此实现生成型人工智能系统的全面安全评估。

    Oct, 2023

  • 可信AI之旅-第一部分：实用框架的追求

    本研究综述了值得信赖的人工智能（TAI）及其各种定义，提出了离开支配和工程语境中的责任或伦理人工智能等术语以明确任何混淆的建议，并强调了公平性、偏见、风险、安全性、可解释性和可靠性等关键属性和特性以发展一个普遍框架来处理这些问题，同时考虑了欧盟、中国和美国在AI领域的政策和法规以及跨国公司面临的调整挑战，提出了一个新的框架SFMA来执行TAI和规范化措施，同时警示过度规制对TAI和技术创新可能造成的危害。

    Mar, 2024

  • AI安全：必要，但不足且可能存在问题

    人工智能安全性的炒作对于推进社会公益的其他人工智能研究途径产生冲突，因为AI安全性与透明度等社会公益相关概念存在微妙而棘手的关系。此外，AI安全性辩论也可能使一些监管工作朝着不太理想的方向发展，同时给会造成结构性伤害的AI提供一种贴上安全标签的机会。

    Mar, 2024

  • 迈向保证安全的人工智能：确保强大可靠 AI 系统的框架

    通过世界模型、安全规范和验证器的相互作用，提出了一系列保证安全的人工智能（AI）方法，旨在为AI系统提供高保证的量化安全保证，并描述了核心技术挑战和潜在解决方案。

    May, 2024

  • 人工智能安全: 一代新的生成式人工智能和控制系统安全的后裔

    泛人工智能与人类的互动达到了前所未有的规模，为巨大的积极影响提供了新途径，但也引发了广泛关注，担忧其对个体和社会可能造成的伤害。本文中，我们认为，对这些人工智能技术的有意义的安全保证只能通过思考人工智能输出与人类行为之间形成的反馈循环如何推动交互走向不同结果来实现。为此，我们设想了从控制论到人类中心的人工智能安全的快速增长能力之间的高价值契机，为未来几十年的人类中心人工智能安全奠定了新基础。

    May, 2024

  • AI风险管理应同时考虑安全与保障

    介绍了AI安全和AI安全漏洞之间的相互作用，讨论了定义上的不一致和缺乏共识，并引入一个统一的参考框架来澄清AI安全和AI安全之间的差异和相互作用，旨在促进不同社区之间的共识和有效合作。

    May, 2024

  • 保护AI代理：开发和分析安全架构

    本研究针对AI系统中的安全性问题，特别是在协作环境中，提出了三种新的安全架构框架，以增强AI代理的安全协议。通过对不安全用例进行综合评估，发现这些框架能够显著提升AI代理系统的安全性，降低潜在风险，从而为确保AI技术在实际应用中的负责任使用奠定基础。

    Sep, 2024