Feb, 2018

人工智能的恶意使用：预测、预防和缓解

PDF
TL;DR该报告调查了恶意使用 AI 的潜在安全威胁的现状，并提出了更好地预测，预防和减轻这些威胁的方法。在分析了 AI 可能如何影响数字，物理和政治领域的威胁格局之后，我们为 AI 研究人员和其他利益相关者提出了四个高层次的建议。我们还建议一些有前途的研究领域，以扩展防御手段的组合，或使攻击变得不那么有效或难以执行。最后，我们讨论了进攻者和防御者的长期平衡，但并未得出确定性结论。
发现论文，激发创造
  • 可用 AI 的滥用的技术视角

    滥用民用人工智能（AI）可能对国家和国际安全构成严重威胁，本文通过定义自主系统并解释 AI 开发的特点来展示已存在且公开可用的 AI 技术如何被滥用，进一步开发了三个潜在被滥用的 AI 使用案例，威胁政治、数字和实体安全，这些案例可以通过现有的学术界、私营部门和开发者社区的 AI 技术组件组合成自主武器系统，基于这些案例，我们总结了控制点和进一步措施，以防止通过滥用 AI 产生潜在威胁，并倡议在自主武器系统（AWS）讨论中考虑民用 AI 系统的滥用。

    Mar, 2024

  • 保障数字世界安全：利用人工智能（AI）提供恶意软件和入侵检测保护智能基础设施和数字产业

    本研究探讨基于人工智能的网络威胁检测以保护我们的现代数字生态系统，主要关注评估基于机器学习的分类器和集成模型，用于异常恶意软件检测和网络入侵检测，并探讨如何将这些模型整合到网络安全、移动安全和物联网安全的环境中。讨论重点是在企业系统和 IT 基础设施中部署和整合 AI 增强的网络安全解决方案的挑战，以及克服这些挑战的选择。最后，本文提供了未来研究方向，以进一步增强我们现代数字产业、基础设施和生态系统的安全性和韧性。

    Oct, 2023

  • 人工智能在网络安全中的应用：威胁、攻击和缓解

    讨论了网络安全、网络威胁以及传统和智能防御措施，并最终以人工智能在网络安全领域未来的前景作为讨论的结尾。

    Sep, 2022

  • 利用人工智能技术进行恶意软件检测和预防

    介绍使用基于人工智能的技术来检测和预防恶意软件活动，强调现有恶意软件检测技术的局限性和提高效率的方法，并阐述了未来采用的方法。

    Jun, 2022

  • 朝着更实用的人工智能安全威胁模型

    最近的研究发现了人工智能安全领域研究与实践之间存在的差距：学术界研究的威胁并不总是反映了人工智能的实际使用和安全风险。我们的研究是为了描述这种差异的完整程度，并将六种最常研究的人工智能安全攻击威胁模型与实际使用中的人工智能进行匹配。我们发现所有的现有威胁模型确实是适用的，但也存在重大差异：研究常常太宽容于攻击者，并假设实际环境中很少可用的信息。因此，我们的论文呼吁在人工智能安全领域研究更多实用的威胁模型。

    Nov, 2023

  • 保护社会免受 AI 误用：何时限制 AI 能力是必要的？

    人工智能（AI）系统将越来越常被用于造成伤害，为了防止对 AI 的一些错误使用，本文提出了一种减少 AI 误用的干预分类法，重点在于对于误用所需的特定步骤（误用链）进行干预以及确定是否需要此干预。

    Mar, 2023

  • 鉴定和减轻生成式人工智能的安全风险

    生成式人工智能技术（GenAI）可能被用于积极和消极目的，这篇论文讨论了 GenAI 所带来的双重用途困境，并提出了针对此问题的短期和长期目标，旨在引发学术界对此重要主题的深入讨论。

    Aug, 2023

  • 对抗机器学习与网络安全：风险、挑战和法律影响

    这篇报告探讨了人工智能系统漏洞的相关议题，并提出了相关的建议，包括信息分享、法律监管和政府支持等方面。

    May, 2023

  • 基于人工智能的恶意软件检测技术现状综述

    这项综述介绍了最新的人工智能技术在恶意软件检测和预防领域的应用，包括浅层学习、深度学习和生物启发计算，以及 PC、云、Android 和物联网等多种平台。同时，还涉及了黑客采用人工智能设计更高级的恶意软件以及利用人工智能算法自卫的现状。

    Oct, 2022

  • 我们可以依赖人工智能吗？

    过去十年中，对抗攻击算法揭示了深度学习工具的不稳定性，这些算法引发了与人工智能中的安全性、可靠性和可解释性相关的问题，尤其是在高风险环境中。从实际角度来看，攻击和防御策略开发者之间发生了一场升级战。在更理论层面上，研究人员还研究了关于攻击的存在和可计算性的更大问题。在这篇文章中，我们对该主题进行了简要概述，重点关注对应用和计算数学领域的研究人员可能感兴趣的方面。

    Aug, 2023