Jul, 2022

AI 是否制造网络剑或盾：技术进步的几种数学模型

PDF
TL;DR本文旨在通过数学模型对网络安全领域技术进步、网络钓鱼、漏洞发现以及补丁和攻击之间动态的政策辩论进行价值探讨，并根据技术进步的变化情况调整模型，发现人工智能对网络钓鱼的影响可能被高估，但可能导致更多攻击不被检测到，漏洞发现的进步有助于攻击方而不是防御方，编写攻击代码的自动化更有利于攻击者而不是写补丁的自动化，尽管帮助更快部署补丁的进步潜力更大。
发现论文，激发创造
  • 人工智能在网络安全中的应用：威胁、攻击和缓解

    讨论了网络安全、网络威胁以及传统和智能防御措施，并最终以人工智能在网络安全领域未来的前景作为讨论的结尾。

    Sep, 2022

  • 我们可以依赖人工智能吗？

    过去十年中，对抗攻击算法揭示了深度学习工具的不稳定性，这些算法引发了与人工智能中的安全性、可靠性和可解释性相关的问题，尤其是在高风险环境中。从实际角度来看，攻击和防御策略开发者之间发生了一场升级战。在更理论层面上，研究人员还研究了关于攻击的存在和可计算性的更大问题。在这篇文章中，我们对该主题进行了简要概述，重点关注对应用和计算数学领域的研究人员可能感兴趣的方面。

    Aug, 2023

  • 基于模型和决策论的自动化网络安全响应视角

    本研究旨在描述一种自动化网络攻击防御的方法，通过将被保护系统的模拟与任意在线规划应用于部分观测的马尔科夫决策问题（POMDPs），并结合基于模型的人工智能，以实现风险防范与效益平衡。

    Feb, 2020

  • 保障数字世界安全：利用人工智能（AI）提供恶意软件和入侵检测保护智能基础设施和数字产业

    本研究探讨基于人工智能的网络威胁检测以保护我们的现代数字生态系统，主要关注评估基于机器学习的分类器和集成模型，用于异常恶意软件检测和网络入侵检测，并探讨如何将这些模型整合到网络安全、移动安全和物联网安全的环境中。讨论重点是在企业系统和 IT 基础设施中部署和整合 AI 增强的网络安全解决方案的挑战，以及克服这些挑战的选择。最后，本文提供了未来研究方向，以进一步增强我们现代数字产业、基础设施和生态系统的安全性和韧性。

    Oct, 2023

  • 朝着更实用的人工智能安全威胁模型

    最近的研究发现了人工智能安全领域研究与实践之间存在的差距：学术界研究的威胁并不总是反映了人工智能的实际使用和安全风险。我们的研究是为了描述这种差异的完整程度，并将六种最常研究的人工智能安全攻击威胁模型与实际使用中的人工智能进行匹配。我们发现所有的现有威胁模型确实是适用的，但也存在重大差异：研究常常太宽容于攻击者，并假设实际环境中很少可用的信息。因此，我们的论文呼吁在人工智能安全领域研究更多实用的威胁模型。

    Nov, 2023

  • 人工智能的恶意使用：预测、预防和缓解

    该报告调查了恶意使用 AI 的潜在安全威胁的现状，并提出了更好地预测，预防和减轻这些威胁的方法。在分析了 AI 可能如何影响数字，物理和政治领域的威胁格局之后，我们为 AI 研究人员和其他利益相关者提出了四个高层次的建议。我们还建议一些有前途的研究领域，以扩展防御手段的组合，或使攻击变得不那么有效或难以执行。最后，我们讨论了进攻者和防御者的长期平衡，但并未得出确定性结论。

    Feb, 2018

  • AAAI 2022 年人工智能网络安全 (AICS) 研讨会会议录

    本文讨论了人工智能在网络安全领域的应用，探讨了 AI 面临的挑战，以及在实践中普及 AI 的原因和现实难点。

    Feb, 2022

  • 基于人工智能的钓鱼邮件攻击分析与预防

    通过描述一个开放给公众使用的 AI 生成钓鱼邮件语料库，论文表明通过使用自动文本分析的机器学习工具，可以高准确率地识别基于 AI 生成的钓鱼邮件，并且 AI 生成的钓鱼邮件与常规钓鱼邮件不同，因此有必要在训练机器学习系统时使用 AI 生成的邮件，以防止由生成型 AI 支持的未来钓鱼攻击。

    May, 2024

  • 超级预测人工智能引起的技术奇点风险

    本文预测了人工智能在网络安全领域中整合可能带来的新兴网络安全风险。

    Dec, 2022

  • 通过基于 AI 的反应系统解决网络攻击问题：综述与未来展望

    综述了人工智能在网络安全中应对威胁系统的最新进展，提供了对人工智能与网络安全交叉领域的全面分析，指出了未来研究的挑战。

    Dec, 2023