通过介绍隐私和安全威胁，我们致力于提高人们对于使用开源模型时负责任和安全的意识。

Aug, 2023

ML 在安全性方面存在漏洞，提出威胁模型并对攻击进行分类，探究了模型准确性与抗敌对操作的关系。

Nov, 2016

本文提出了 AI as a Service 所存在的问题：由于公平性是具有上下文敏感性的，基于用户自主程度的 AI 服务分类可以导致偏见或在最终用户应用中被认为是有害的。

Feb, 2023

本文综述了深度学习中面临的隐私问题，以及已经提出的解决这些问题的技术，并提出了未来研究方向。

Apr, 2020

云端或雾计算的机器学习服务面临多个安全挑战，安全保障基础的云端或雾服务至关重要，攻击这些服务将对机器学习应用造成重大影响。根据应用于云端或雾计算网络的人工智能应用需求的不同，产生不同的威胁或攻击可能性，因此对安全需求也不同。本文通过将服务移到网络边缘的方式使得对雾计算网络的责任更简单，但需要确保它们不受物理设备访问的威胁。最后我们总结了人工智能应用的特定信息安全要求。

Oct, 2023

本文对机器学习与隐私问题进行了综述，涵盖了三种交互方式：(i) 私有机器学习，(ii) 机器学习辅助隐私保护，以及 (iii) 基于机器学习的隐私攻击和相应的保护方案，总结了各个领域内的研究进展和关键挑战，并提出了未来的研究方向。

Nov, 2020

对机器学习中隐私攻击的分类及防御方法进行了研究和探讨。

Jul, 2020

云计算正在革命性地改变 IT 资源交付给用户的方式，减少成本并简化基础设施。然而，伴随云计算的增长而来的安全风险包括可用性、完整性和机密性威胁。为了解决这些挑战，云服务提供商越来越多地使用机器学习来减少对人工干预的需求，以识别和解决安全问题。机器学习能够分析大量数据并进行高准确性预测，因此可以改变云服务提供商对待安全性的方式。本文将研究基于机器学习的云安全领域中的最新研究。我们将对一系列机器学习算法的特征和有效性进行探讨，重点介绍它们的特点和潜在限制。我们的目标是全面了解机器学习在云安全领域的现状，并揭示这个新兴领域所能带来的令人振奋的可能性。

Sep, 2023

本文提出了一种人工智能安全分类法，系统化地分类机器学习系统的威胁、漏洞和安全控制。首先分类了针对 ML 系统的攻击，定义了特定于 ML 的安全性并讨论其特点。然后，明确了所有相关资产和利益相关者，并为 ML 特定威胁提供了一般分类法。最后，通过对最近文献的广泛审查，收集了对 ML 特定威胁的各种安全控制措施，并将 ML 系统的漏洞和控制措施按照其整个生命周期中容易受到攻击的资源进行分类。

Jan, 2023

Model-as-a-Service (MaaS) 是一种新的部署和服务范式，为不同的基于人工智能的模型提供了可扩展和可访问的解决方案，本文综述了 MaaS 的意义、其在各个行业的应用以及未来研究的挑战和问题。

Nov, 2023