AI 系统的身份识别
应用人工智能和机器学习于网络安全已有广泛应用，特别是使用深度学习技术设计的 IDS. 然而，这些系统被视为黑盒模型，无法提供预测的合理解释。因此，需要设计可解释的 IDS，调查了可解释 AI 的现状，并提出了一种人们参与的通用架构，以用作设计 X-IDS 的指导
Jul, 2022
人工智能工具可以帮助少数人运行规模空前的虚假信息宣传活动。隐私保护身份证明可以大大减少身份冒用并易于识别和阻止虚假信息。通过了解身份证明在去中心化范围内的定位，我们可以更好地理解各种身份证明的成本和收益。本文讨论了各种身份证明类型，包括政府、生物识别、联邦和信任网络，并提供例如 e-Estonia、中国社会信用系统、Worldcoin、OAuth、X（原名 Twitter）、Gitcoin Passport 和 EAS。我们相信，最有韧性的系统创建了一个随时间演化的身份，并与一组同样演化的身份相连接，相互验证。在这种系统中，每个实体为认证过程贡献了自己的可信度，从而创建了更大更全面的身份证明集合。我们认为这些系统可能是对身份进行认证和防范人工智能可能在恶意操作者手中对民主构成威胁的最佳方式。然而，政府可能会试图通过实施集中身份验证系统来减轻这些风险；这些集中系统本身可能对其所建立的民主过程构成风险。因此，我们建议决策者支持为身份认证制定标准的组织的发展，为去中心化工具构建者提供法律明确性，并为有效的身份认证系统的研究提供资金支持。
Sep, 2023
AI Incident Database 提出了对于 AI 事件（即危害或可能危害的事件）和问题（即危害事件的风险）采用两层索引系统的方案，并因此引入了 “事件变体” 的概念，以应对大量机器学习产生的事件，该提案是 AIID 根据 2000 多个事件报告和新的 “问题” 类别的教训而过渡到新版本的反应。
Nov, 2022
该研究探讨了社会技术话语中的关系问题，即语义模糊、概念之间缺乏明确关系和不同的标准术语这些根本本体论问题。作者提出了一个概念框架来组织概念，包括操作性，认识论和规范方面，以帮助开发适当的指标、标准和机制，促进机构 AI 系统的研究和采用。
Mar, 2023
本文研究了面向新手用户的非稳健智能决策支持系统的互动，介绍了一种新颖的基于子目标的解释类型，即补充传统智能决策支持系统输出的信息，以提高用户任务表现和系统的鲁棒性。研究表明，基于子目标的解释可实现更好的用户任务表现、提高用户区分优化和非优化智能决策支持推荐的能力、得到用户的喜爱，并在智能决策支持系统失灵的情况下实现更加鲁棒的用户表现。
Jan, 2022
通过引入无限 - ID，将身份信息与语义解耦合的范式，提出一种在图像生成中保持身份的个性化方法。此方法通过增强车间训练，结合图像交叉注意模块和 AdaIN-mean 操作的特征交互机制，既提高了身份的保真度和语义一致性，又使得对生成图像风格的控制变得方便。对原始照片生成和风格图像生成的大量实验结果证明了该方法的优越性能。
Mar, 2024
本章提出了七个防止人工智能系统造成伤害的课程，探讨了系统安全领域的见解，针对公共机构及基础设施中的新应用程序引发的新危害，阐述了诊断和消除新人工智能系统危害的共识缺失，并探讨了有效人工智能管理所需的跨学科方法和共享语言。
Feb, 2022