- 揭示数据库的漏洞:文本到 SQL 系统中的零知识模式推理攻击
通过特别设计的问题,我们开发了一种零知识的框架,用于探测数据库模式的各种元素,从而揭示数据库模式的结构。我们将其应用于文本到 SQL 模型和生成语言模型,可以在细调模型中以近.75 的 F1 值和生成模型中以.96 的 F1 值重建表名。
- 利用自然语言处理技术对电话网络进行短信垃圾检测和分类以打击滥用行为
提出了利用自然语言处理和机器学习模型(特别是 BERT)进行短信垃圾检测和分类的方法,结果显示使用朴素贝叶斯分类器 + BERT 模型在测试数据集上实现了最高 97.31% 的准确率和最快 0.3 秒的执行时间,从而在短信垃圾检测效率和误报 - 条件信任环境下的协作主动学习
通过合作主动学习,利用多个协作者的机器学习能力,不泄露现有数据和模型,而是共享新领域的预测结果和新获取的标签,以解决隐私和安全问题、提高成本效益和资源利用效率,促进模型性能,并为进一步研究合作主动学习及其在各个领域的实际应用提供了基础。
- 基于人工智能的侧信道分析综述与比较
现代计算系统中,侧信道分析(SCA)对隐私和安全构成明显威胁。大部分通信通过加密算法来保护,尽管这些算法从密码学角度通常是安全的,但实际硬件上的实现会引入漏洞。本研究关注最新的深度学习技术在侧信道分析中的运用,探讨了深度学习技术的理论基础和 - 不可识别但可辨认:保留嵌入的图像扭曲
开发生物识别身份验证系统时,隐私和安全是一个重要问题。本文介绍了一种创新的图像扭曲技术,通过神经网络模型使人脸图像在肉眼无法识别的情况下保持其可识别性,既解决了人工智能和工程领域中的相关挑战,又在生物识别身份验证系统中实现了安全、精确性和性 - 剪刀手:通过连接敏感性在网络中清理数据影响
机器遗忘是一项关键任务,用于消除训练模型的数据影响,遵循最新的数据监管标准,增强机器学习应用的隐私和安全。本研究提出了一种名为 Scissorhands 的新型机器遗忘方法,通过连接敏感性识别与遗忘数据相关的最相关参数,重新初始化这些参数的 - 基于数据流推理加速器的侧信道分析揭示 CNN 体系结构
通过利用卷积神经网络模型结构的空间和时间数据复用,以及架构提示信息,提出一种利用存储器侧通道信息来恢复数据流加速器中卷积神经网络模型结构的攻击方法。实验结果表明,该侧通道攻击可以恢复流行的卷积神经网络模型 Lenet、Alexnet 和 V - 佛罗里达计划:简化联邦学习
通过提供云托管基础设施和任务管理接口,以及支持大多数主流编程语言(包括 C++、Java 和 Python)的多平台 SDK,Project Florida 旨在简化跨设备的联邦学习解决方案的部署任务。它使得服务管理与联邦学习工作流程解耦, - 快速和可扩展的隐私推断
隐私与安全、密码技术、隐私保护计算、私有推理和同态加密是本文主要关注的关键词,文章总结了最近关于使用神经网络中的私有推理作为动机应用来解决各种隐私保护计算中不同开销的努力,并介绍了其实现方法和加速技术。
- 机器学习传感器数据表
本文介绍了一种标准的 ML 传感器数据表格模板,重点讨论了其必要组成部分:系统硬件,ML 模型和数据集属性,端到端性能指标以及环境影响。通过提供样例数据表格,突显了它们如何促进传感器数据在 ML 应用中的更好理解和利用,并提供了客观的度量标 - MM物联网联邦学习综述
本研究是一项关于边缘设备上联合学习技术在物联网(IoT)应用中的综合调研,探索并分析 FL 在 IoT 数据共享、攻击检测、安全、智慧医疗,智能交通,无人机,智慧城市,智慧工业等应用领域中的潜力,并总结了可借鉴的经验教训和当前的挑战与未来研 - Cronus: 基于黑盒知识转移的鲁棒性和异构性协作学习
通过将局部模型的参数进行强大的知识传递来控制信息交换和维护隐私,Cronus 是唯一一种对抗恶意攻击具有强健保证的机器学习框架。
- AAAI联邦学习用于联合行动
本文探讨了联邦学习在联盟环境中的挑战,提出了针对数据和模型质量变化、异构性、标签以及不同联盟成员对 AI 模型架构的选择等问题的解决方案。同时,文章也强调了联邦学习在实现联盟环境中可行的解决方案方面仍存在的一些开放性问题。
- 移动边缘网络中的联邦学习:一项全面调查
本文介绍了联邦学习技术与移动边缘计算的应用,讨论了在大规模和复杂的移动边缘网络中实现联邦学习所面临的挑战以及现有解决方案,探讨了联邦学习在移动边缘网络优化中的应用,以及未来的研究方向与挑战,包括保护隐私与安全。
- MemGuard: 对抗性样本防御黑盒成员推断攻击
该研究提出了一种名为 MemGuard 的新型防御机制,通过添加特定的噪声向量来抵御成员推断攻击,实现更好的隐私保护和安全性,并通过实验验证了该机制的有效性和优越性。
- 使用视觉属性的合作式学习
本研究提出了一种 “合作学习” 方法,通过不同机器之间的共享中间级视觉属性信息,改善计算机视觉和机器学习领域中不同层次下的学习表现,尤其适用于存在隐私,安全性和带宽限制等情形下。