- DP-TabICL:上下文学习中的差分隐私表格数据
使用差分隐私来保护使用表格数据的上下文学习,通过在序列化和提示之前对数据进行隐私保护,探究两个具有可证明隐私保障的私密上下文学习框架,并在真实世界的表格数据集和多个上下文学习与差分隐私设置下进行评估,结果显示基于差分隐私的上下文学习可以保护 - Inf2Guard: 一个信息理论框架用于学习抵抗判断攻击的隐私保护表示
机器学习中存在多种推断攻击,现有防御方法要么只针对特定类型的攻击且损失很大,要么很快被自适应攻击突破。本研究提出了一种信息理论防御框架 Inf2Guard,用于对抗推断攻击。该框架通过学习共享表示来保护隐私和保留效用,并展示了多种优势及对现 - 不精确的遗忘需要更谨慎的评估以避免虚假隐私感
开发用于消除模型训练影响的非学习技术,研究了基于反向学习设置的成员推断攻击 (U-MIA),发现不同类别的 U-MIA 强度与基于视觉和语言模型的现有非学习技术所提供的隐私保护高度相关,同时揭示了几种非学习算法对不同训练示例的潜在漏洞,以及 - 分享扩散模型中的隐私和公平风险:对抗视角的探索
通过对扩散模型进行研究,本文从对手的角度评估了共享扩散模型可能带来的隐私和公平风险,并通过实验表明了强化数据审计和隐私保护协议在相关应用中的重要性。
- 私人成对排名的速率最优等级聚合
采用随机响应机制来保护原始的成对排序,确保在下游排序聚合中对真实偏好和排序进行一致估计,并建立了隐私保护的最优保证与估计误差之间的最小最大速率。
- 隐私与公平:信息混淆用于本地差分隐私的公平表示学习
通过引入信息瓶颈进行本地差分隐私的信息混淆方法,该研究旨在开发和分析一种理论框架,实现公平表示学习,并展示 LDP 随机化器在编码过程中提高公平性的能力。基于所提出的方法,我们进一步发展了一种同时实现 LDP 和公平性的变分表示编码方法,并 - IMUSIC: 基于 IMU 的面部表情捕捉
本文提出了一种基于惯性测量单元 (IMU) 的面部表情捕捉方法 IMUSIC,通过 IMU 信号实现面部表情的准确捕捉和分析,并保护用户的隐私。
- 基于不确定性感知的桥接式移动 Former 网络用于基于事件的模式识别
基于事件流的轻量级不确定性感知信息传播的 Mobile-Former 网络用于有效的模式识别,对多个事件识别数据集进行了广泛实验验证。
- Crafter:针对基于反演的深度模型身份盗窃的面部特征处理技术
通过边缘计算,在保证云端机器学习任务正常进行的同时,利用 Crafter 机制保护敏感信息,防御面向适应性模型逆推攻击,对抗对手的攻击,并有效防御一般和可能的适应性攻击,这是传统方法无法实现的。
- TOFU:一项针对 LLMs 的虚构遗忘任务
利用大规模语言模型训练数据时,即使属敏感或私密的数据也是可以被记忆和复制的,引发了法律和伦理方面的担忧。为了保护个人数据,我们提出了 TOFU(Task of Fictitious Unlearning)作为一个基准,以帮助深入理解遗忘的过 - 通过细粒度模型参数扰动进行机器反学习
机器遗忘方法针对用户隐私保护目标有重要作用,但会带来大量计算成本。我们提出了细粒度 Top-K 和 Random-k 参数扰动的不精确机器遗忘策略,以在保持可计算性开销的同时满足隐私需求。我们还引入了评估机器遗忘效果和模型泛化能力的新指标 - 通过特征空间微调提升有针对性的可迁移性
在这篇论文中,通过在特征空间进行微调,我们提出了一种解决针对未知模型的有针对性对抗样本(AE)传递性问题的方法,实验证明简单的迭代攻击可以产生与资源密集型方法相媲美甚至更好的传递效果。
- 水平联邦计算机视觉
我们提出了使用联邦 Faster R-CNN (FRCNN) 和联邦完全卷积网络 (FCN) 进行目标检测、识别和图像分割的联邦实现方法,以应对视觉数据的数量快速增加、数据分散存储和隐私保护的挑战。
- 隐私保护的神经图数据库
在大数据和迅速发展的信息系统时代,高效准确的数据检索变得越来越重要。神经图数据库(NGDBs)是结合了图数据库(graph DBs)和神经网络的优势,实现了图结构数据的高效存储、检索和分析的强大范式。然而,这种能力是伴随着潜在的隐私风险的, - AdvCloak: 面向隐私保护的定制对抗隐蔽技术
基于生成模型的隐私保护创新框架 AdvCloak 通过自动定制类别级对抗性遮蔽模型,在保持图像级自然性的同时提供改进的特征级泛化能力,进而解决社交媒体中广泛共享面部图像所带来的隐私问题。通过两阶段训练策略,这一框架不仅能够个性化适应独特的个 - MM朝着更可持续的企业数据和应用管理:跨边界联邦学习和分析
通过在全球范围内部署跨领域联邦学习来遵守新的法律要求和隐私保护政策,越来越多的公司开始实施此方法。该研究分析了跨领域联邦学习的可持续性,并提出了一种综合性的定量成本与二氧化碳排放估计方法。同时,提出了一个使用跨领域联邦学习和分析的数据与应用 - 联邦连续新类别学习
提出了一种称为全局对齐学习(GAL)框架的方法,以准确估计全球新类别数量,为局部训练提供全局视角的有效引导,同时保护隐私。在各种数据集上的广泛实验表明,GAL 在新类别发现方法方面表现优异,特别是在单个新类别学习阶段,精确度提高了 5.1% - SCoTTi:使用自适应框架在训练时节省计算
提出了 SCoTTi(Save Computation at Training Time)自适应框架,通过优化阈值参数来减少训练过程中的神经元更新次数,从而降低内存和计算资源使用量。在各种常用基准和流行架构(包括 ResNets,Mobil - 使翻译器对用户的隐私意识增强
我们提出了 PRISM,以使机器翻译系统的用户能够保护其数据的隐私。PRISM 通过在用户端提供数据保护功能,解决了当前机器翻译引擎存在的隐私保护不足的问题,并在不显著影响翻译准确性的前提下增加了额外的安全保障。
- 基于 LiDAR 的边缘计算智能校园室外人群管理
使用廉价的激光雷达技术和边缘计算进行校园人群管理,保护隐私,提高性能。