sensitive data | BriefGPT - AI 论文速递

关键词sensitive data

搜索结果 - 11

大型语言模型通过自蒸馏和有意识想象进行非记忆化
使用一种名为 “刻意想象” 的新方法，在大型语言模型（LLM）的条件下有效地取消已学习的文本，并在进行生成任务和自然语言理解（NLU）任务时保留其功能，从而解决 LLM 中私密和敏感数据的挑战。
PDF5 months ago
选择性遗忘：推进机器遗忘技术和语言模型评估
该研究旨在调查机器遗忘（MU），这是一个新兴领域，专注于解决神经模型意外保留个人或敏感数据的问题。本文介绍了一种新的方法，以实现语言模型内的精确选择性遗忘，并提出了两个创新的评估指标：敏感信息提取可能性（S-EL）和敏感信息记忆准确性（S-
PDF5 months ago
决策树的隐私约束公平估计
本文研究了公平性、隐私和可解释性之间的权衡，提出了一种名为 PAFER 的新方法，用于对决策树进行不同隐私方法下统计平等性的估计。通过实验比较了几种隐私机制，并证明了使用 Laplacian 机制时，该方法能够低误差地估计统计平等性，并以高
PDF7 months ago
Transformer 中梯度泄漏的攻击和防御的理论洞察
梯度泄漏攻击与防御策略的全面分析，为基于变压器模型的隐私保护技术的发展做出了积极贡献，旨在促进保护敏感数据和在变压器模型背景下维护隐私的进展。
PDF7 months ago
机器取消学习：解决方案与挑战
机器遗忘是一项关键技术，用于选择性地移除训练数据点对训练模型的影响。本文提供了机器遗忘研究的全面分类和分析，并回顾了最新的解决方案，讨论了其优势和限制，并提出了未来的发展方向，以推动机器遗忘作为一项必要的可信和自适应机器学习能力。
PDFa year ago
通过交替教学减少语言模型中意外记忆
提出了一种新的交替教学方法来减少语言模型在训练集中记忆罕见或独特序列而导致泄漏用户数据的现象，该方法采用多个教师模型对各自独立的训练集进行训练，并以教师模型预测结果作为学生模型的监督信号，实验结果表明这种方法达到了比其他方法更好的隐私保护效
PDF2 years ago
NoPeek：减少信息泄露以在分布式深度学习中共享激活
本文提出了一种基于距离相关性降低原始数据和中间表示之间信息泄露的分布式深度学习方法，以应对敏感数据对分布式机器学习服务的限制。该方法在训练和推断过程中通过减少数据和表示之间的距离相关来预防原始数据的重构攻击。实验证明该方法能够有效保护隐私信
PDF4 years ago
使用差分隐私原型联邦推荐
我们提出了一种新的联邦学习方法，以保护敏感数据领域（如医学或银行业）中的用户隐私，同时用于推荐系统，不提取原始数据、用户统计数据或个人偏好信息，通过构建一组原型，推断全局行为模式，提供差分隐私保证，并实现局部模型的本地适应，取得了远优于传统
PDF4 years ago
机器学习模型过于记忆
机器学习中的敏感数据可能会 “记忆” 在训练模型中，即使采用标准技术如正则化和数据扩充等方法，从中还是能够提取训练集的子集。
PDF7 years ago
局部隐私估计的极小极大最优算法
本文研究数据保护与统计估计之间的平衡，开发了私有版本的信息熵界限，提出了一些新的基于隐私保护机制和计算效率估计，并给出了一些实验结果，证明了这些过程的重要性。
PDF8 years ago
差分隐私中拉普拉斯机制的最优性
研究了在物联网高度互联且敏感信息交换的背景下，拉普拉斯机制和李普希兹隐私的应用，以及不同维度空间下不同范数的误差最小化机制。
PDF9 years ago