TableGuard -- 保护结构化和非结构化数据的安全
本文介绍了 QuerySnout 方法,这是一种自动发现 Query-based 系统漏洞的方法,该方法可以自动分析数据集来发现这些漏洞并测试各种保护机制的有效性。
Nov, 2022
本文提出了“Life of PII”——一种新颖的基于Transformer框架的PII伪装转换器来保护敏感个人身份信息的隐私,此方法比传统的数据扰动技术更加有效,具有更大的隐私保护和数据实用性之间的灵活性并提供了真实世界应用所需的解决方案。
May, 2023
传统安全机制与数据的访问权限分离,此论文通过在LLMs的结构中反映这种安全机制的组成性质,构建了一个可证明安全的LLM(称为SecureLLM),并结合访问安全和微调方法来保护敏感数据。
May, 2024
使用预训练的大型语言模型(LLMs),DP-LLMTGen引入了一种新的框架来进行差分私有表格数据合成,通过微调过程模拟敏感数据集并生成多样的合成数据,有效地解决了实际挑战。
Jun, 2024
该论文提出了一种新的相似性度量和数据剽窃指数(DPI)来评估表格数据的数据复制,并表征了相应的隐私风险。同时,论文指出DPI鉴定的数据复制对常见的高性能架构而言存在隐私和公平威胁,强调了需要更复杂的生成模型技术来减轻这个问题。
Jun, 2024
对一个模型提供者所拥有的专有 LLM 在第三方云提供商的计算基础设施上对另一个数据所有者所拥有的机密/私有数据进行推理和微调的问题进行了研究,提出了一种结合简单而有效的混淆技术和保密计算的新颖、高效且完全保护数据可用性的方法 ObfuscaTune,并在四个 NLP 基准数据集上验证了其有效性,并将其与我们方法的一个朴素版本进行了比较以强调使用低条件数的随机矩阵在我们的方法中减少混淆引起的错误的必要性。
Jul, 2024
本研究解决了查询系统(QBSs)中隐私攻击发现的效率问题,提出了快速有效的QueryCheetah方法。通过对属性推断攻击的实例化,证明其不仅能发现比以往更强的攻击,还比现有最先进的方法快18倍,从而显著提高了系统开发者评估隐私风险的能力。
Sep, 2024