- MemDPT：高效内存差分隐私语言模型
通过提出的创新训练框架 MemDPT，本文在减少大型语言模型的内存成本的同时，强调保护用户数据的隐私，通过边缘网络和反向网络设计实现了差分隐私内存高效微调方案，达到了 2 至 3 倍的内存优化，并提供了可靠的隐私保护，确保用户数据的安全和保 - 机器学习中的数据最小化原则
基于法律定义，本文介绍了数据最小化的优化框架，并使用多个优化算法来实现数据最小化，通过对合规性和用户隐私影响的全面评估，我们的分析强调了数据最小化的隐私预期与实际隐私利益之间的不匹配，强调了需要考虑现实世界隐私风险的多个方面的方法的需求。
- 大型语言模型中的嵌入信息泄漏
该研究探讨了大型语言模型在数据隐私方面引发的关切，并研究了恶意模型提供者通过输入重建攻击来侵犯隐私的潜力。研究提出了两种基础方法以重建模型隐藏状态中的原始文本，并介绍了一种基于 Transformer 的方法以重建深层嵌入的输入。研究发现 - 基于集群的资源感知拆分联邦学习用于连续认证
结合分割学习、联邦学习等技术，提出了一种能够解决连续认证挑战并保护用户隐私的持续认证系统，同时减轻设备资源负担，并在连续认证场景中保持高准确性。
- 大型语言模型引导的嵌入的隐私风险理解
这篇论文探讨了大型语言模型在提高检索式生成任务准确度方面的有效性，发现大型语言模型相较于传统的预训练模型具有更高的潜在危险性，可能对用户隐私造成负面影响，并探讨了缓解这一风险的初步策略。
- 一张图片胜过 500 个标签：Instagram 和 TikTok 本地机器学习模型中的人口统计差异案例研究
移动应用程序通过将数据处理移至用户的智能手机来保护用户隐私。利用先进的机器学习（ML）模型，如视觉模型，现在可以在本地分析用户图像以提取推动多种功能的见解。通过分析两个流行的社交媒体应用程序 TikTok 和 Instagram，揭示了（1 - IJCAI隐私保护的端到端口语言理解
本研究提出了一种新颖的跨任务保护用户隐私的口语理解模型，通过利用隐藏层分离技术，将用户信息仅分布在特定部分的隐藏层中并移除其他类型信息，从而实现隐私安全的隐藏层。为了在效率和隐私之间取得良好的平衡，引入了一种新的模型预训练机制，即联合对抗训 - 矩阵流形上的数据协作分析
通过在矩阵流形上进行优化问题和高效解决方案，本研究为合作函数建立了严格的理论基础，并引入了新的公式，在维护一致性和效率、不损害通信效率或隐私保护的同时，显著提高了性能。
- MMPromptCrypt: 大规模语言模型的安全通信中初始加密
这篇论文介绍了一种名为 PromptCrypt 的加密机制，它使用表情符号对用户输入进行加密，保护用户隐私，无论对人类还是 LLM 自身都无法辨别敏感数据，同时保持模型的性能，实现与直接提示 LLM 相比，任务准确性可比甚至更优，突出了保护 - 文本图像生成模型中（非）预期记忆的理解
多模态机器学习中的文本到图像模型，如 Stable Diffusion 和 DALL-E 3，以将文本转化为详细图像而变得重要。本文介绍了一种专门针对文本到图像模型的记忆定义，并根据用户期望将其分为三种不同类型。我们对意图记忆和非意图记忆之 - OASIS：联邦学习中的主动重构攻击抵消
本文提出了基于图像增强的防御机制 OASIS，以有效抵抗主动重构攻击，同时保持模型性能。
- 为高效、个性化信息检索调整语言模型的方法与影响
大型语言模型（LLMs）在信息检索方面的优化、模型幻觉、用户隐私等关键问题的研究。
- MARRS: 多模态参考解析系统
通过介绍 MARRS（多模态引用解析系统）框架，本文提出了处理对话理解任务中的上下文问题的不同机器学习模型，其中一个用于引用解析，一个用于通过查询重写处理上下文，并描述了这些模型是如何协同工作以构建一个能够理解上下文并保护用户隐私的统一、简 - RAIFLE：面向交互式联邦学习的重构攻击与主动数据篡改
该研究论文讨论了交互式联邦学习中用户隐私的挑战，并提出了一种基于优化的攻击框架 RAIFLE，它通过主动操纵训练数据来恶意影响本地更新，从而对隐私进行破坏。最后，提出了一些抵御该攻击的指导方针。
- PLMM：移动设备上的个人大型模型
本文提出了一种个性化大模型，它们是从传统大语言模型中提炼出来的，更适应于本地用户的个人信息，如教育背景和兴趣。通过将大语言模型分类为个人级别、专家级别和传统级别，本文介绍了不同级别模型的特点和应用。个人级别模型采用用户个人信息进行自适应，对 - 对基于 LLM 的对话代理使用者在披露风险和好处上的导航方式进行研究
建立尊重用户隐私的伦理性大型语言模型对话代理 (LLM-CA) 需要深入了解用户最关心的隐私风险，并解决用户隐私、效用和便利之间的权衡问题。研究发现，用户在使用 LLM-CA 时面临隐私、效用和便利之间的不断选择，但用户对隐私风险的认知受到 - 捕捉流行趋势：一种简单的非个性化方法来增强项目推荐
通过对物品的流行程度进行建模，Popularity-Aware Recommender (PARE) 能够提供非个性化推荐方法，以作为现有推荐系统的补充。PARE 的四个模块分别关注流行历史、时间影响、周期影响和附加信息，并通过注意力层将四 - 应用广告点击率和安装预测的加权多层特征分解
该论文提供了 ISISTANITOS 团队在 ACM RecSys Challenge 2023 中所使用的方法概述。该竞赛由 ShareChat 组织，旨在预测用户点击应用广告和 / 或安装应用的概率，以改善深漏斗优化并特别关注用户隐私。 - FedMEKT: 基于蒸馏的多模态联邦学习嵌入式知识传递
通过引入半监督学习方法和知识迁移机制，我们提出了一种新颖的多模态联邦学习框架 FedMEKT，该框架在多个客户端之间协作训练一个广义全局模型，克服了单模态数据和标记数据约束的问题，并且较其他基准方法具有更高的全局编码器性能、保证了用户数据和 - 流处理系统中实现全面隐私保护的路径
本文系统性地探讨了流处理系统与物联网相交界处所引发的用户隐私问题，并提出了实现整体隐私保护的解决方案。