mitigations | BriefGPT - AI 论文速递

关键词mitigations

搜索结果 - 9

CVPR潜在方向：生成式人工智能中的偏见缓解简单路径
通过学习潜在空间中的方向并仅修改扩散过程中提供的初始高斯噪声，我们的工作引入了一种新方法，实现多样性和包容性合成图像，这成功地适应了各种去偏差场景，如地理偏差。
PDF24 days ago
可下载基础模型微调不断增加的风险
能够下载的预训练模型权重的公开发布，使得细调模型可以避免昂贵的预训练费用。本研究认为，可下载模型的越来越易于细调可能会增加风险，主要体现在降低细调的计算成本、扩大参与共享成本的参与者范围、容易被用于恶意目的、难以监管具有潜在危险能力的模型等
PDF6 months ago
语言模型中的隐私风险识别与缓解：调查
通过对大规模语言模型的调查，本研究首次提供了关于语言模型隐私的技术综述，包括攻击与缓解策略的分类、现有攻击的趋势、现有缓解策略的强项与局限性，找出关键缺口并提出解决问题的方法与关切领域。
PDF9 months ago
检索式语言模型的隐私影响
本文研究检测基于 k 最近邻的检索型语言模型对隐私的风险，探索隐私安全的最佳设计和培训程序以在效用和隐私之间取得平衡，并提供了隐私风险缓解策略。
PDFa year ago
欺骗 LLMs 反抗：理解、分析和预防越狱
本研究提出了形式主义和已知（和可能的）越狱攻击分类，并在开源和商业 LLM（如 GPT 3.5，OPT，BLOOM 和 FLAN-T5-xxl）上进行了现有越狱方法及其有效性的调查；我们进一步提出了一组有限的提示守卫，并讨论了其对已知攻击类
PDFa year ago
交互式和组合式 Deepfake 的展望
该研究讨论了两种类型的 Deepfakes—— 互动式 Deepfakes 和组合式 Deepfakes，这两种 Deepfakes 的恶意使用将会对社会产生昂贵的影响，并探讨了可能的缓解措施。
PDF2 years ago
重新审视 BatchNorm 中的 " 批次
该论文详细回顾了在视觉识别任务中 BatchNorm 所存在的问题，并且指出解决这些问题的关键是重新思考 BatchNorm 中 “Batch” 这个概念中的不同选择，通过提供这些问题及其缓解措施，帮助研究人员更有效地使用 BatchNor
PDF3 years ago
量化和减少预训练模型中的性别相关性
本文通过案例研究探究了如何解决预训练模型中存在的诸如性别相关性等不良特征的问题，并提出了一些通用的技术手段以减少这些问题的出现。作者建议在训练机器学习模型时应谨慎评估这些问题，注意 seemingly innocuous 的配置差异，并专注
PDF4 years ago
深度神经网络硬件故障攻击中的无恩劣化
本研究探讨了硬件攻击给神经网络的参数带来的影响及其耐受能力，发现大部分模型对单一位比特翻转都有 10% 以上的分类精度下降，结果揭示了神经网络鲁棒性的局限性并提出了未来的研究方向。
PDF5 years ago