adversaries | BriefGPT - AI 论文速递

关键词adversaries

搜索结果 - 14

对手可以滥用安全模型的组合
开发者试图评估人工智能系统在发布之前是否会被对手滥用，本研究表明，仅对单个模型进行滥用测试是不充分的，对手可以即使每个单独的模型都是安全的情况下，组合模型进行滥用。研究了两种分解方法：手动分解和自动分解，结果显示对手可以使用模型组合更高频率
PDF14 days ago
具有动机的对手：对抗鲁棒性的战略性替代方案
通过战略建模，我们的研究提出使用对手的动机作为归纳偏差学习的一种方式，通过战略训练在不确定奖励条件下防御对手，此方法甚至对对手动机的轻微了解也能有用，潜在收益程度取决于动机与学习任务结构的关系。
PDF17 days ago
AI 对准逆悖论
AI 对齐存在悖论：我们越好地将 AI 模型与我们的价值观相一致，就越容易让对手使模型不一致。为确保人类福祉，必须确保广泛研究者共同意识到 AI 对齐悖论，并努力寻求突破途径。
PDFa month ago
提升机器学习数据隐私保护的最新方法 —— 综述
探讨隐私保护机器学习（PPML）的兴起及其对各领域的巨大影响，强调在机器学习框架中保护隐私所面临的挑战，讨论当前研究努力，旨在最小化隐私敏感信息和增强数据处理技术，通过应用密码学方法、差分隐私和可信执行环境等隐私保护技术，保护机器学习训练数
PDF4 months ago
DNN 隐私泄露：模型倒置攻击和防御方法的调查
模型反演攻击致力于利用对预训练模型的访问权限揭示关于训练数据的私密信息，这些攻击使得对与私密训练数据密切一致的高保真数据的重建成为可能，从而引发了重大的隐私担忧。尽管该领域取得了快速的进展，但我们仍然缺乏对现有模型反演攻击和防御方法的全面概
PDF5 months ago
多触发后门攻击：更多触发器，更多威胁
本研究主要探究多重触发攻击对后门攻击的实际威胁性，并通过提出和研究三种类型的多重触发攻击，包括并行攻击、顺序攻击和混合攻击，以及在相同数据集上不同触发器之间相互存在的共存、互相覆盖和交叉激活效应等重要理解，揭示了单一触发器攻击过度乐观地评估
PDF5 months ago
Brave：拜占庭容错和隐私保护的点对点联邦学习
通过消除既有集中式联邦学习范式中汇总本地模型的服务器，将被称为 P2P FL 的方法应运而生，然而，P2P FL 容易受到善意但好奇的参与者和可以发出任意篡改的拜占庭参与者的攻击，本文提出了一种名为 Brave 的协议，以确保 P2P FL
PDF6 months ago
转置攻击：通过双向训练窃取数据集
神经网络存在漏洞可在双向上执行不同任务的训练，导致对抗者能够将恶意模型隐藏在表面上合法的模型中，此外神经网络还能被教导有系统地记忆和检索特定样本，这些发现展示了一种对抗者能够在受保护的学习环境中以合法模型的假象下窃取数据集的新方法，我们通过
PDF8 months ago
理解代码语义：Transformer 模型在摘要中的评估
这篇论文通过使用先进的基于变压器的语言模型深入研究了代码摘要。通过实证研究，我们改变函数和变量名称来评估代码摘要的效果，以探索模型是否真正理解代码语义或仅依赖于文本线索。我们还引入了死代码和注释代码等对抗性实验，覆盖了 Python、Jav
PDF8 months ago
带有比干净数据更多损坏数据的系统识别的精确恢复
本文研究在敌手干扰下的线性离散时间系统识别问题，分析两种 Lasso 估计器的渐近和非渐近特性，并给出了样本复杂度和攻击时间模型的关系，首次提供了相关数据学习动态系统的数学保证。
PDFa year ago
ICML存在对手的即兴团队合作
本文介绍了将对手纳入 ad hoc teamwork 的重要性，并探讨了该问题的难度，提出了新的研究方向，旨在实现更加强大的多智能体网络物理基础设施系统。
PDF2 years ago
评估防御模型在对抗攻击和鲁棒性方面的关键检查点
该研究提出了在建立和评估防御模型时应考虑的几个检查点，以弥补以往的防御模型存在严重漏洞的问题。
PDF2 years ago
对抗恶意 DeepFakes: 调查、战场和展望
在这篇论文中，我们调查了超过 318 篇研究论文，从 DeepFake 生成、检测以及逃避检测等方面，提供了全面的概述和详细分析，包括各种 DeepFake 生成方法和各种 DeepFake 检测方法的分类，同时展示了 DeepFake 生
PDF3 years ago
深度学习与音乐对抗
本文提出一种 deep learning 系统应用于音乐内容分析的 Adversary 方法，将其集成到新的深度系统中并探讨其对系统鲁棒性的影响。
PDF9 years ago