utility | BriefGPT - AI 论文速递

关键词utility

搜索结果 - 73

ICML私隐差分深度学习的高效可扩展训练
差分隐私随机梯度下降（DP-SGD）是在差分隐私下训练机器学习模型的标准算法，其主要缺点是效用下降和显著的计算成本，我们通过综合实证研究量化了差分隐私下训练深度学习模型的计算成本，并对旨在降低成本的方法进行了基准测试，其中包括更高效的 DP
PDF9 days ago
FairX: 使用公平性，效用性和可解释性的综合性模型分析基准工具
FairX 是一个开源的基于 Python 的基准测试工具，旨在综合分析公平性、效用性和可解释性（XAI）模型的广泛名称，能够训练基准测试去偏置模型并使用多种公平度量标准、数据效用度量标准评估其公平性，并针对模型预测生成解释，所有这些均在统
PDF14 days ago
推动零售数据科学：合成数据的综合评估
本文介绍了一种综合性框架，用于评估合成零售数据，注重保真度、实用性和隐私性。通过稳定性和普适性来衡量保真度，证明了合成数据在需求预测和动态定价等关键零售任务中的有效性，通过差分隐私确保数据具有出色的相似性和安全性，验证了该框架对于合成零售数
PDF15 days ago
评估机器生成事实核查解释的透明度
通过使用大型语言模型，我们研究了人工筛选与机器选择证据对解释生成的影响，发现大型语言模型使用机器选择的证据生成的解释质量相似或更高，表明精心策划（通过人工）的证据可能不是必需的。但即使使用最佳模型，生成的解释有时也不忠实于来源，因此在事实核
PDF16 days ago
通过灵感哲学中的相关性迭代实用判断框架
当我们将实用性判断纳入 “检索增强生成（RAG）” 中时，我们认识到话题相关性、实用性和回答在 RAG 中与 Schutz 从哲学角度讨论的三种相关性（话题相关性、解释相关性和动机相关性）密切相关。受到这三种相关性的动态迭代的启发，我们提出
PDF17 days ago
个性化语言模型中的安全性 - 效用权衡探索
大型语言模型（LLMs）在日常应用中变得越来越普遍，因此需要确保它们在各种用户群体之间公正地运行。本文揭示了 LLMs 存在个性化偏差的问题，也就是当 LLMs 根据用户的身份进行个性化设置时，它们的性能会受到影响。我们通过评估 LLMs
PDF17 days ago
提升无监督图异常检测的公平性通过解耦
图异常检测（GAD）在各种应用领域中变得越来越重要，从金融欺诈检测到假新闻检测。然而，目前的 GAD 方法很大程度上忽视了公平性问题，这可能导致偏向某些基于敏感属性（如性别、宗教、种族等）定义的人群的歧视性决策。为了解决这一关键问题，我们首
PDFa month ago
关于大型模型的低秩适应的公平性
通过对视觉和语言领域的分类和生成任务进行广泛实验，我们发现低秩适应（LoRA）在许多情况下具有与基准模型或其完整微调基准相当甚至更好的公平性，但也引发了适当任务设计和模型成员偏差评估等公平性评估方面的复杂性。
PDFa month ago
公平性 - 准确性权衡：因果视角
机器学习系统可能基于性别、性别、宗教或种族等敏感特征表现出歧视行为，因此提出了各种公平性概念和量化歧视方法，并发展了构建公平预测器的众多方法。本研究首次从因果角度分析了公平性和准确性之间的紧张关系，提出了路径特定过量损失（PSEL）的概念来
PDFa month ago
ACL跨任务防御：面向内容安全的指令调优语言模型
我们的研究旨在针对恶意文件开发强大的大型语言模型（LLMs）防御机制，并通过指导调整来提高它们处理危险内容的能力，同时维持其效用和安全之间的平衡。在我们的实证结果中，LLMs 可以通过适当的指导调整显著增强它们处理危险内容的能力。此外，加强
PDFa month ago
效用公平交替及其搜索方法
在构建考虑人口统计公平性的分类系统时，需要满足两个目标：一是在特定任务中最大化效用，二是确保对已知人口统计属性的公平性。然而，这两个目标往往存在竞争，因此在优化两者时可能需要权衡。本文回答了两个问题：一是效用和公平之间的最佳权衡是什么？二是
PDF3 months ago
使用 GPT-4 初探表格数据的零 - shot 隐私 - 效用权衡
我们研究了大型语言模型（LLMs），特别是 GPT-4，在涉及表格数据中隐私与效用之间的权衡场景中的应用。我们的方法是通过将表格数据转化为文本格式，然后以无监督的方式包含精确的消除敏感信息的指示来激活 GPT-4。我们的主要目标是以一种使得
PDF3 months ago
DSF-GAN: 下游反馈生成对抗网络
使用一种名为 DSF-GAN 的新型架构，通过从下游预测模型获得反馈信息来增强生成器的损失函数，从而提高合成样本的效用。与没有反馈的相同类型的 GAN 生成的合成样本相比，DSF-GAN 生成的合成样本在模型性能上表现出更好的效果。
PDF3 months ago
AAAIInstaSynth：利用 ChatGPT 生成合成 Instagram 数据的机遇与挑战，用于赞助内容检测
通过使用大型语言模型生成合成数据，研究了其在帮助执行与在线赞助内容披露相关的法律要求方面的潜力。通过评估生成的合成标题的真实性和对未公开广告的识别训练效果，发现真实性和实用性目标之间可能存在冲突，并且即使合成帖子在个体上看起来逼真，它们在整
PDF3 months ago
ICLR对齐器：解耦 LLMs 和对齐
通过使用合成数据训练可调整的模型，我们提出了一种解耦大型语言模型和对齐过程的方法，以确保其在大多数应用中的安全性和实用性，并减少对齐对性能的潜在负面影响。我们通过训练一个 “道德” 对齐器模型并从实证角度验证其有效性来阐明我们的方法。
PDF4 months ago
最低特权学习的基本限制
我们提供了机器学习中最小权限原则的第一个形式化定义，证明了在表示与任务之间存在着效用和信息泄露的根本权衡，无论采用何种技术和数据集学习特征映射，都无法同时实现对任务的高效用和避免泄露非任务标签属性的目标。
PDF4 months ago
安全代码生成的指导优化
SafeCoder 是一种能够显著提高安全性（大约 30%）并保持实用性的安全中心微调方法，在流行的语言模型和数据集上都表现出有效性。
PDF5 months ago
EraseDiff: 擦除传播模型中的数据影响
通过在扩散模型中引入一种取消学习算法，以解决与数据遗忘和隐私保护相关的问题。我们将取消学习问题建模为一个双层优化问题，并采用一阶方法来解决该问题，从而在保留模型效用的同时清除与忘记数据相关的信息。在实验证明我们的算法能够有效地移除两个广泛使
PDF6 months ago
深度自动化机制设计 --- 用于广告竞价和分配的新闻推送
电子商务平台上的广告拍卖和分配过程对广告收入和总商品交易量有直接影响，存在两个问题：广告拍卖阶段不考虑外部因素（例如实际显示位置和上下文对广告点击率的影响），广告分配阶段无法实现广告的激励兼容性。以往的研究多关注其中一个阶段，忽视了这个两个
PDF6 months ago
一个简单实用的方法来减少差异隐私的不均衡影响
通过使用分层方法，可以在不用额外的隐私预算的情况下得到高准确性的全局统计学估计，从而减少差异的工作是减少差异的差异数据隐私机制应该被比较的一个强有力的基线。
PDF7 months ago