norms | BriefGPT - AI 论文速递

关键词norms

搜索结果 - 14

朝着约束合规的目标规划与计划
在一个简单的领域中，我们探索了在不同伦理框架中知识的编码如何影响代理人的目标制定和规划过程，并展示了代理人在相关约束的集合中包含各种类型的 “硬性” 和 “软性” 约束时满足和满足的能力。我们研究了代理人如何尝试遵守伦理约束，这取决于伦理框
PDF2 months ago
利用 LLM 的力量进行 MAS 中的规范推理
基于大语言模型的代理能力的研究及挑战，旨在促进多主体系统、自然语言处理和大语言模型研究领域的合作，以推动规范代理的发展。
PDF3 months ago
通过马尔可夫博弈中的贝叶斯规则归纳来学习和维持共享规范系统
学习智能体可以通过假设存在共享的规范来推断现有人群的规范，进而实现学习与社会合作。该研究在马尔可夫博弈的环境中形式化了这一框架，并通过近似贝叶斯规则归纳来展示了多智能体环境中的操作，使智能体能够快速学习和维持各种合作制度，包括资源管理规范和
PDF5 months ago
具有未知延迟的在线顺序决策
在在线顺序决策的领域中，我们利用在线凸优化（OCO）框架解决带有延迟的问题，其中决策的反馈可能会有未知的延迟。我们提出了三类基于近似解的延迟算法，以处理不同类型的接收反馈。我们提出的算法多功能且适用于通用范数，在每种算法类型下给出了相应的遗
PDF5 months ago
SADAS: 面向双语社会文化对话中纠正规范违反的对话助手系统
社会意识对话助手系统（SADAS）旨在跨越文化鸿沟，确保来自不同文化背景的个体之间的对话以尊重和理解展开。该系统的新颖架构包括：(1) 识别对话中存在的规范类别，(2) 检测潜在的规范违反，(3) 评估这些违反的严重性，(4) 实施有针对性
PDF5 months ago
衡量价值对齐
本文介绍了一种新的形式化方法来量化人工智能系统与人类价值观的一致性，使用马尔可夫决策过程作为基础模型，强调价值观作为行动的可取目标和规范行为准则与 AI 决策之间的联系，为评估规范与价值观之间一致程度提供了一种机制，以在规范世界中评估状态转
PDF6 months ago
协同过滤捕捉 AI 用户的偏好作为规范
个性化 AI 技术的定制对其良好运行至关重要，当前的方法需要太多用户参与，无法真正捕捉其偏好。我们认为需要一种新的视角来构建规范，利用整个用户系统中大量可用的偏好信息，启发于推荐系统，我们相信协同过滤可以提供一种适合的方法来识别用户的规范偏
PDFa year ago
NormMark：一种弱监督马尔可夫模型用于发现社会文化规范
本文提出了 NormMark，一种基于概率生成的马尔可夫模型，通过离散和连续的隐变量去捕获会话历史中的特征，提高规范识别的能力。在弱批注数据集上，本方法的 F1 分数更高，超过了当前最先进的方法，包括 GPT3。
PDFa year ago
利用锐度感知最小化增强基于微调的后门防御
本论文研究基于神经元角度的微调方法 Fine-tuning 与缩小后门相关神经元范数的新型防御范式 FTSAM，提高机器学习模型对抗后门攻击的鲁棒性。实验证明该方法在多个基准数据集和网络架构下具有最先进的防御性能。
PDFa year ago
IJCAI社会智能基因代理人对显性规范的涌现
本文研究规范的出现，通过开发代理人提供和推理违背规范的解释，从而决定制裁和识别替代规范。这些代理人利用遗传算法产生规范，并利用强化学习学习这些规范的价值。我们发现，应用解释会导致规范提供更好的凝聚力和目标满足。我们的结果对具有不同慷慨态度的
PDF2 years ago
AAAIScruples: 一份包含 32,000 个真实生活轶事的社区道德判断语料库
本文介绍了一种数据驱动的方法来解决机器伦理问题，首次提出了 Scruples 数据集，其中包含了 32,000 个真实故事中的 625,000 个伦理判断，并探讨了神经模型在伦理学习中的应用和挑战。
PDF4 years ago
深度学习中的隐式正则化可能无法通过规范解释
通过矩阵分解问题的数学建模，探究梯度优化算法所诱导的隐含正则化问题，研究发现规范（norms）不能完全解释矩阵分解问题中的正则化问题，通过实验证明排名（rank）是更有用的解释方式以及有可能解释深度学习中的泛化问题。
PDF4 years ago
使用随机化对抗培训的鲁棒性神经网络
本文探讨应对不同规范的对抗性攻击所产生的难题，并提供了一些理论和经验性的见解，讨论如何结合现有的防御机制来提高神经网络的鲁棒性。实验结果表明，这些新的防御机制能更好地保护神经网络不受两种规范攻击。
PDF5 years ago
正则化最小二乘算法的 Sobolev 范数学习率
本文针对最小二乘回归中的 $L_2$-norms，将其扩展至更强的 norms，而无需将回归函数包含在假设空间中。特别地，在用作假设空间的 Sobolev 重现核希尔伯特空间的特殊情况下，这些更强的 norms 与所使用的 Sobolev
PDF7 years ago