moral reasoning | BriefGPT - AI 论文速递

关键词moral reasoning

搜索结果 - 10

MoralBench: LLMs 的道德评估
该论文介绍了一个新颖的基准，旨在衡量和比较大型语言模型的道德推理能力，通过开发针对大型语言模型的道德维度的综合数据集和指标，结合伦理学者的定性洞察力，评估模型性能，并揭示了不同模型的道德推理能力存在显著差异，强调在大型语言模型的开发和评估中
PDFa month ago
ACL股份投入：基于多利益相关者协调的 LLM 决策制定
通过模拟多个利益相关者的视角，本文引入了 “Skin-in-the-Game（SKIG）” 框架，旨在提高大型语言模型（LLMs）的道德推理能力，并验证了 SKIG 在各种道德推理基准测试上的性能和关键组成部分。
PDFa month ago
人类与语言模型道德推理评估中的程序化困境生成
AI 系统在决策中的应用日益增多，确保这些系统有合理的道德推理至关重要。我们提供了一个框架，使用语言模型将捕捉道德困境关键方面的因果图翻译为提示模板，并通过 OffTheRails 基准测试生成了一系列道德困境，组成了 50 个场景和 40
PDF3 months ago
一项改进的道德图灵测试中对人工智能代理的归因
人们对人工智能系统的道德评价是否与人类生成的道德评价相似的问题对于人工智能的进展具有重要意义。我们进行了一项改编自 Allen 等人（2000）提议的改进型道德图灵测试（m-MTT），通过要求参与者区分真实的人类道德评价和由一个流行的先进
PDF3 months ago
贪婪骆驼：金融价值对齐大型语言模型在道德推理中的性能
研究调查了将大型语言模型（LLMs）与金融优化对齐的道德影响，以 GreedLlama 为案例研究，该模型经过精调以优先考虑经济上有益的结果。通过将 GreedLlama 在道德推理任务中的表现与基准的 Llama2 模型进行比较，研究结果
PDF3 months ago
ACL语言是否影响法学硕士生的道德判断和推理能力？— 基于多语言道德问题定义测试的研究
本研究通过定义问题测试，探究了大型语言模型在不同语言中展示的道德判断和道德推理能力。我们扩展了之前仅限于英语的研究范围，针对中文、印地语、俄语、西班牙语和斯瓦希里语这五种新语言，对 ChatGPT、GPT-4 和 Llama2Chat-70
PDF5 months ago
知情人工智能监管：通过伦理审核比较领先的 LLM 聊天机器人的伦理框架，评估道德推理和规范价值
通过进行基于伦理的审计，该研究评估了 8 个主要的商业和开源大型语言模型（包括 GPT-4）的可解释性和可信度，比较不同模型在道德推理和伦理框架上的规范价值，以探索人工智能与人类的伦理对齐问题。研究结果表明，GPT-4 表现出了一个复杂的伦
PDF6 months ago
利用语言模型引导人类偏好
使用语言模型自身来引导任务规范化的学习框架，通过与用户进行自由形式的、基于语言的交互来提取和推断预期行为，在电子邮件验证、内容推荐和道德推理三个领域的实验中，我们展示了通过生成开放式问题或综合信息临界案例等方式激发语言模型表现的结果通常比用
PDF9 months ago
ICML运用反事实推论改善道德推理 —— 思想实验
本文提出了一种名为 Thought Experiments 的新提示框架，通过反事实让语言模型学习更好的道德推理。实验结果表明，使用这个提示框架可以消除 Moral Scenarios 任务的错误率，并且少量的人类监督可以显著提高任务的准确
PDFa year ago
终极目标是否正当化手段？公平感知机器学习的道德正当化
论文讨论公正机器学习算法的义务，对比不同的公正度量标准及其在道德层面的合理性，分析 Hardt 等人提出的公正机器学习算法引起的道德问题。作者建议需要从综合角度评价公正机器学习算法的策略和效果。
PDF2 years ago