human values | BriefGPT - AI 论文速递

关键词human values

搜索结果 - 40

价值万花筒：为人类价值观、权利和责任与人工智能进行互动
人类价值观和价值多元论对于人类决策至关重要。为了更好地反映价值多元论，我们介绍了 ValuePrism 数据集和 Kaleido 模型，它们可以生成、解释和评估特定语境下人类价值观、权利和责任的相关性和支持程度。我们的工作希望明确人类决策背
PDF10 months ago
透视偏好：解开大型语言模型对齐中的反馈获取
通过稀疏反馈的设计选择以及反馈协议对大型语言模型（LLMs）的对齐和评估进行分析，发现评分和排名所推断的偏好在人类和人工智能注释者中有显著差异，并揭示了对齐 LLMs 评估的方法中的关键缺陷和对反馈协议的强烈依赖。
PDF10 months ago
美国法律体系是否准备好应对人工智能对人类价值的挑战？
我们的跨学科研究调查了美国法律如何有效应对生成式人工智能对人类价值观的挑战。通过对专家研讨会中构思的多种假设场景进行分析，我们发现现行法律框架在保护自主权，隐私，尊严，多样性，平等和身体 / 心理健康等基本价值观方面存在显著的差距和不确定性
PDF10 months ago
AI 安全之法律研究
人工智能系统如何安全并与人类价值相一致是一个开放性的研究问题，本文提出有效的法律制度是解决人工智能安全性的最佳途径。
PDFa year ago
SemEval-2023 任务 4: 基于对比学习强化的最近邻机制的标签表示多头注意力模型，用于多标签文本分类中的毛泽东
本文介绍了我们团队使用 Roberta 模型进行多头注意力机制的人类价值自动识别方法，在 SemEval 2023 的评测中得到了第四名的成绩。
PDFa year ago
人体对齐的偏好排名优化
提出了一种名为 Preference Ranking Optimization（PRO）的新型策略，旨在通过将人类偏好排名直接应用于语言模型生成的响应的概率排名，实现语言模型（LLMs）的与人类价值观的对齐。研究结果表明，PRO 优于现有的
PDFa year ago
通过合成反馈对齐大型语言模型
本研究提出了一个新的框架，利用奖励建模 (RM) 方法和模拟高质量演示来进行对齐语言模型的训练，避免了对已对齐的 LLMs 的依赖，这种方法的结果是，我们的模型 ALMoST 在对 InstructGPT 或人工注释指令训练的开放源代码模型
PDFa year ago
Rudolf Christoph Eucken 在 SemEval-2023 任务 4 中：一种集成方法用于从论证中识别人类价值观
本文提出了一种集成方法来从论述文本中检测人类价值观，该方法包括三个模型，并通过不同的方法组合实验，最终获得 0.48 的 F1 分数。
PDFa year ago
大型语言模型人性化科技
这篇文章着重探讨了大型语言模型对人类价值、劳动力市场的影响以及需不需要对它们进行监管等问题，同时，它们也能更好地人性化技术，并且可以克服当前技术所面临的瓶颈问题。因此，我们应该更广泛地了解和推广 LLMs 以及简化 LLMs 使用的工具和方
PDFa year ago
伦理人工智能的人类价值计算框架
通过社会科学根植的正式概念框架，系统、集成和跨学科地探究人类价值如何支持设计道德人工智能，从而解决价值对齐问题和其他相关的挑战，如人工智能学习人类价值观、将个人价值观聚合到群体中和设计计算机机制来处理价值观。
PDFa year ago
多智能体系统中的人类价值观
本文提供一个源于社会科学、能够形式化表达价值的形式化表述，并使用此表述明确了实现 AI 价值对齐的关键挑战和研究路线图。
PDFa year ago
ChatGPT 如何反映人类价值观？—— 使用描述性价值理论探究 ChatGPT 中的价值偏差
本研究使用心理价值理论对聊天机器人 ChatGPT 生成的文本进行实验验证，发现其中并没有明显的价值偏见，同时发现社交定向价值的混合情况，提供了对 ChatGPT 商业应用、政策制定和未来研究方向的启示，并对人类价值的理论推测产生影响。
PDFa year ago
利用定义提高论点背后人类价值预测 —— SemEval-2023 任务 4 上的 Epicurus
我们进行了实验，旨在识别论据背后的人类价值观，通过在模型训练过程中引入人类价值观的定义来提高预测性能，结果表明我们提出的模型相比于挑战组织者的基线模型表现更好，宏 F1 分数提高了高达 18%。
PDFa year ago
用于辨识论据背后的人类价值观的 Touché23-ValueEval 数据集
我们提出了 Touché23-ValueEval 数据集，用于识别论据背后的人类价值观，并通过自动化检测方法，从 6 个不同源头的 9324 个论点中收集数据。该数据集相对于之前的数据集表现更好，尽管标签分布使分类难度增加，但更大的数据集可
PDFa year ago
AI 对齐问题的多层框架
该研究探讨人工智能对齐问题，阐述了一个包含四个层次（个人、组织、国家和全球）的框架，分别考虑这些层次的价值观对人工智能的影响，以及这些价值观之间相互影响的方向，最后通过介绍 AI 内容审核这个案例，展示了该框架的应用。
PDFa year ago
自然发生故事原则预测的机器学习方法
本文探讨了利用机器学习模型对故事数据进行规范原则预测的任务，研究表明，单独的原则可以被分类，但 ' 道德准则 ' 的不确定性对于人类和自主系统来说都是一个挑战。
PDF2 years ago
使分类器能够明确地与人类价值观保持一致
该研究介绍了一个基于明确人类价值观的价值对齐分类框架，并从大规模语言模型中提炼价值对齐知识以构建分类器，结果表明使用显式人类价值观分类器能提高人工智能的包容性和可解释性。
PDF2 years ago
法律与代码：一种法律信息学方法，用以协调人工智能与人类
通过将法律知识和推理嵌入 AI 中并利用法律过程生成的数据来解决人类价值的规范问题，从而增加人工智能与人的对齐并提高其在本地上的实用性。
PDF2 years ago
算法学习人类价值观与非理性行为的危险
研究分析了开发学习人类偏见和政策的人工智能的危险，并构建了一个推荐系统模型，毕竟对于 AI 来说，了解人类的错误看法比了解人类价值更加危险，因此直接学习人类价值会更为优先。
PDF2 years ago
人本机制设计与民主人工智能
通过 Democratic AI 方法，使用强化学习算法在参与者中探讨和设计社交机制来解决人工智能与人类价值观的对齐问题，有效缓解了财富分配不均，制止了搭便车行为并成功地赢得了大众的信任和认可。
PDF2 years ago