ai alignment | BriefGPT - AI 论文速递

关键词ai alignment

搜索结果 - 28

使用生成对抗反馈来微调语言模型
研究探讨了使用生成对抗反馈的强化学习（RLGAF）方法，以弥补人类评估者的专业知识和生产力限制并帮助对齐大型语言模型（LLMs）的输出，从而为进一步实现 AI 对准提供了前景。
PDFa year ago
迈向道德多模系统
本研究关注于采用多模态人工智能实现诸如完成句子或回答问题等任务，探讨其伦理评估的挑战，并通过互动式人类反馈创造一个多模态伦理数据库，然后利用该数据库构建算法对模型的道德性进行自动评估，包括 RoBERTa 和多层感知器分类器等。
PDFa year ago
AI 对齐对话：支持代理的 AI 对齐交互式方法
本文介绍了一种新的 AI 与人类协作的方式 ——AI Alignment Dialogues，通过对家务机器人的机器人控制台，把用户与机器人直接联系起来，实现对人工智能与人的对齐。实验结果显示这种方式可以实现更高效、更透明的人机交互。
PDFa year ago
AI 对齐问题的多层框架
该研究探讨人工智能对齐问题，阐述了一个包含四个层次（个人、组织、国家和全球）的框架，分别考虑这些层次的价值观对人工智能的影响，以及这些价值观之间相互影响的方向，最后通过介绍 AI 内容审核这个案例，展示了该框架的应用。
PDFa year ago
目标错误泛化：为什么正确的规范并不足以达成正确的目标
该研究主要讨论 AI 系统可能在追求不期而至的目标时出现的问题，如规定游戏和目标误化，并提出几个研究方向以减少这些问题带来的灾难风险。
PDF2 years ago
ICML你最优化的是什么？将推荐系统与人类价值观对齐
通过修改实际推荐系统，实现多样化、公正、幸福、时间管理和事实准确度等各种人类价值；通过人工创建数据进行分类，解决一系列相关问题，但用户与其他利益相关者的参与度不高。相反，通过人工智能技术，从利益相关方进行值观的学习，识别四个主要措施：协作设
PDF3 years ago
人工智能，价值观和对齐
探讨人工智能对齐问题所涉及的哲学问题，明确目标并提出合理的原则方法来解决技术和规范的问题，从而达成公平的人工智能对齐。
PDF4 years ago
不完全契约和人工智能对齐
运用法律和经济学领域的不完全契约理论可为理解 AI 对齐问题提供框架，并提出了一种集中于如何构建能够复制人类认知过程的 AI 以连接个体不完全合同与外部支持结构的研究议程。
PDF6 years ago