Apr, 2022

关于 “基准化” 人工智能伦理的元伦理观点

PDF
TL;DR在这篇论文中，作者从道德哲学和元伦理学的研究中引用论述，提出了在当前没有一套能度量 AI 系统 “伦理性” 的指标和测量方式的情况下，将 AI 系统的考虑转变为 “价值观” 而非 “伦理学”，强调了价值观的相对性，这种思路会为开展 AI 系统的安全研究和有益研究提供新的方法。
artificial intelligencebenchmarksethicsvaluesresearch
发现论文，激发创造
  • AI 伦理的伦理学──指南评估

    本文分析比较人工智能伦理指南的规范原则、建议和忽略之处，提供了对人工智能伦理领域的详细概述，并研究这些伦理原则和价值观在人工智能系统研究、开发和应用实践中的实现程度。最终，本文探讨了如何提高人工智能伦理的有效实施。

    Feb, 2019

  • 人工智能与整个世界的万物基准

    本篇论文探讨了 AI 领域中对少量标准基准的高度评价，指出这种基准的限制并揭示了它们的建构效度问题，从而推动通向灵活且具有普适性 AI 系统的长期目标的进展。

    Nov, 2021

  • 伦理人工智能的人类价值计算框架

    通过社会科学根植的正式概念框架，系统、集成和跨学科地探究人类价值如何支持设计道德人工智能，从而解决价值对齐问题和其他相关的挑战，如人工智能学习人类价值观、将个人价值观聚合到群体中和设计计算机机制来处理价值观。

    May, 2023

  • 人工智能伦理学：文献计量分析、关键问题和主要空白

    人工智能伦理学是一个新兴而重要的学术研究领域，本研究对过去二十年的人工智能伦理学文献进行了全面的计量分析，揭示了一个明显的三阶段发展过程，涵盖了人工智能获得类似人类特征的阶段、人本主义人工智能系统的发展阶段。此外，研究还提出了七个关键的人工智能伦理问题，并指出了关于伦理模型和人工智能识别的两个值得进一步研究的研究空白，期待进一步的学术研究。

    Mar, 2024

  • 人工智能，价值观和对齐

    探讨人工智能对齐问题所涉及的哲学问题，明确目标并提出合理的原则方法来解决技术和规范的问题，从而达成公平的人工智能对齐。

    Jan, 2020

  • 用心理测量评估通用人工智能

    人工智能（AI）从任务特定到通用系统的发展，逐渐趋向于与人类的多样性。为了确保 AI 系统得到充分的评估，本文建议将心理测量学作为评估通用 AI 的核心，并提出相应的框架。

    Oct, 2023

  • 智能的度量

    该研究介绍了智能系统自识别反馈信号的必要性，提出了基于算法信息理论的智能定义，阐明了人工智能基准测试的重要性，介绍了一个使用人类内在先验近似设计的基准测试集 ——ARC，用于度量具有高通用流体智能的人工智能系统与人类的综合智能的比较。

    Nov, 2019

  • 伦理道德作为人工智能治理工具的效率

    本文对人工智能伦理学的现状进行了批判性分析，并认为基于原则性伦理准则的这种治理形式不足以规范人工智能行业及其开发者。建议通过对人工智能相关专业人员的培训过程和增加对其行业的监管来实现根本性变革。为此，建议法律应从生物伦理学中获益，并将人工智能伦理学的探索成果在法律条文中加以明确规范。

    Oct, 2022

  • 大型模型中的伦理价值一致性解析

    大模型在理解、生成和操作信息和内容方面极大地提升了人工智能的能力，但是随着这些模型越来越广泛地融入日常生活，它们固有的伦理价值观和潜在偏见给社会带来了无法预见的风险。本文概述了与大模型相关的风险和挑战，调查了现有的人工智能伦理准则，并研究了这些模型局限性带来的伦理影响。从规范伦理学的角度出发，我们提出了对最新规范准则的重新评估，强调学术界合作努力在建立统一而普适的人工智能伦理框架方面的重要性。此外，我们利用道德基础理论来调查当前主流大型语言模型的道德倾向，分析了现有的对齐算法，并概述了在对齐这些伦理价值观时遇到的独特挑战。为了应对这些挑战，我们引入了一个用于对齐大模型伦理价值观的新概念范式，并讨论了对齐准则、评估和方法的有前途的研究方向，代表了跨学科构建符合伦理要求的人工智能的初步步骤。

    Oct, 2023

  • AI 中超越偏见和从众行为：走向个体代理和多元伦理

    文章提出一种新方法，强调数据标注在维护机器伦理方面的重要作用，并探讨了伦理基础、系统架构以及伦理定义的问题；同时，该文章还指出，建立伦理人工智能是为了在公司和用户之间建立信任基础。

    Feb, 2023