Oct, 2023

构建道德机器智能的方法

PDF
TL;DR通过强调人工智能的伦理和道德行为在决策方面的关键作用，本文讨论了在构建具有道德性的机器时需要考虑的不同方面，包括最相关的道德范式和挑战。我们还讨论了自上而下和自下而上的设计方法以及情感和知觉在道德中的作用，并提出了融合道德范式的混合方法和分层方法的解决方案，强调治理与政策在人工智能伦理学中的关键性，并确保我们为道德机器设置的任务是可实现的，实现了道德行为并获得了优秀的人工智能。
artificial intelligencemoralitymoral agentsmoral paradigmsai ethics
发现论文，激发创造
  • 通过经验与互动学习机器道德

    下一代人工智能系统的安全性越来越受关注，需要将道德性融入自主代理中。本文系统化地介绍了在机器中引入道德性的现有方法，并提出了需要更多混合解决方案创建适应性强、稳健可控且可解释的代理的论点。同时，通过案例研究和评估道德学习代理的有效性，探讨了未来人工智能安全和伦理面临的挑战。

    Dec, 2023

  • 人工智能道德的情境化：自上而下，自下而上和混合模型的理论与应用伦理学的元民族志

    本研究通过哲学伦理观点、技术角度以及政治视角三个不同的角度探讨了伦理人工智能技术设计实施，旨在发掘伦理人工智能技术的长期影响和预期成果，在此基础上提出了一种新的政治角度的框架，探讨了其上下结合和混合技术的方式，最终总结了伦理人工智能技术发展的策略和理念。

    Apr, 2022

  • 使用多智能体强化学习对社会困境中的道德选择建模

    该文探讨了将道德选择嵌入智能系统的重要性，提出了使用强化学习设计奖励结构以探究道德问题，并在三种社交困境游戏中分析了不同类型的道德如何影响智能体的行为，探讨了这些发现对于智能和混合人工智能社会的发展的影响。

    Jan, 2023

  • 人工智能伦理建设

    本文分析了人工智能治理的技术解决方案，提出了一个分类目录，分为四个领域：探索伦理困境、个体伦理决策框架、集体伦理决策框架和人工智能交互中的伦理问题，并讨论了面向成功将伦理人工智能系统整合到人类社会的未来研究方向。

    Dec, 2018

  • 负责任的自主

    讨论了人工智能伦理学的研究方向，提出了确保人工智能系统行为符合道德和社会价值的替代方法，并介绍了设计和利益相关者价值观提取方法。

    Jun, 2017

  • 建设具有道德约束的人工智能

    本文提出伦理约束 AI 的概念，探讨在 AI 普及的情况下如何确保 AI 代理具备合适的伦理品质与决策技能，涉及决策制定中的模块化和组合方法。

    Dec, 2018

  • AI 中超越偏见和从众行为：走向个体代理和多元伦理

    文章提出一种新方法，强调数据标注在维护机器伦理方面的重要作用，并探讨了伦理基础、系统架构以及伦理定义的问题；同时，该文章还指出，建立伦理人工智能是为了在公司和用户之间建立信任基础。

    Feb, 2023

  • 关于机器道德的一词：对蒋等人（2021）的回应

    本文探讨了 AI 和 NLP 领域中的伦理学问题，重点关注了自动化伦理判断的 Delphi 模型，并提出了批判性的观点和如何通过透明度、民主价值观和简单明了的问责机制来推动机器伦理学的发展。

    Nov, 2021

  • 伦理道德作为人工智能治理工具的效率

    本文对人工智能伦理学的现状进行了批判性分析，并认为基于原则性伦理准则的这种治理形式不足以规范人工智能行业及其开发者。建议通过对人工智能相关专业人员的培训过程和增加对其行业的监管来实现根本性变革。为此，建议法律应从生物伦理学中获益，并将人工智能伦理学的探索成果在法律条文中加以明确规范。

    Oct, 2022

  • 走向人工美德智能体：游戏、困境与机器学习

    通过使用角色扮演游戏，如 Papers, Please 和 Life is Strange，我们提出设计一款系统性的角色扮演游戏，以培养人工智能中的道德美德，在现代人工智能技术的帮助下，我们激励实现这样的目标，并通过德性伦理学的视角检验他们的决策。

    Aug, 2022