MMApr, 2022

人工智能道德的情境化：自上而下，自下而上和混合模型的理论与应用伦理学的元民族志

PDF
TL;DR本研究通过哲学伦理观点、技术角度以及政治视角三个不同的角度探讨了伦理人工智能技术设计实施，旨在发掘伦理人工智能技术的长期影响和预期成果，在此基础上提出了一种新的政治角度的框架，探讨了其上下结合和混合技术的方式，最终总结了伦理人工智能技术发展的策略和理念。
ethical artificial intelligencephilosophical viewpointpolitical lenstop-down approachbottom-up approach
发现论文，激发创造
  • 构建道德机器智能的方法

    通过强调人工智能的伦理和道德行为在决策方面的关键作用，本文讨论了在构建具有道德性的机器时需要考虑的不同方面，包括最相关的道德范式和挑战。我们还讨论了自上而下和自下而上的设计方法以及情感和知觉在道德中的作用，并提出了融合道德范式的混合方法和分层方法的解决方案，强调治理与政策在人工智能伦理学中的关键性，并确保我们为道德机器设置的任务是可实现的，实现了道德行为并获得了优秀的人工智能。

    Oct, 2023

  • 通过经验与互动学习机器道德

    下一代人工智能系统的安全性越来越受关注，需要将道德性融入自主代理中。本文系统化地介绍了在机器中引入道德性的现有方法，并提出了需要更多混合解决方案创建适应性强、稳健可控且可解释的代理的论点。同时，通过案例研究和评估道德学习代理的有效性，探讨了未来人工智能安全和伦理面临的挑战。

    Dec, 2023

  • 使用多智能体强化学习对社会困境中的道德选择建模

    该文探讨了将道德选择嵌入智能系统的重要性，提出了使用强化学习设计奖励结构以探究道德问题，并在三种社交困境游戏中分析了不同类型的道德如何影响智能体的行为，探讨了这些发现对于智能和混合人工智能社会的发展的影响。

    Jan, 2023

  • 伦理道德作为人工智能治理工具的效率

    本文对人工智能伦理学的现状进行了批判性分析，并认为基于原则性伦理准则的这种治理形式不足以规范人工智能行业及其开发者。建议通过对人工智能相关专业人员的培训过程和增加对其行业的监管来实现根本性变革。为此，建议法律应从生物伦理学中获益，并将人工智能伦理学的探索成果在法律条文中加以明确规范。

    Oct, 2022

  • 关于机器道德的一词：对蒋等人（2021）的回应

    本文探讨了 AI 和 NLP 领域中的伦理学问题，重点关注了自动化伦理判断的 Delphi 模型，并提出了批判性的观点和如何通过透明度、民主价值观和简单明了的问责机制来推动机器伦理学的发展。

    Nov, 2021

  • 人工智能伦理建设

    本文分析了人工智能治理的技术解决方案，提出了一个分类目录，分为四个领域：探索伦理困境、个体伦理决策框架、集体伦理决策框架和人工智能交互中的伦理问题，并讨论了面向成功将伦理人工智能系统整合到人类社会的未来研究方向。

    Dec, 2018

  • 重新思考机器伦理 — 透过道德理论的视角，LLM 能进行道德推理吗？

    提出了一个灵活的框架，利用跨学科研究中建立的道德理论，引导大型语言模型进行道德推理，证明了该框架在从道德理论中衍生的数据集上的有效性，展示了不同道德理论与现有道德数据集之间的一致性，并展示了开发可解释的道德判断系统中现有资源（模型和数据集）的潜力和缺陷。

    Aug, 2023

  • 建设具有道德约束的人工智能

    本文提出伦理约束 AI 的概念，探讨在 AI 普及的情况下如何确保 AI 代理具备合适的伦理品质与决策技能，涉及决策制定中的模块化和组合方法。

    Dec, 2018

  • 朝着女性主义的人工智能元伦理学

    发展人工智能（AI）中的女性元伦理研究议程，评估 AI 伦理之间的连续性、AI 伦理的实际效应、参与 AI 伦理的人员角色与特征，以及通过关注背景、情感和叙事方式来分析 AI 对权力关系的影响。

    Nov, 2023

  • 人工智能伦理调查：社会技术观点

    这项研究综合了当前和未来的人工智能应用所面临的伦理问题，从技术和社会角度对 AI 部署中的公平性、隐私和数据保护、透明度与可解释性等伦理原则进行了综述。

    Nov, 2023