Dec, 2022

人工智能中人类价值的代理机构之间的紧张关系

PDF
TL;DR我们认为社区旨在减轻技术的潜在危害影响，通过定义公私保密、公平和透明模型等一些责任支柱作为指标是根本错误的，因为这些定义是人类价值的不完美、独立构建，而带着那些价值完全嵌入我们的技术的幌子。我们推动 AI 社区重新考虑某些支柱公式的选择带来的所有后果，而不仅仅是技术上的不兼容性，而是在部署背景下的影响。我们指出社会技术研究可以为后者提供框架，但还应推动更广泛的实践落地。
发现论文，激发创造
  • 人工智能，价值观和对齐

    探讨人工智能对齐问题所涉及的哲学问题，明确目标并提出合理的原则方法来解决技术和规范的问题，从而达成公平的人工智能对齐。

    Jan, 2020

  • 基于人权的负责任人工智能方法

    本文提出了普世人权理论作为明确价值观和准则的指导框架，阐述了其在负责任的 AI 中的有效性，并探讨了其作为民间社会伙伴关系和参与的框架的效果。

    Oct, 2022

  • 实现负责任 AI：伦理方面的紧张和权衡

    本文讨论了负责任的人工智能伦理原则的多个方面，并提出了 10 个值得关注的潜在矛盾、权衡和其他交互作用。通过综述文献资料，重点分析了双向交互作用，并提供了一份有助于设计人员和开发人员了解伦理原则各方面相互关系的指南。

    Apr, 2023

  • 伦理人工智能的人类价值计算框架

    通过社会科学根植的正式概念框架，系统、集成和跨学科地探究人类价值如何支持设计道德人工智能，从而解决价值对齐问题和其他相关的挑战，如人工智能学习人类价值观、将个人价值观聚合到群体中和设计计算机机制来处理价值观。

    May, 2023

  • AI 公平性与效用的联合优化：以人为本的方法

    本文提出了一种用于优化 AI 模型的框架和一些示例方法，根据人类政策制定者的偏好来平衡公平性、模型准确性等目标之间的平衡，以此来减少偏差和不公平。

    Feb, 2020

  • AI 对准的基础道德价值

    解决人工智能对齐问题需要明确且可靠的价值取向；本文提出了从道德哲学中提取的五个核心、基础价值观，即生存、可持续的代际存在、社会、教育和真理，并表明这些价值观不仅为技术对齐工作提供了更清晰的方向，还作为一个框架来突出人工智能系统对获取和维持这些价值观的威胁和机遇。

    Nov, 2023

  • 在实施负责任的人工智能中解决伦理平衡

    通过权衡的五种方法，提出了一个框架，旨在解决高级人工智能伦理原则在实际系统中的操作问题，以应对潜在的监管要求。

    Jan, 2024

  • AI 公正：从原则到实践

    本文总结和评估了追求人工智能系统公正性的各种方法和技术，提出了定义、衡量和预防人工智能偏见的实用指南，并针对评估人工智能系统偏见的一些简单但常见方法提出了更为复杂和有效的替代方案。此外它还提供了一个共同的语言来解决领域内普遍存在的争议和混乱。它描述了涉及人工智能公正性的各种权衡，并提供了实用建议来平衡这些权衡。本文提供了关于人工智能从业者、组织领导、政策制定者的讨论和指南，以及为技术观众提供更多相关资料的链接。通过举例清晰阐述了本文中所提到的概念、挑战和建议。

    Jul, 2022

  • 跨学科方法探讨人工智能对社会影响的理解

    人工智能创新主要关注 “what” 和 “how” 问题，忽视可能的危害与社会背景，导致了潜在的社会技术问题，因此我们需要计算机科学和社会学科之间更紧密的联系。

    Dec, 2020

  • 人工智能：全球道德准则的地理分布

    研究表明，围绕着五个伦理原则（透明度、正义与公平、非恶意行为、责任和隐私），出现了全球一致性的道德人工智能共识，提出了相关的指导原则和技术标准，同时应该充分融合伦理分析和实施策略的努力。

    Jun, 2019