Feb, 2024

人工智能中的十个难题

PDF
TL;DRAI2050 年的 “硬问题” 会阻止 AI 的发展，并引发 AI 的风险。其中包括系统的全面能力开发、确保 AI 系统和训练过程的性能、使系统目标与人类目标相一致、在实际生活中实现出色的 AI 应用以及应对经济颠覆。
发现论文，激发创造
  • 为什么人工智能比我们想象中更难

    本文介绍了人工智能领域自 20 世纪 50 年代以来的发展历程，列举了 AI 领域研究人员常见假设中的四个谬误，并讨论了这些谬误引发的问题，包括如何将人类的常识运用于机器智能。

    Apr, 2021

  • 人工智能的系统挑战：伯克利视角

    该论文探讨了人工智能的发展带来的挑战，提出了在系统、架构和安全方面的研究方向，以解决 AI 技术存储和处理数据量的限制，并提高数据隐私保护，以便这一技术能够更好地改善人们的生活和社会。

    Dec, 2017

  • 管理快速发展时代的 AI 风险

    通过研究先进的人工智能系统，我们指出了即将到来的风险，包括大规模社会伤害和恶意使用，以及人类对自主人工智能系统失去控制的不可逆性。鉴于人工智能的迅速发展，我们提出了人工智能研发和治理的优先事项。

    Oct, 2023

  • 人感知 AI 系统的挑战

    讨论了设计人类感知人工智能系统面临的挑战，包括建模人类的心理状态、识别其愿望和意图、提供主动支持、展示可解释性行为、并引发信任等，并强调这种系统引出的伦理困境和推广真正跨学科合作的必要性。

    Oct, 2019

  • 人工智能安全性的具体问题再探讨

    AI 安全的概念在社会中日益普及，AI 社区越来越关注 AI Safety 的概念，即防止在 AI 部署过程中系统行为意外偏离设计意图而导致的故障。通过分析真实案例，我们展示了当前的词汇虽然能够涵盖 AI 部署中遇到的一系列问题，但仍需要一个扩展的社会技术框架来更好地理解 AI 系统和实施的安全机制在现实生活中的成功与失败。

    Dec, 2023

  • 美国人工智能研究的 20 年社区路线图

    这篇近期的论文讨论了人工智能的发展、应用现状及未来所需的研究方向与挑战，特别是人工智能公平、可信、安全的需求。

    Aug, 2019

  • 负责任的人工智能 -- 从原则到实践

    人工智能的应用不仅依赖基础研究和技术发展，更需要关注其公平性、透明度和隐私问题。为了确保 AI 的合理应用，我们需要制定技术、社会、制度和法律方法和工具，提高所有人的参与度和意识，确保 AI 系统与我们社会的原则和价值观一致。

    May, 2022

  • 人工智能安全中的具体问题

    讨论机器学习与人工智能技术对社会潜在影响的一个问题：机器学习系统中的意外事故风险和如何抵御。我们提出了五个与事故风险相关的实际研究问题，涉及到错误的目标函数、过于昂贵的监督、安全探索和分布变化等方面。最后，思考了如何更具生产力地思考人工智能前瞻性应用的安全问题。

    Jun, 2016

  • 人工智能：70 年回顾

    本文简述了人工智能的近一个世纪发展历程，总结了发展趋势并发现了普遍规律，分析了过去失败和现在成功的原因，强调了哲学思维在理解和解决人工智能问题中的重要性以及重点发展方向应该是人机协作和以计算能力为核心的技术路径。

    Mar, 2023

  • 探讨高水平人工智能的差异化风险和控制问题

    本文使用分层复杂系统框架对人工智能（AI）风险进行建模，并从公共和私营领域的领域专家收集调查数据以分类 AI 影响和可能性，结果显示强大的 AI 代理情景有更多不确定性，对 AI 对齐失败和影响寻求行为的关注增加以及对多智能体环境的信心增强。

    Nov, 2022