面向人类中心的生成式 AI 的下一步:技术视角
基于我们之前的工作,本文提出了一个综合的基于人为中心的人工智能(HCAI)框架,包括设计目标、设计原则、实施方法、跨学科团队和 HCAI 流程,同时提出了一个 “三层” 方法以促进框架的实施,我们相信这个系统性和可执行性框架可以克服当前 HCAI 框架中的不足,并应对当前实践中面临的挑战,进一步实现 HCAI 的发展。
Nov, 2023
直接或间接地影响教学与学习的生成式人工智能(GAI)正影响着各种学科和学科的教育。作为教育者,我们需要了解 AI 在人机交互教育中的潜力和局限,并确保我们的人机交互设计专业的毕业生了解 AI 在此领域中的潜力和局限。本文报告了将生成式人工智能纳入为期 10 周的本科模块所得出的主要教学见解。我们设计了这个模块,以鼓励学生在设计任务要求和计划实践会话与讨论中进行 GAI 模型的实验。我们的见解基于学生在完成模块后的调查回复。对于人机交互设计教育者而言,我们的主要发现是 AI 作为发展项目想法和创建设计资源的一个人物角色,以及 AI 作为反映学生对关键概念和想法的理解并突出知识差距的一面镜子。我们还讨论了应该考虑的潜在陷阱以及评估学生对 GAI 作为教学工具的识字能力和假设的需求。最后,我们提出了教育者以 GAI 作为教育工具所带来的机会,并在实践中富有实验性、创意性和勇气的案例。最后,我们就我们的发现与人机交互中的 TPACK 框架进行了讨论。
May, 2024
人工智能与神经科学在可解释的人工智能中的交叉是增强复杂决策过程中透明度和可解释性的关键,本文探讨了从基于特征到以人为中心的方法的可解释的人工智能方法学的演变,并深入研究了它们在包括医疗保健和金融在内的不同领域的应用。同时讨论了在生成模型的可解释性、确保负责任的人工智能实践以及应对伦理影响方面的挑战。本文进一步研究了可解释的人工智能与认知科学的潜在融合、情感智能人工智能的发展以及人工智能系统中人类智能的追求。随着人工智能向人工通用智能的发展,对意识、伦理和社会影响的考虑变得至关重要。致力于通过人工智能解密大脑奥秘和实现人类智能的追求代表了结合技术进步与多学科人类认知探索的变革性努力。
Feb, 2024
本研究聚焦于人类中心的负责任的人工智能研究,旨在开发符合人权与伦理规范、减少潜在危害的 AI,通过学术界和工业界的合作与思想共享推进该领域的未来研究趋势和发展。
Feb, 2023
本文提供了一种构建通用人工智能的路径 - AI 生成算法 (AI-GA),并针对其进行了安全与伦理等方面的讨论,此方法基于机器学习领域中手动设计解决方案被更有效的学习解决方案取代的趋势,并依赖于元学习体系结构、元学习学习算法本身以及生成有效学习环境三个支柱。作者认为,将投资于该方法研究的费用应该增加,因为它可能是构建通用 AI 的最快路径,并且由于理解简单算法可以生成通用人工智能的条件在科学上具有内在的兴趣,因此应将 AI-GAs 的探索视为计算机科学研究的新大挑战。
May, 2019
近期的人工智能的普适性进展凸显出引导人工智能系统走向个人和群体的目标、道德原则和价值观的重要性,这被广泛称为对齐。然而,人工智能和哲学领域对于人工智能和人类对齐的定义和范围尚未被明确界定,而且这个问题的长期互动和动态变化也基本被忽视。为了填补这些空白,我们对 2019 年至 2024 年 1 月间发表的 400 多篇论文进行了系统综述,涵盖了人机交互、自然语言处理、机器学习等多个领域。我们对人工智能与人类对齐进行了描述、定义和范围界定,并从以人为中心的视角提出了一个 “双向人工智能与人类对齐” 的概念框架来组织文献。该框架包括了将人工智能与人类对齐的传统研究,即确保人工智能系统产生由人类确定的预期结果,以及调整人类与人工智能对齐的概念,旨在帮助个人和社会在认知和行为上适应人工智能进展。此外,我们阐述了文献分析的关键发现,包括关于人类价值观、交互技术和评估的讨论。为了未来研究的发展,我们展望了未来方向的三个关键挑战,并提出了潜在的未来解决方案的例子。
Jun, 2024
生成人工智能(GenAI)标志着人工智能能够生成解决方案,从而实现能够认知的人工智能,但也引出了解释可解释性(XAI)的新需求和挑战。本文首先强调了 XAI 在 GenAI 的重要性,并介绍了解释要求的新颖性和涵盖的方面。接着,我们对现有的 XAI 机制和方法进行了调查,并提供了税 onomy 来更好地描述和分类。然后,我们讨论了确保 XAI 的不同途径。最后,我们提供了一个简短但简明的 GenAI 技术背景,以帮助非技术读者更好地理解针对 GenAI 的新颖或调整过的 XAI 技术。本研究还为未来研究提供了十多个方向。
Apr, 2024
通过质性调查,我们发现创意专业人士对生成式人工智能的推动对创造力的定义和如何使用人工智能支持他们的工作流程产生了重要的影响,并基于这些反思,探讨了如何设计在创新专业领域中的 “参与式人工智能”,以目前和未来协同 AI 中赋予创意专业人士更大的权力。
Mar, 2023
人工智能的发展深刻影响了人类社会,并在多个领域取得了重大进展。然而,对人工智能的不断需求突显了其现有能力的局限性,推动了向人工通用智能(AGI)的发展。AGI 以其与人类智能相当的效率和有效性,具备执行多样化现实任务的能力,代表着人工智能演进的重要里程碑。本文通过广泛的调查、讨论和原创观点,深入探讨了接近 AGI 的关键问题及其实现所需的策略,不同于现有的综述文献。我们首先阐述了 AGI 的必要能力框架,整合了内部、界面和系统维度。由于实现 AGI 需要更先进的能力和严格的约束条件,我们进一步讨论了必要的 AGI 对齐技术,以协调这些因素。值得注意的是,我们强调通过首先定义 AGI 进展的关键级别来负责任地对待 AGI,然后评估现状的评价框架,并最终提出了达到 AGI 巅峰的路线图。此外,为了提供对 AI 整合的普遍影响的切实见解,我们概述了在多个领域实现 AGI 所面临的挑战和可能的途径。总之,作为对 AGI 当前状态和未来轨迹的先驱性探索,本文旨在促进研究人员和实践者之间的集体理解,并引发更广泛的公众讨论。
May, 2024