ICMLFeb, 2024

反对虚假的 AI 夸大宣称的立场文件

PDF
TL;DR人类有倾向在周围的物体中看到类似于 “人” 的特质。这种行为被称为拟人化，并且这种拟人化趋势也出现在机器学习中，其中声称在大型语言模型中感知到类似于人类智能的特质。本立场论文通过考虑专业激励、人类偏见和一般的方法论设置，讨论了当前对人工通用智能（AGI）的追求与将人类特质过度归因于大型语言模型之间的关系。通过几项实验，我们证明在潜在空间中发现可解释的人类模式并不足为奇。另外，考虑到媒体中对人工智能的普遍描绘，我们呼吁学术界在解释和交流人工智能研究结果时要格外小心，并且要对学术诚信原则有更高的意识。
发现论文，激发创造
  • 分析人工通用智能的语境短板

    本文讨论了人工智能专家误解模仿游戏，将 HL-level Intelligence 视作人工智能发展的目标，认为 Access 和 Ingest data 是 AGI 发展的当前瓶颈，因此应该重新审视图灵测试，通过对比探讨人工智能和人类数据收集能力之间的差异，探索当前 AGI 缺乏的特征，并在此框架内讨论 AGI 发展的未来。

    Dec, 2022

  • 人工智能的拟人化：机遇和风险

    研究人员发现，人们将人性化特征赋予 AI 系统的倾向会严重影响其在法律层面上的合规性，并对人类与 AI 之间的互动方式产生根本性的改变，实现潜在的操纵和负面影响。为了提高 AI 系统的可靠性，我们提出了一种谨慎使用人性化策略的保守策略。

    May, 2023

  • 论大型语言模型

    本文旨在提倡对大型语言模型及其相关系统的实际工作进行重新审视，追求更高的科学精度以引领关于人工智能的哲学探索和公众话语。

    Dec, 2022

  • 大型语言模型的局限性、危害和风险的放大

    本文介绍了人工智能（AI）领域中的基础和大型语言模型（LLMs）等技术的限制和风险，并且警告使用这些技术会带来的伤害。

    Jul, 2023

  • 仿真：基于人类模仿的协作决策

    提出和评估一种新颖的方法，在不依赖任何存储数据或预训练的情况下，在 LLM 代理之间进行知识蒸馏，以实时保留人类角色扮演中的独特语境，并评估我们的系统在模拟的真实世界任务中表现更好。

    Mar, 2024

  • 基于大语言模型的智能代理的崛起与潜力：一项调查

    人工智能代理是一个前景光明的领域，利用大型语言模型作为基础构建通用人工智能代理带来了显著的进展，其在单一代理场景、多代理场景以及人机合作中的广泛应用展示了卓越的潜力，并为人类社会提供了有价值的见解。

    Sep, 2023

  • 谁在思考？使用 XAI 操作手册推动以人为中心评估 LLMs

    本文探讨了人类中心的大型语言模型评估，并提出了心理模型，用例使用价值和认知参与三个研究重点，旨在加速人类中心式大型语言模型评估的进展。

    Mar, 2023

  • 使用 LLMs 探索定性研究

    本研究对语言模型（LLMs）的理解能力进行了比较和对照，发现人类分析师和 LLMs 的分类和推理能力存在显著差异，但二者合作可能会产生协同效应，从而丰富了定性研究。

    Jun, 2023

  • 图灵陷阱：人工智能的承诺与危险

    人类智能和人类增强的人工智能有着不同的激励，目前技术人员、商业和政策制定者都过分倾向于自动化，这种趋势可能导致失去经济权利和政治议价权，而研究开发人类增强的 AI 才有助于人类保持掌握营造价值的能力。

    Jan, 2022

  • 机器直觉：揭示 GPT-3.5 中类似人类直觉的决策制定

    本研究揭示了大型语言模型 (LLMs) 在某些情况下表现出具有人类直觉的行为，包括许多认知错误，并且通过使用 GPT-3.5 等最新技术的模型及进行人类直觉决策的试探研究证明了这一点，并探究了几种方法来测试 GPT-3.5 的倾向于类似直觉的决策及其机器行为等方面，以揭示出这些模型在认知科学方面的新兴特征和调整预期的潜力。

    Dec, 2022