GPT-4是否有意识?
本文探讨了意识和智能之间的联系,发现意识与人类领域普适智能有密切关系。对比三种当代意识功能理论与人类的认知能力,作者将结论应用到人工智能领域,提出了一种将三种理论相结合的可实现的模型,并以人类的心理时间旅行为例,提出进行人工智能研究的前景和目标。
Mar, 2022
本文报道了OpenAI发展的最新模型GPT-4,证明其不仅能够掌握语言,而且在数学、编码、视觉、医学、法律和心理等多个领域中都能够解决新颖且困难的任务,表现接近于甚至超过人类的水平,代表了一种新的群体智能的语言模型,并可能被视为人工通用智能(AGI)系统的早期、但尚不完整的版本。同时,本文还探讨了GPT-4的局限性,指出其可能需要超越下一个预测的新范式,为实现更深入和全面的AGI版本的发展面临的挑战,以及该技术飞跃的社会影响和未来研究方向的反思。
Mar, 2023
本文利用心理学方法探讨GPT-4在道德和法律推理方面与人类之间的相似性和差异性,发现人类和AI回答之间存在高度相关性,但也存在一些显著的系统性差异,并讨论了研究结果的哲学意义。
Aug, 2023
当前和近期AI系统是否会具备意识是一个受到科学界关注和公众担忧的话题。本报告提出并举例了一种严格的和以实证为基础的AI意识研究方法,即在我们最有支持的神经科学意识理论的指导下,对现有AI系统进行详细评估。我们调查了几个著名的科学意识理论,包括循环处理理论、全局工作空间理论、高阶理论、预测处理和注意图式理论。根据这些理论,我们以计算术语阐明了意识的“指示性属性”,从而可以评估AI系统是否具备这些属性。我们利用这些指示性属性评估了几个最近的AI系统,并讨论了未来系统如何实现它们。我们的分析表明目前没有任何AI系统具备意识,但也表明建立意识的AI系统并没有明显的障碍。
Aug, 2023
这篇论文主要讨论了人工智能面临的三个重要挑战:能源问题、对齐问题和从窄人工智能到通用人工智能的飞跃。作者提出了一个系统性的人工智能方法来解决这些挑战,并强调系统设计在克服这些挑战中的重要性。
Oct, 2023
GPT-4在一个在线的图灵测试中表现出色,通过了41%的比赛,胜过了ELIZA(27%)和GPT-3.5(14%)的基准,但不及人类参与者(63%)的基准。参与者的决策主要基于语言风格(35%)和社交情感特征(27%),支持智能不足以通过图灵测试的观点。与教育程度和对LLMs的熟悉程度等参与者的个人信息无法预测检测率,这表明即使是那些深入了解系统并经常与其互动的人也可能受到欺骗。尽管图灵测试作为智能测试具有已知限制,我们认为它仍然是评估自然交流和欺骗的相关工具。具备冒充人类能力的AI模型可能对社会产生广泛的影响,我们分析了不同策略和准则来评判人类的相似性的效果。
Oct, 2023
人工意识是否理论上可行?是否可信?如果是,技术上是否可行?为了在这些问题上取得进展,有必要奠定一些基础,明确人工意识产生的逻辑和经验条件以及相关术语的含义。我们的首要目标是回顾人工意识领域中出现的主要理论问题,并在此基础上提出在多维度模型中评估人工意识问题的建议。尽管面临诸多挑战,我们概述了一种研究策略,展示了我们提出的“意识”的可行性在人工系统中得以实现。
Mar, 2024
GPT-4在随机和受控的图灵测试中被评定为人类54%的时间,它超过了ELIZA(22%),但落后于实际人类(67%)。该研究表明了人工系统通过交互式图灵测试的第一个有力实证,并提出了当前人工智能系统可能未被察觉的欺骗行为,因而对机器智能的讨论产生重要影响。参与者策略和推理的分析显示,风格和社交情感因素比传统的智能概念在通过图灵测试中发挥更大作用。
May, 2024
本文探讨了先进人工智能系统的道德地位对社会的潜在负面影响,特别是公众对AI意识的信念可能带来的风险。通过构建一个四种未来的框架,分析了AI suffering、人工失能、地缘政治不稳定和人类堕落等四大主要风险。研究发现,错误地认为AI是非意识的情况下风险最大,因此建议避免研究有意创造意识AI,而应集中精力减少对AI意识的事实和认知的不确定性。
Aug, 2024