探索民族志方法论、会话分析与人工智能之间的不相容性
发展人机互动中准确使用自然语言的机器,重要性愈发突显。本文回顾了近年来涉及新兴交流(Emergent communication)的文献,分析了其公共特性、两个子类别和挑战,并强调了多元视角和专业知识在领域中的重要性,主张研究者们共同努力以寻找共同问题的多种解决方案,加深对人类交流的理解,从而发展出更能准确使用自然语言的机器。
Aug, 2023
该论文旨在提出一种 “基础” 的视角,启发人工智能的进步,包括 “基于感知 - 动作循环的体现、嵌入、延伸和实践认知” 的研究方向,以及运用逐步发展的技能促进逐步的语言发展、逐渐适应物理和社会环境的智能代理等几个具体的组成部分,以建立人类一样的语言能力。
Jan, 2022
通过使用逻辑 - 符号推理来解决人工智能可能存在的认识上问题,来避免擅自运用人工智能对输出内容和结果的不当控制,从而遵守 Grice 的质量最大化和 Lemoine 的法律无罪最大化原则。
Apr, 2023
我们提出了 “具身人工智能” 作为追求 “人工通用智能” 的下一个基本步骤,并对其与当前人工智能进展,特别是大型语言模型进行对比。我们横跨哲学、心理学、神经科学和机器人技术等多个领域探讨了具身概念的演变,以突显具身人工智能如何与静态学习的经典范式有所区别。通过拓宽具身人工智能的范围,我们提出了一个基于认知架构的理论框架,强调感知、行动、记忆和学习作为具身代理的重要组成部分。该框架与弗里斯顿的主动推理原则相一致,为具身人工智能的发展提供了一个全面的方法。尽管人工智能领域取得了进展,但仍存在诸多挑战,如制定新的人工智能学习理论和创新先进硬件等。我们的讨论为未来的具身人工智能研究提供了基础性的指导方针。强调创造具身人工智能代理能够与人类和其他智能体在真实环境中实现无缝通信、协作和共存的重要性,我们旨在引导人工智能社群应对多方面挑战,并抓住在追求人工通用智能过程中出现的机遇。
Feb, 2024
中国参与者在社交媒体上将对话代理视为享乐,并认为基于语音和实体化的对话代理更温暖、更有能力,表达了积极的情绪。与此相反,美国参与者对对话代理的功能更为关注,态度矛盾。温暖的感知是两个国家积极情绪的关键驱动因素。针对不同用户喜好和需求,我们讨论了设计上具有情境敏感性和用户为中心的对话代理的实际意义。
Feb, 2024
本文综述了对话代理人(CAs)的概念,讨论聊天机器人和面向任务的代理人的不同应用,并探讨了具有身体特征的对话代理人的概念。本文详细讨论了在 CAs 中表示对话的各种方法,以及评估此类代理人的方法,重点强调问责和可诠释性。本文还提供了各种应用场景的广泛概述,特别是在健康和教育领域。最后,本文讨论了当前和未来 CAs 技术所带来的社会影响的利弊和潜在风险。
Feb, 2022
这篇研究论文介绍了一个理论框架,通过新兴的交流机制(EmCom)来增强可解释的人工智能(xAI),重点是对人工智能模型输出的原因理解。我们探讨了 EmCom 与人工智能系统的新颖整合,从传统的输入和输出之间的联想关系转变为更加微妙、因果性的解释。该框架旨在革命性地改变人们对人工智能处理过程的理解,使其更加透明和可解释。虽然这个模型的初始应用是在合成数据上演示的,但这项研究的影响超出了这些简单的应用。这种通用的方法有潜力重新定义与人工智能的交互,在医疗保健和其他重要领域中实现信任和明智决策。本文讨论了这一方法的理论基础、其潜在的广泛应用以及与越来越数字化的世界对负责任和透明的人工智能系统需求的一致性。
Jan, 2024
本文探讨了对话式人工智能代理人可能采用的操纵策略、这些代理人对人类用户认识能力构成的独特威胁以及政策制定者保护人类用户免受最常见的捕食性做法的新兴需求。
Jun, 2023
本文提出了一个综合的多智能体系统(MAS)框架 ——DAMAS,用于进行社会认知模型和分析以及建模和解释使用人工智能方法的欺骗行为,并从计算机科学、哲学、心理学、伦理学和情报分析的角度阐述了混合化、社会信任、AI - 支持的欺骗、计算理论和欺骗性人工智能的主题。
Jun, 2024