预测和理解人类行动决策:基于大型语言模型和认知实例化学习的洞察
本文提出了两个贡献:通过预训练神经网络和构建“认知模型先验”以捕捉人类行为的归纳偏见,使得机器学习方法在小样本数据集上能够显著提高预测准确率;基于超过240,000项人类决策的大规模数据集,揭示出认知模型先验适用的情况,并为人类决策预测建立了新的基准。
May, 2019
在设计与人交互的自主系统时,计算认知科学提供了人类决策制定背后的洞见,聚焦于如何提供人类决策的前向模型和如何理解人类对他人决策的反向模型,并回顾了近期相关进展,提供了框架、方法论和可行性洞见。
Sep, 2021
通过对大型语言模型(LLM)和人类的推理进行比较,本研究使用传统的认知心理学工具调查和比较它们的表现,结果显示大部分模型呈现了类似于人类具有错误倾向、启发式推理的推理错误,然而,深入比较发现最近的LLM版本在与人类推理的区别方面存在重要差异且模型的局限性在新版LLM中几乎完全消失,此外,我们还表明,虽然有可能设计策略以提高模型的性能,但人类和机器对相同的提示方案的响应并不相同,最后我们讨论了比较人类和机器行为在人工智能和认知心理学领域中的认识论意义和挑战。
Sep, 2023
大型语言模型在人工智能领域取得了显著进展,然而它们的综合评估仍具挑战性。本研究引入了CogBench评估工具,包含七项认知心理学实验中衍生出的十项行为度量指标,并运用这一工具对35个大型语言模型进行了分析。研究结果突出了模型规模和人类反馈的强化学习在性能提升和与人类行为的一致性方面的关键作用。此外,本研究还探讨了提示工程技术的影响,发现链式思路提示能够改善概率推理,而退一步思考提示则促进了基于模型的行为。
Feb, 2024
通过强化学习原理的角度分析了强化学习来自人类反馈的语言模型的基础,重点关注了奖励模型作为RLHF核心组件的建模选择、函数逼近的陷阱,以及它们对训练算法的影响,同时揭示了当前方法的局限性。通过对现有文献的分类评论,我们对RLHF的挑战进行了描述,为研究人员和从业者理解RLHF的挑战并建立在现有研究的基础上提供参考。
Apr, 2024
人机感知人工智能是一种以设计为导向的范式,专注于对其可能与之互动的人进行建模,并通过使用这些维度作为工具,了解和审查与人工智能系统相关的当前工作情况。
May, 2024
使用大型语言模型作为认知模型具有潜力,但需要解决多个重要挑战。本文提出了一种新颖的方法,通过利用计算等效任务和特定任务分布,增强大型语言模型作为决策模型的效用,并展示了在决策制定中的应用。结果表明,预训练大型语言模型在生态有效的算术数据集上可以更好地预测人类行为,显示了与传统认知模型之间的强关联。但将大型语言模型用作认知模型时,需要通过去除预训练数据的实验来进行详细研究。
May, 2024
利用贝叶斯统计模型,研究了大型语言模型(LLMs)在人类行为预测方面的类人特性,发现LLMs不能准确捕获人类数据的各项细节,但在聚合和条件水平的预测方面可以有效适配人类数据,显示出某些不同的方法可以使其得到充分的分布式预测。
Jun, 2024
本研究解决了认知架构与大型语言模型(LLMs)之间的差异,旨在提升生产系统中的机器推理能力。提出了一种新的神经符号架构LLM-ACTR,通过将ACT-R认知架构与LLMs相结合,改进了决策过程的知识嵌入,从而在设计制造任务中显示出更优越的任务表现和基础决策能力。
Aug, 2024