Nov, 2022

不能说故事的语言模型何处出了问题？

PDF
TL;DR本文论述叙事理解与生成有趣的文本是现代自然语言处理的核心难点之一，同时也是整个人工智能领域的难点，由于缺乏合适的数据集、评估方法和操作概念，使得研究者们难以着手进行叙事处理的工作。
narrative processingnatural language processing (nlp)artificial intelligencedatasetsevaluation methods
发现论文，激发创造
  • 训练语言模型概括叙述能够提高大脑对齐

    训练自然语言处理系统以深入理解语言是该领域的中心目标之一。本文从人类大脑理解自然语言的角度出发，研究了使用叙述数据集进行深层次叙事理解训练的语言模型是否真正学习了更深层次的文本理解，并表明了这种训练可以带来更好的大脑 - 自然语言处理对齐性、可以使语言模型在长距离文本理解方面取得改进。

    Dec, 2022

  • NLP 模型对追踪思路的表现：叙事理解概述

    本文对叙事理解任务进行了综合调查，详细研究了其关键特征、定义、分类、相关数据集、训练目标、评估指标和局限性。此外，我们探讨了将模块化大型语言模型的能力扩展到新的叙事理解任务的潜力，并通过将叙事理解视为提取作者想象线索的方式，引入了增强叙事理解的新方法。

    Oct, 2023

  • 利用大型语言模型研究人类对有意义叙述的记忆

    语言模型作为一种科学工具，我们展示了它在研究人类对有意义材料的记忆上的应用，通过在线大规模记忆实验和结果分析，发现记忆和认知表现与叙述长度成线性关系，并且研究叙述理解在记忆中的作用。

    Nov, 2023

  • 语言模型的可视化与解释

    本文介绍了一些最流行的自然语言处理的深度学习可视化技术，并强调其可解释性和可解释性。

    Apr, 2022

  • 现代 NLP 中 “人工智能闭锁问题” 的社会关切案例报告

    当代 NLP 模型往往比它们的前辈更好地实现了对话。然而，现有的实验表明，这些模型常常会陷入故事情节之中，导致它们在执行进一步的对话、指令或命令时失效，这一现象被称为 “Locked-In Problem”。

    Sep, 2022

  • 语言模型不是语言的模型

    本研究显示，尽管大型神经语言模型在执行语言任务方面取得了许多成功，但它们并不适合作为自然语言的全面模型。这意味着现代神经模型并不能代表我们对认知的理解革命。

    May, 2022

  • 极大预训练语言模型能否通过少量示例学习叙事？

    本文对使用 VLPLMs 和 SOTA 模型在三个不同的数据集上进行的故事生成能力进行了自动和人为评估，结果表明 VLPLMs 生成的故事比其他故事生成模型更高质量，有一定程度上的过人之处，但也揭示了在涉及世界知识的情况下容易 “抄袭” 真实故事的现象。

    Jan, 2023

  • 学习快速捷径：关于语言模型中自然语言理解的误导承诺

    大型语言模型在自然语言处理领域取得了重要的性能提升，然而近期的研究发现，这些模型在执行任务时往往使用了捷径，导致性能看起来得到了提升，却缺乏泛化能力。这一现象给大型语言模型的自然语言理解评估带来了挑战。本文对该领域的相关研究进行了简明调查，并提出了对于捷径学习在语言模型评估中的影响的观点，特别是对于 NLU 任务。本文呼吁加大对捷径学习的研究力度，促进更加强大的语言模型的开发，并提高在实际场景中的 NLU 评估标准。

    Jan, 2024

  • 创造扣人心弦的故事：利用大型语言模型的迭代规划

    使用迭代提示基于规划的方法，这篇论文首次尝试使用大型语言模型进行悬疑故事生成，并通过广泛的人类评估证明了方法的有效性。

    Feb, 2024

  • 关于复杂大型语言模型的窘境（和优势）

    利用大型语言模型的自然语言处理是人工智能研究的一个繁荣领域。虽然神经网络已经证明在基于模式识别的游戏和实际领域中可以超越人类，但过度依赖 LLMs 会带来严重的风险，其中包括被用于生产虚假信息。这也引发了新的伦理挑战和各种类型的欺诈。

    Feb, 2023