Jan, 2023

大型语言模型能够以人类相似的方式划分叙事事件

PDF
TL;DR本文介绍了一种计算机处理连续叙述文本的方法，通过使用大型语言模型 GPT-3 自动完成事件分割和注释，获得与人类注释高度相关的结果，可能为深入探究人类事件感知的原理提供有用的方法。
event perceptiongpt-3automated annotationslanguage modelshuman cognition
发现论文，激发创造
  • GPT 模型对叙事实体提取的探究

    在这项研究中，我们评估了两个最先进的语言模型 ——GPT-3 和 GPT-3.5（通常被称为 ChatGPT）在提取叙述实体（事件、参与者和时间表达）方面的能力，并发现它们与开箱即用的基准系统相媲美，为资源有限的从业者提供了一种全能的替代方案。通过研究这些模型在信息提取领域的优势和局限性，我们提供了可以指导未来改进和探索的见解。

    Nov, 2023

  • 大型语言模型中的叙事处理分析：使用 GPT4 测试 BERT

    使用基于 transformer 的大型语言模型（LLMs）的 ChatGPT 作为研究对象，通过分析 BERT 隐藏单元的激活模式，发现其在不同层次上根据文体变异（1）和叙事内容（4-5）进行聚类，揭示了 LLMs 内部的区别任务处理机制，为深入研究人类语言处理和认知过程提供了潜力。

    May, 2024

  • 使用 GPT-3 进行零 - shot 意见摘要

    本文介绍了如何使用 GPT-3 对大量的用户评论进行零样本情感总结，探讨了一些通用方法并对不同方法的信念忠实度、准确性和通用性等多个角度进行评估。

    Nov, 2022

  • 语言模型可通过少量示例引入推理，从而提高事件预测能力

    本文研究了大型语言模型在实际事件中实现推理的能力，设计了一个建模和预测框架，其中大型语言模型执行推断，以协助事件序列模型提高预测准确性，并通过在 Amazon Review 和 GDELT 两个具有挑战性的实际数据集上进行的广泛实验，展示了我们的框架的性能优势。

    May, 2023

  • 故事实现：将情节事件扩展为句子

    使用基于神经网络的合奏模型生成事件导向的自动故事情节，比基线方法生成的故事更连贯和可信。

    Sep, 2019

  • 人类与语言模型在预测重复文本时的差异

    通过研究语言模型在下一个单词预测任务中的表现与人类行为模式的比较，发现人类与 GPT-2 语言模型在文本展现初期表现强相关，随着记忆（或背景学习）的作用逐渐发挥，二者的表现迅速分歧，研究发现这种分歧的原因是特定的中间层注意力头部，为此通过在这些注意力头部中添加幂律最近偏倚，构建了一个更接近人类行为的模型，希望此案例能够推动将语言模型更加贴近人类行为的未来研究。

    Oct, 2023

  • 使用结构化叙述提示生成的 GPT-4 人生事件叙述：验证研究

    通过使用 OpenAI 的 GPT-4，使用零样本结构化叙述提示生成了 24,000 个叙述，然后手动分类和评估它们在传达出生、死亡、雇佣和解雇事件方面的有效性。在九种机器学习模型中，所有模型在将有效叙述分类为有效方面表现出色，但同时在将无效叙述分类为无效方面遇到了挑战。我们的研究结果既推进了对 LLM 能力、局限性和有效性的研究，也为叙述生成和自然语言处理应用提供了实质性的见解。

    Feb, 2024

  • 探索 ChatGPT 在事件提取中的可行性

    本文研究了用 ChatGPT 进行事件抽取的可行性并探究了遇到的挑战，结果表明 ChatGPT 在长尾和复杂情况下只有任务特定模型 EEQA 的 51.04％的性能，ChatGPT 不够稳定，继续改进提示不会导致稳定的性能提高，而且 ChatGPT 对不同的提示风格非常敏感。

    Mar, 2023

  • 计算机故事理解的关键：事件因果关系

    利用大型语言模型 (LLM) 的最新进展，我们提出了首个事件因果识别方法，从 GPT 中设计特定提示以提取事件因果关系。根据 GLUCOSE 数据集中的人工注释事件因果关系，我们的技术表现与监督模型相当，同时易于推广到不同类型和长度的故事。提取的因果关系在故事质量评估上带来了 5.7% 的提升和 8.7% 的故事视频文本对齐改进，我们的发现表明事件因果在计算机故事理解中有巨大的潜力。

    Nov, 2023

  • 大型语言模型是否具有时间性基础？

    大型语言模型在时间上没有实质依据，缺乏自洽性并且表现出不一致的行为性。

    Nov, 2023