May, 2023

自然语言处理研究范式转变的历时分析：何时、如何和为何？

PDF
TL;DR本研究提出了一个系统性的框架，使用因果推断与推理技术分析了科学领域中研究主题的演变趋势。通过对 ACL Anthology 语料库的广泛实验，我们有效地发现了自然语言处理研究主题的演进趋势和根本原因。
scientific fieldevolutionresearch topicscausal discoverynatural language processing
发现论文，激发创造
  • 构建未来，必须了解过去：自然语言处理中的范式转变的背景

    NLP 领域正在经历一系列颠覆性的变化，该研究旨在通过深入了解过去来塑造我们的未来。通过对 26 位 NLP 研究人员进行长篇采访，我们研究了影响 NLP 领域的因素，包括文化、激励和基础设施。我们的访谈对象发现该领域存在循环模式，同时也出现了历史上没有先例的新变化，包括基准文化和软件基础设施的变化。通过对 ACL 文集中的引用、作者和语言使用进行定量分析，我们进一步支持了这一讨论。最后，我们讨论了 NLP 领域未来的共同愿景、关切和希望。我们希望这项对过去和现在的研究能够引发对我们社区内隐含规范的明确讨论，并更加有意识地塑造未来。

    Oct, 2023

  • 翻译型 NLP：自然语言处理研究的新范式和通用原则

    介绍了一种新的 NLP 研究新范式 —— 翻译 NLP，利用该范式可以更好地将基础 NLP 和应用 NLP 联系起来，实现相互促进和交流，进一步推动 NLP 研究的发展。

    Apr, 2021

  • 自然语言处理的范式转变

    本文回顾了近年来 NLP 任务范式转移的现象，着重介绍了一些有潜力解决不同 NLP 任务的范式，这些转移可以通过深度学习和预训练语言模型等方式实现，从而提高模型性能。

    Sep, 2021

  • 可扩展的、数据驱动的理论: NLP 科学进展的范式

    我提出了一种以发展可扩展的、数据驱动的语言结构理论为核心的 NLP 科学进展的理念，该理念在于以严格限定的方式收集数据，并通过机器学习构建解释性理论，以构建可理解的 AI 系统的基础。本文介绍了使用基于问题 - 答案的语义角色标注 (QA-SRL) 对浅层语义结构进行数据驱动理论研究的几个调查，以及收集数据和理论建模的原则，这些原则能够指导未来的科学进展。

    Dec, 2023

  • 自然语言处理研究的探索之旅

    通过对 ACL Anthology 中的研究论文进行系统分类和分析，我们提供了自然语言处理领域的研究概况、学科分类，分析了最近的发展，并总结了我们的发现并强调了未来工作的方向。

    Jul, 2023

  • 自然语言处理中代码切换研究的几十年进展：趋势和挑战的系统调查

    本文针对语言学与计算机科学领域的交叉学科问题 —— 代码切换现象进行了系统性的研究综述，归纳了过去几十年的研究进展、任务挑战、学术趋势和未来研究方向等。

    Dec, 2022

  • 历时词向量和语义漂移：一项调查

    本文综述了当前关于使用预测型词嵌入模型追踪词汇语义时序变化和语义漂移检测的学术研究现状，并讨论了该领域的挑战和应用前景。

    Jun, 2018

  • 薛定谔树 -- 论语法与神经语言模型

    本文回顾了近年来自然语言处理领域的语言模型的发展，并探讨在研究语言模型中基于句法的研究中存在的问题以及解决方案，旨在为未来语言模型的研究提供一种较为多样化和立体化的研究视角。

    Oct, 2021

  • 编程自然语言处理调查

    本文综述了自然语言处理在编程方面的研究，并从推理模型到最新竞争级模型全面调查了现有的相关工作，具有技术类别的完整性，方便查找和比较未来的工作。

    Dec, 2022

  • 机器学习中的创新和词汇使用模式

    本研究深入研究了机器学习研究演变的动态景观，利用隐狄利克雷分配方法识别了在机器学习领域中出现的关键主题和基本概念，通过综合分析追踪了这些主题的演化轨迹，并利用 Kullback-Leibler 散度度量方法量化研究贡献的新颖性和多样性，从而了解杰出研究人员的关键作用以及机器学习领域特定学术场所的重要性。

    Nov, 2023