Mar, 2011

自然语言处理（近乎）从零开始

PDF
TL;DR提出了一种能够适用于多种自然语言处理任务（包括词性标注、Chunking、命名实体识别和语义角色标注）的统一神经网络架构和学习算法，该系统可以通过学习大量无标注训练数据的内部表示，避免任务特定的工程方法，并构建一个具有良好性能和最小计算要求的可用标记系统。
发现论文，激发创造
  • 从语义标记中我们能学到什么？

    本研究探索使用多任务学习的效果，其中将语义标注作为三种不同自然语言处理任务（词性标注，通用依赖解析和自然语言推理）的辅助任务。相比于全神经网络共享和部分神经网络共享，我们发现 “学习共享什么” 的环境中表现良好，特别是在所有任务中表现出一致的增益。

    Aug, 2018

  • 自然语言处理技术的演进：不仅仅是语言处理，朝着通用人工智能发展

    自计算机发明以来，通过自然语言进行沟通一直是一项梦想技术，但是自然语言非常难以进行数学表达，使得在不考虑程序设计的情况下很难将其实现为算法。然而，近年来深度学习在当代人工智能技术中发挥了核心作用，尤其是在自然语言处理领域，取得了前所未有的成果。本报告提供了前沿的自然语言处理技术如何实现 “熟能生巧” 的技术解释，并提供了其在商业应用中的示例。

    Oct, 2023

  • 自然语言处理：现状、趋势和挑战

    该论文介绍了近年来自然语言处理在各种领域中得到广泛应用的四个阶段，包括其历史演变、现状和应用领域，以及当前的趋势和挑战。

    Aug, 2017

  • 实体中心信息抽取的神经网络方法

    研究自然语言处理的 NLP 和人工智能领域对实体理解的影响，提出了基于实体概念的方法，并介绍了如何在实体链接任务中使用这种方法。通过核指代文簇难题进行了实验研究，分析了知识库实体集成到文本中的方法并从时间视角分析了实体的演变。

    Apr, 2023

  • 用分层循环神经网络进行无监督的分块

    自然语言处理中一篇有关无监督的句法结构预测的研究，通过引入两层层次循环神经网络模型对词语与词组、词组与句子的组成进行建模，利用预训练无监督解析器和下游自然语言处理任务微调的方法，在 CoNLL-2000 数据集上取得了可观的性能提升，对无监督的句法结构发现有推进作用，并为进一步的语言理论研究提供了可能性。

    Sep, 2023

  • 编程自然语言处理调查

    本文综述了自然语言处理在编程方面的研究，并从推理模型到最新竞争级模型全面调查了现有的相关工作，具有技术类别的完整性，方便查找和比较未来的工作。

    Dec, 2022

  • 社交媒体数据中的命名实体识别多任务方法

    提出了一种新的多任务方法，通过使用 NE 分段及精细 NE 分类的主要任务和更一般的辅助任务，利用多任务神经网络构架来学习更高阶特征表示，以传统的 CRF 分类器和神经网络结合的方式来解决 Twitter 和分类不一致的问题。

    Jun, 2019

  • 基于跨度关系表示的自然语言分析泛化

    本文提出一种基于标记跨度和跨度之间关系的统一格式的思想，成功应用于语法、语义、信息内容，情感等多种自然语言处理任务，其结构化的方法能将不同任务转化为相同的格式，同时得到较高的性能表现，并提出多任务学习的优势。最后作者将各数据转换为统一格式来建立一个基准测试，提供了一个综合的测试平台，用于评估未来模型对于通用自然语言处理的表现。

    Nov, 2019

  • 利用任务感知的神经语言模型增强序列标注

    本研究提出了一种新颖的神经网络框架，将预先训练好的字级知识和字符感知神经语言模型相结合，利用转移学习技术实现不依赖于额外监督信号的序列标注任务，并在基准数据集上通过大量实验验证了其有效性和高效性。

    Sep, 2017

  • 深度学习基于自然语言处理的进展：一项调查

    该研究综述了深度学习方法和模型在自然语言处理方面的应用和进展，分析和比较了不同方法和先进模型对语义分析和 NLP 任务领域的促进作用。

    Mar, 2020