Nov, 2022

文本的包容性概念

PDF
TL;DR本研究旨在确定自然语言处理中所谓文本的概念，并提出一套通用术语和分类体系，以扩展文本的范围，从而更好地进行 NLP 建模。该研究强调了包容性方法在 NLP 中处理文本的重要性，并呼吁开发者采用系统化的报告方式，以巩固该话题。
natural language processingtextual datalinguistic elementsnon-linguistic elementsinclusive approach
发现论文，激发创造
  • 多语言文本表示

    现代自然语言处理的突破包括能够在 100 多种语言中执行任务的大型多语种模型。最先进的语言模型从简单的独热编码词表示开始，能够执行自然语言理解、常识推理或问答等任务，从而捕捉文本的语法和语义。同时，语言模型正在超越我们所知的语言界限，甚至在资源非常有限的濒危语言的方言中获得有竞争力的表现。然而，仍然存在一些问题，需要解决，以确保通过统一的建模空间在语言和说话者之间获得公正的文本表示。在本调研中，我们阐述了多语种文本表示的迭代进展，并讨论了最终导致当前最先进技术的推动因素。随后，我们讨论了如何实现语言民主化的全部潜力，突破所知的限制，并探讨在该领域的改进范围。

    Sep, 2023

  • 探究文本分类器的工作

    通过使用一些新的文本分类方法，我们研究了模型是否真正学习了组合句子的意义，或者仅仅关注一些关键词或词典。我们的结果表明，许多模型仍然只是关注词汇和关键词，因此我们提出了新的正则化技术来防止这种过拟合，并在实验中得到了良好的结果。

    Jan, 2018

  • 自然语言处理中的自然之道

    利用深度学习，将口语处理和主流自然语言处理结合起来，以实现更符合人类交流方式、更具数据效率和更具人类化的系统，并更好地与其他语言科学进行整合。

    May, 2023

  • 深度 NLP 模型在文本分类中的统一理解

    本文提出一个可视化分析工具 DeepNLPVis，采用基于互信息的量化方法对深度自然语言处理模型进行统一理解，通过多层次的可视化（语料库级别、样本级别和单词级别）支持从整体到个别的分析，通过两个分类任务的案例研究和模型比较，证明了 DeepNLPVis 能够帮助用户识别潜在问题并做出知情决策。

    Jun, 2022

  • 自动人工智能互动文本生成

    本教程关注于文本生成，这是一类自然语言生成任务，它以一段文本作为输入，然后生成一篇按照某些特定标准（如可读性或语言风格）改进的修订版本，同时保留原版文本的大部分含义和长度。

    Oct, 2023

  • NLP 分类任务的信息论分析方法

    该研究提供了一个信息理论框架，用于分析文本分类任务中输入对输出的影响，研究发现多选阅读理解任务中，上下文与问题对输出的影响随着数据集的挑战程度增加而减少；而情感分类任务中，输入文本的语义含义在决定情感时比其语言表达更为重要。

    Feb, 2024

  • NLP 中的非标准 (或非规范) 语言应对措施

    本文旨在借助杂乱无序的非标准数据，通过适当的算法结合，解决自然语言处理中的性能下降问题和语言的多样性问题，从而生产出更强大和适应性更强的自然语言技术。

    Aug, 2016

  • 神经数据转换为文本生成的创新

    本文调查了神经元数据到文本生成的方法、基准数据集和评估协议，突出了技术应用阶段及其在自然语言生成领域中的前景。

    Jul, 2022

  • 人类可以辨识域名吗？

    通过训练分类器来执行相同任务，我们发现不确定性也延伸到了自然语言处理模型中，表明尽管在处理自然语言时领域广泛存在，但人们对其定义却没有共识。

    Apr, 2024

  • 一项文本蕴含识别的自然语言处理评估调查

    本论文介绍了一种用于比较不同 NLP 系统语义理解能力的统一性评估框架 ——Recognizing Textual Entailment (RTE)，并提供了评估 NLP 系统推理能力的不同方法的概述，重点介绍了 RTE 数据集的特点及其最新研究进展，提出了利用注重特定语言现象的新引入的 RTE 数据集来评估 NLP 系统的建议。

    Oct, 2020