自然语言处理中的表征操作化
提出了一种新颖的解释方法,利用人脑阅读复杂自然文本时的脑成像记录来解释最新的四个 NLP 模型 ——ELMo、USE、BERT 和 Transformer-XL 中的词和序列嵌入,研究它们在层深度、上下文长度和注意类型之间的差异,并推测改变 BERT 以更好地对齐脑成像记录将使其更好地理解语言。
May, 2019
深入调查自然语言处理对同理心的影响,发现缺乏明确的同理心定义与过度强调情感同理心导致构建有效性与可重复性不足,提出需要以认知同理心为核心的定义来指导同理心在 NLP 研究领域的应用,并探寻该领域的被忽视的机遇。
Oct, 2022
本文探讨了神经科学和人工智能中所谓的表述问题,并提出了一种基于激活条件的结构推断来解决这个问题的方案,该方案可以用于规划、预测和检测。并通过简单神经网络模型的模拟来说明该方案。
Mar, 2022
本篇论文探讨了近年来自然语言处理在需求工程领域中的应用,通过系统文献综述的方法,发现除了传统的基于词法和句法特征,利用高级嵌入式表示的需求表征在大部分需求工程任务中均表现出很好的效果;但在其他任务中,基于词法和句法特征的表征仍然更为适用。同时,本文也指出了未来的研究方向和更深入探讨的问题。
May, 2022
本文综述了句子表示学习的各种方法,包括传统的和基于深度学习的技术,并对该领域的主要贡献和挑战进行了系统梳理,结论强调了句子表示学习在自然语言处理中的重要性和面临的挑战,并提出了未来研究方向和改进句子表示质量和效率的潜在途径。
May, 2023
本文综述了一种新的逻辑推理范式,它使用自然语言作为知识表示(并使用预训练语言模型作为推理器),包括逻辑推理的哲学定义和分类、新范式的优势、基准和方法、新范式的挑战、未来的可取任务和方法以及与相关 NLP 领域的关系。这种新范式具有很好的前景,因为它不仅可以缓解正式表示的许多挑战,而且还对端到端的神经方法具有优势。
Mar, 2023
该研究是一篇关于自然语言推理的调查论文,提出了 NLP 领域内自然语言推理的概念和实践上的更清晰的视角,并提供了哲学和 NLP 场景的基础上自然语言推理的清晰定义、分类,以及各种任务需要做出推理、回溯推理技术和 defeasible reasoning 未来发展的前景等方面的综述。
Mar, 2023
该论文对 iNLP 的定义、分类、评估方法、应用和未来研究方向进行了综合性调查,旨在为研究人员提供广泛的视野和工具,以促进与人类、知识库、模型和环境的交互、交流和合作。
May, 2023
研究了一个自然语言处理人工系统中句子的表征,分析表明存在一些启发式策略,通过训练分布,这些系统可以学习抽象规则并将其推广到新的环境中,但也存在一些推广行为上的缺陷。
Sep, 2019