该论文提出了一种由词级依赖树转变为字级依赖解析的方法，通过模型化字内的潜在内部结构，在每个词级依赖树中解释为一棵以字级树为基础的森林，采用约束 Eisner 算法确保字级树的兼容性，确保了单一的字内结构根节点，并建立了这些根节点之间的词间依赖关系。对中文树库的实验表明，我们的方法在流水线框架和之前的联合模型上具有优越性。详细分析显示，粗到精的解析策略使模型能够预测出更具语言学可行性的字内结构。

Jun, 2024

本文提出了一种新的方法，利用单词结构并将词汇语义融入预训练模型的字符表示中，以加强单词信息的表达，通过词 - 字符对齐注意机制和集成方法来提高不同中文自然语言处理任务的性能，并进一步证明了模型各组件的有效性。

Jul, 2022

本研究对比了不同状态下的卷积神经网络模型，并提出了一个用于学习内部结构的单词表示的广域漏斗型卷积神经网络 (IntNet)，在六种序列标记数据集上的实验结果显示，IntNet 模型显著优于其他字符嵌入模型，并在不依赖任何外部知识或资源的情况下取得了新的最佳表现。

Oct, 2018

本文探究了中文 BERT 在注意力权重分布统计和探测任务方面的表现，发现其捕捉了单词信息，其中单词级别特征主要集中在中间表示层，在文本理解等下游任务中，词特征以不同的方式被应用。

Oct, 2020

本文探索了在没有中文标注数据的情况下实现中文语义分析的可行性，描述了线性化的中文意义表示数据的自动收集流程，提出了专为中文语义分析设计的测试套件，阐述了中文语义分析的困难主要是由副词引起的，经实验表明采用机器翻译和英文解析器实现中文语义分析的性能略低于直接在中文数据上训练模型。

Jun, 2023

通过使用基于图的方法，利用句法结构中的成分结构，包括语法树的长距离依赖和结构信息，实现了较强的代词消解技术。实验结果显示，在 OntoNotes 5.0 基准测试的英语和中文部分中，提出的模型要么超过了强基线要么实现了新的最高水平。

Feb, 2022

本文提出了一种新型的桥式结构特征和语义信息的汉语序列标注任务编码框架，并使用图卷积网络对其进行实现，实验结果表明，该模型可以有效提高汉语标注任务的性能。

Jun, 2023

我们研究了结构化监督在汉语中的效果，结果表明结构化监督可以帮助语言模型学习句法和语义关系，并且在低数据情况下表现出更好的性能。

Sep, 2021

该论文研究了从语言模型中以无监督方式生成组成和依赖结构的问题，并通过一系列实验表明了其在语法结构识别方面的可行性和存在的限制。

Mar, 2024

通过引入形态结构指导标记，提出了一种深度模型来诱导单词的字符级结构，该方法在形态分割任务和语言建模任务上表现良好，并优于 BPE 和 WordPiece 等广泛采用的方法。

Jun, 2024