本文介绍了一种基于层次模型的语言识别方法，其中字符级和上下文化的词级表示能够很好地处理社交媒体消息的简洁特性和非传统拼写，同时还能揭示代码开关现象。

Aug, 2016

构建一个包含基本水平和字符水平注释的古代汉字图像数据集，并提出一种基于字符分解和重组的零样本光学字符识别基准模型，实验证明了数据集和基准模型的有效性。

Aug, 2023

本文提出了 Hierarchy-aware Tree Isomorphism Network (HiTIN) 模型，该模型仅利用标签层次的句法信息增强文本表示，并成功在多个数据集上实现了良好的表现和更少的内存消耗。

May, 2023

本文提出了一种将层级结构直接嵌入文本编码器的层次引导对比学习（HGCLR）方法，通过此方法，将正样本进行层次指导，以学习生成具备层次感知的文本表示，在三个基准数据集上的实验证明了 HGCLR 的有效性。

Mar, 2022

本文提出一种基于 LSTM 模型的层次结构，在命名实体识别中使用双语字符表征和迁移学习来解决词汇表外单词的问题，并提出使用标记替换和规范化减轻数据噪声。在第三届计算语言代码切换共享任务中，我们在不使用任何专用词典和基于知识的信息的情况下，在英语 - 西班牙语语言对中获得了第二名，和 62.76% 的谐波平均 F1 分数。

May, 2018

本文针对现有技术在软件工程任务中依然存在两个问题：长期依赖和不同的代码组件被平等地处理。为了解决这些问题，本文提出了一种代表代码的层次结构（“Code Hierarchy”）和一种网络架构（“ECHELON”），该架构将异构图变换网络和基于树的卷积神经网络的优点相结合用于学习富含代码依赖信息的抽象语法树。同时，本文提出了一种新的预训练目标 “Missing Subtree Prediction” 来补充 “Code Hierarchy”。评估结果表明，我们的方法在任何代码完成、代码分类和代码克隆检测方面明显优于其他基线。

May, 2022

该研究引入了一种新颖的开放词汇语言模型，包含两个层次：词级和序列级，并通过对字符的表示以及全局的序列级别上下文调整，使模型直接处理字符序列，而不是子词或词级别的词汇表，取得了比强基准表现更好的效果，并且具有文本破坏和域移位的鲁棒性。

May, 2023

本文提出了一种层次注意机制的神经翻译模型，采用双向树形编码器来增强源端层次表示，用加权变异的注意机制平衡词汇和短语向量之间的信息，通过树形稀有词编码将该模型扩展至亚字级别以缓解词汇缺失的问题，实证结果表明，该模型在英汉翻译任务中显著优于序列到序列的注意力机制和基于树的神经翻译模型。

Jul, 2017

本文提出了 HIT 作为一种针对码 - 混合文本的健壮的表示学习方法，该方法用层次化 transformer 框架来抓取词语间的语义关系，并使用融合注意机制来层次性地学习句子级别的语义。实验结果表明，HIT 在 11 个数据集上的 4 个 NLP 任务中显著提高了性能，并且在迁移学习环境中显示了学到的表示的适应性。

May, 2021

本研究为了训练数据不足的低资源语音识别问题，提出了一种采用邻近语言的类似单元构建哈夫曼树实现多语言分层 Softmax 解码的方法，实验结果显示该方法有效。

Apr, 2022