语言模型是否捕捉隐含的话语意义?对韩语形态学的穷尽义务暗示进行的调查
本研究提出了一种基于多阶段行动的模型,可对韩语进行形态学转换和词性标注,使用双向长短时记忆网络模型对Sejong韩国语语料库实现了词和句子级别的标记精度,达到了无先验语言知识的同类模型的最新 交状态。
Jun, 2018
对语言类型学在自然语言处理中的应用进行了调研,发现目前的语言类型数据库在系统性能提升方面存在局限性,现提出将语言的类型类别与现代自然语言处理中的机器学习算法相融合的新方法。
Jul, 2018
本文描述了土耳其话语库1.2版本,介绍了一项新添加的评估,分析了构成单元之间的三种常见依存模式,发现隐含关系比显性关系更常见,两个相邻的隐含话语关系一起使用的频率比显式关系更高,并且存在全嵌入和部分包含的话语关系。
Jul, 2022
本研究提出了基于单词形态的韩语句法分析方案,并将其应用于通用依存结构。我们开发了自动转换脚本,证明了该方案与韩语单词嵌入的高效性,并通过统计和神经模型证明了该方案的有效性。
Sep, 2022
本文探讨了现代语言模型是否能够学会表示复合短语中的复合性和非复合性,通过预测长语的内部表示来证明了现代语言模型可以预测一个父短语的表示。同时,通过多种分析,揭示了不同类型的语言模型何时产生了复合表示,并探讨了未来建模工作的可能性。
Oct, 2022
我们为韩语提出了一份新的通用形态学数据集,名为K-UniMorph,涉及韩语的形态学范例,包括动词结束的语法标准、提取屈折形式的方法和生成形态结构的过程,同时采用了来自Sylak-Glassman(2015年)和Sylak-Glassman(2016年)的形态特征模式。
May, 2023
通过学习分布式标记表示以及潜在的语篇感,实现了对句子对之间的标记和语段信息的联系,具备自动学习和解释性强的特点,并在隐式语篇关系识别任务中达到了SOTA效果。
Jun, 2023
通过研究探讨了自然语言处理中层次结构篇章分析在修辞结构理论框架中的困难,并建立了与之相关的因素模型,其中隐含的篇章关系、识别远程关系的挑战、词汇外的项目等是现有工作中的解析难点。通过发布两个带有明确正确和干扰篇章标记的英文测试集,以评估这些变量的相对重要性。研究结果表明,如同浅层篇章分析,明示/隐含区别起到了一定作用,但远程依赖是主要挑战,而词汇重叠的缺乏则并非问题,至少对于领域内解析而言。最终的模型能够76.3%的准确率预测底向上解析器的错误和76.6%的准确率预测顶向下解析器的错误。
Sep, 2023
我们介绍了一种考虑词素的子词切分方法,利用字符的分解方法来解决字节对编码(BPE)在韩语中应用所面临的挑战,韩语的特点是丰富的语态和独特的书写系统。我们的方法在预训练语言模型(PLMs)中平衡了语言准确性和计算效率。我们的评估结果显示,该技术在整体上表现良好,显著提高了NIKL-CoLA句法任务的结果。这表明融合词素类型信息可以增强语言模型的句法和语义能力,表示采用更多的语言洞察力可以进一步提高性能,超越标准的形态分析。
Nov, 2023
研究证明,语法元素对于自然语言处理至关重要,因为它们提高了语言模型的性能并为人们理解学习机制提供了线索。本研究探讨了韩语语言模型是否能准确捕捉其灵活性,并通过构建Syntactically Incomplete Korean(SIKO)数据集验证了这一点。研究结果表明,这些模型能够准确处理韩语中的不完整输入,而通过使用SIKO进行微调,则能够提高处理常见的不完整韩语句法形式的能力。此数据集的简易构建过程以及显著的性能改进使其成为一种有效的数据增强技术。
Jul, 2024