Jun, 2022

泰语中的拼写错误语义

PDF
TL;DR本文介绍一种 fine-grained 标注的泰语拼写错误语料库，并分析其潜在语义，研究了拼写错误出现的模式，提出了两种方法来融合拼写错误的语义，即 Misspelling Average Embedding (MAE) 和 Misspelling Semantic Tokens (MST)，在情感分析任务上实验证明了拼写错误的附加语义可以提高微 F1 分数，而盲目归一化则是有害和次优的。
user-generated contentmisspellingsthai languagelanguage understandingsentiment analysis
发现论文，激发创造
  • 自然语言语料库所自动生成的语义带有类似人类的偏见

    这份研究首次展示，应用标准机器学习到日常语言时会形成类似于人类的语义偏见，同时该研究还提供了用于评估文本偏见的新方法。

    Aug, 2016

  • 通用语义的数学模型

    该论文提出一种利用马尔可夫过程进行文本话题、同义词和语义领域提取的语义模型，通过数学分析文本中的重复模式的方法，实现了语言无关的数字指纹。这种语言无关的语义表达方式可以让机器阅读器能够自动识别不同语言的中短文本和进行自动单词翻译。

    Jul, 2019

  • 自动规范混合语言社交媒体文本中的单词变体

    本文研究了如何通过利用词的上下文特性和分布式表征来处理混合代码数据中单词的不同变体，并表明这种预处理方式可以提高最先进的词性标注和情感分析任务的性能。

    Apr, 2018

  • 利用单词的汉字进行词汇义原预测

    本研究提出一种结合内部字符信息和外部上下文信息的新型框架，用于汉语语言下的词汇语义预测任务，实验结果表明该方法可以提高语义标注的效率和一致性，对低频词仍然有较好的性能表现。

    Jun, 2018

  • SemAttack: 基于不同语义空间的自然文本攻击

    提出了一种有效的 SemAttack 框架，在不同语义空间下构建语义干扰函数生成更接近原始输入的自然对抗文本，可针对包括大规模 LM 和防御策略在内的对抗方法，适用于不同语言的对抗生成，而人评结果表明生成出的对抗文本自然，几乎不影响人类的表现。

    May, 2022

  • 始终牢记目标：研究语义并提高神经词汇替换的性能

    本文比较了多种词汇替换方法，使用包括 context2vec、ELMo、BERT、RoBERTa、XLNet 等在内的多种语言模型，并证明注入目标词信息后，能够进一步显著提高现有最佳语言模型的结果。作者还分析了不同模型或注释者给出的目标词和替代词之间的语义关系类型。

    Jun, 2022

  • SememeASR: 利用义元语义知识提升端到端语音识别在领域和长尾数据转移上的性能

    在语音识别领域，通过引入基于义原的语义知识信息（SememeASR），从知识驱动的角度改进了纯数据驱动方法的问题解决，提高了语音识别的有效性，并增强了模型对长尾数据的识别和领域泛化能力。

    Sep, 2023

  • Sememe Prediction: 从非结构化文本 Wiki 描述学习语义知识

    该研究探索如何通过使用维基百科网站上的词语描述自动预测词汇语义单位（sememes），提出一种标签分布式序列到序列模型（LD-seq2seq）和一种新型软损失函数来解决这个弱序多标签任务，实验表明，相比于基线和人类标注者，该方法在测试集上取得了更好的表现。

    Aug, 2018

  • 用掩码实现的语义数据压缩方法 —— 填字游戏

    该研究侧重于英文文本，并利用其语义方面进一步改进压缩效率，主要思想源于填字游戏，即通过某些关键字母提供，即使隐藏的单词具有语义学特征，也可以被精确地重构，并提出了一种类似游戏的基于掩码的策略，编码器评估每个单词的语义重要性，然后掩盖较小的单词，目标解码器则通过使用 Transformer 中的语义上下文来恢复被掩盖的单词。 实验证明，所提出的语义方法比传统方法如霍夫曼码和 UTF-8 代码可以更好地保留目标文本的含义，同时实现更高的压缩效率。

    Apr, 2023

  • 自我欺骗：大型语言模型语义防火墙的逆渗透

    通过研究语言模型监管的方法和攻击，本文提出一种自动破解监管的方法，即引入语意防火墙概念并提供三种技术实现方式，从而成功地实施了 “自欺” 攻击。实验证明该方法的有效性，为未来研究提供了启示。

    Aug, 2023