ACLMay, 2022

GateNLP-UShef 参加 SemEval-2022 任务 8：用实体增强的 Siamese Transformer 进行多语言新闻文章相似性计算

PDF
TL;DR本文描述了 SemEval-2022 任务 8 排行榜上排名第二的系统。我们提出了一种基于实体增强的连体 Transformer，根据新闻文章中讨论的事件的共享叙述、实体、位置和时间等不同子维度计算新闻文章相似性。
发现论文，激发创造
  • Wolfies 参加 SemEval-2022 任务 8：多语言新闻文章相似性特征提取管道的 Transformers

    本文介绍了使用预训练嵌入模型计算余弦相似度，并建立不同相似度度量的管道进行特征提取，在此基础上，使用前馈神经网络进行训练以提高相似性测量结果的方法。

    Aug, 2022

  • SemEval-2022 任务 11 中的 USTC-NELSLIP 团队：适用于地名词表的多语言复杂命名实体识别整合网络

    提出了一种基于 Gazetteer 适应的整合网络 (GAIN) 的方法，用于提高语言模型识别复杂命名实体的性能，该方法应用于基于 Transformer 模型的命名实体识别模型，并利用来自 Wikidata 的 Gazetteer，取得了在 SemEval-2022 Task 11 的多语种命名实体识别比赛上的良好表现。

    Mar, 2022

  • HFL 在 SemEval-2022 任务 8 中：一种基于语言学的回归模型与数据增强的多语言新闻相似性方法

    本文介绍了我们的系统，以应对针对于 SemEval-2022 任务 8：多语言新闻文章相似性。我们提出了一种受语言学启发的模型，采用了几个任务特定的策略进行训练。我们的系统的主要技术包括：1）数据增强，2）多标签损失，3）适应 R-Drop，4）头尾组合中的样本重构。我们还对一些负面方法进行了简要分析，例如两塔架构。我们的系统在排行榜上排名第 1，并在官方评估集上实现了 0.818 的皮尔逊相关系数。

    Apr, 2022

  • 通过微调 Transformer 模型实现同时释义和翻译

    本论文介绍了使用预训练模型结合 Transformer 架构和过采样策略，对同时翻译和改写语言教育的共享任务的第三种方法。该系统在匈牙利语和葡萄牙语方面表现优异，比基准系统改进了 27% 和 33% 的宏平均 F1 得分。

    May, 2020

  • 通过 3D 暹罗网络改进文本语义相似性建模

    我们提出了一种新颖的 3D 孪生网络模型，用于文本语义相似性建模，通过将语义信息映射到高维空间，保留了更精确的空间和特征领域信息，并为综合下游建模策略提供了必要的结构条件。通过引入多个模块来增强这一 3D 框架，包括特征提取、注意力和特征融合，在四个文本语义相似性基准上的广泛实验证明了我们 3D 孪生网络的有效性和效率。

    Jul, 2023

  • 基于 Transformer 的大语料库语义相似度分析的认知研究

    本文利用传统技术和转换器技术对美国专利短语进行语义相似性分析和建模，并对 Decoding Enhanced BERT（DeBERTa）的四种不同变体进行实验，在此基础上通过 K 次交叉验证提高性能，实验结果表明我们的方法比传统技术更具有优越性，平均 Pearson 相关系数为 0.79。

    Jul, 2022

  • 实体感知新闻图像标题生成

    该研究提出了一种端到端模型，用于为嵌入新闻文章的图像生成标题。该模型采用多模态，多头注意力机制，结合字节对编码的转换器语言模型来应对命名实体识别、多义词汇等问题，并在 CIDEr 评分上实现了当前最高水平的四倍提升。

    Apr, 2020

  • IIE-NLP-Eyas 在 SemEval-2021 任务 4 中：通过特殊标记、重新排序、孪生编码器和回译增强 PLM 以用于 ReCAM

    本文介绍了我们针对 SemEval-2021 任务 4 的三个子任务的系统：抽象意义阅读理解的所有三个子任务。为了帮助我们的模型更好地表示和理解自然语言中的抽象概念，我们设计了很多简单而有效的方法，适应于基础模型（RoBERTa）, 并采用多项选择问题回答的格式以及添加特殊标记到抽象概念，将问题回答的最终预测视为子任务的结果。此外，我们采用了许多微调技巧来提高性能。实验结果表明，我们的方法相对于基线系统表现出显著的性能差异， 在子任务 1 上获得第 8 名，在子任务 2 上获得第 10 名。

    Feb, 2021

  • SemEval-2017 任务 1 中的 Neobility: 一种基于注意力机制的句子相似性模型

    本文介绍了一种基于注意力机制的循环神经网络模型，该模型在 2017 年 SemEval 跨语言语义文本相似度（STS）任务中取得了竞争性表现（前六名），并描述了我们参加跨语言 STS 任务的情况，该任务涉及英语、西班牙语和阿拉伯语的相似度比较。

    Mar, 2017

  • 提升语义相关性，用于中文社交媒体文本摘要的序列到序列学习

    本文通过引入一种基于语义相关性的神经模型，旨在提高汉语社交媒体摘要中源文本和摘要之间的语义相关性，使用编码器 - 解码器框架，通过最大化表示之间的相似性得出结论，实验表明，该模型在社交媒体语料库上优于基线系统。

    Jun, 2017