May, 2023

Adam-Smith 参加 SemEval-2023 任务 4：使用基于 Transformer 的模型集合发现论点中的人类价值观

PDF
TL;DR本文介绍了在 SemEval-2023 任务 4（“辩论背后人类价值观的识别”）中表现最好的 “亚当・斯密” 方法，该方法利用基于 transformer 的模型通过 Ensembling，选择全局决策阈值，从而实现在竞赛中获得最佳表现。同时，我们还表明使用大型模型的 Ensembling 是不必要的，系统的规模可以大大减小。
semeval-2023identification of human valuestransformer-based modelsensemblinglogistic regressions
发现论文，激发创造
  • Rudolf Christoph Eucken 在 SemEval-2023 任务 4 中：一种集成方法用于从论证中识别人类价值观

    本文提出了一种集成方法来从论述文本中检测人类价值观，该方法包括三个模型，并通过不同的方法组合实验，最终获得 0.48 的 F1 分数。

    May, 2023

  • 利用定义提高论点背后人类价值预测 —— SemEval-2023 任务 4 上的 Epicurus

    我们进行了实验，旨在识别论据背后的人类价值观，通过在模型训练过程中引入人类价值观的定义来提高预测性能，结果表明我们提出的模型相比于挑战组织者的基线模型表现更好，宏 F1 分数提高了高达 18%。

    Feb, 2023

  • ArAIEval 共享任务中的 MAVERICKS：构建更安全的数字空间 -- 转换器集成模型解决欺骗与说服

    我们在本文中重点介绍了我们为《2023 年阿拉伯语 AI 任务评估（ArAiEval）共享任务》开展的方法。我们提出了针对共享任务的任务 1-A 和任务 2-A 的方法，重点是说服技巧检测和虚假信息检测。检测说服技巧和虚假信息已成为避免真实信息扭曲的必要手段。该任务使用多种体裁的推文和新闻文章来进行给定的二元分类问题。我们尝试了在阿拉伯语上预训练的几种基于 Transformer 的模型，并在提供的数据集上进行了微调。我们采用集成方法来提高系统的性能。我们在任务 1-A 上获得了 0.742 的微平均 F1 分数（排行榜第 8），在任务 2-A 上获得了 0.901 的微平均 F1 分数（排行榜第 7）。

    Nov, 2023

  • 使用大型预训练语言模型的低资源命名实体识别：SemEval-2022 任务 11 中的 SFE-AI

    本文描述我们在 SemEval 2022 任务 11 中使用 Transformer 层自适应地整合多个预训练语言模型进行实体识别，在波斯语和荷兰语方面表现优异。

    May, 2022

  • 基于 Transformer 和集成方法的阿拉伯语仇恨言论检测解决方案

    本研究描述了我们参与 CERIST NLP Challenge 2022 的 hate speech detection 共享任务的情况，通过六种 transformer 模型和两种集成方法的组合来评估我们的实验效果。我们使用基于多数投票的组合方法在五倍交叉验证方案中取得了最佳结果。该方法在测试集上的评估表明，F1-score 为 0.60，准确度为 0.86。

    Mar, 2023

  • 利用基于 Transformer 的集成学习来分类科学论文

    本文介绍了一个系统，它包括四个独立子系统，能够将科学文献的摘要分类到给定的七个类别中，通过对这四个子系统的集成，可以得到一个在测试和验证集上 F1 分数为 0.93 的最终系统，优于现有的最先进模型 SciBERT 的 F1 分数。

    Feb, 2021

  • SemEval-2023 任务 4: 基于对比学习强化的最近邻机制的标签表示多头注意力模型，用于多标签文本分类中的毛泽东

    本文介绍了我们团队使用 Roberta 模型进行多头注意力机制的人类价值自动识别方法，在 SemEval 2023 的评测中得到了第四名的成绩。

    Jul, 2023

  • 基于 Transformer 的集成模型对 AI 生成的文本进行检测

    本论文介绍了我们团队 “SynthDetectives” 在 ALTA 2023 共享任务中的提交情况。我们采用了一种堆叠 Transformer 模型的方法来实现 AI 生成文本的检测任务。我们的方法在模型选择上是新颖的，因为我们使用了易于访问和轻量级的模型进行集成。我们展示了模型集成相比单独使用模型能够提高准确性的结果。在共享任务组织者提供的官方测试数据上，我们的方法达到了 0.9555 的准确得分。

    Oct, 2023

  • 利用 Transformer 模型集合检测生成的科学论文

    该论文讨论了在第三届学术文档处理研讨会上开展的 DAGPap22 共享任务中开发的神经模型，侧重于比较不同的基于 transformer 的模型并使用附加数据集和技术来处理不平衡的类别，在提交最终版本时，我们使用经过随机过采样技术微调的 SciBERT，RoBERTa 和 DeBERTa 集成模型达到了 99.24% 的 F1 得分，官方评估结果将我们的系统排在第三位。

    Sep, 2022

  • 使用 Transformer 模型集合的共情和苦恼检测

    该论文介绍了作者对于 WASSA 2023 的共享任务中的移情、情感和个性的方法。通过使用基于 BERT 模型的几种方法，以及尝试多种集成的方法，最终在感同身受和痛苦检测子任务中取得了排名第三的 Pearson 相关系数得分为 0.346。

    Dec, 2023