Oct, 2023

基于 ChouBERT 方法的推文中植物健康威胁的命名实体识别

PDF
TL;DR精准农业应用领域中，使用传感器和数据分析技术检测和测量作物健康威胁是一个重要的应用场景。然而，由于缺乏标注数据和细粒度的语义资源，文本数据在现有解决方案中仍未得到充分探索。最近的研究表明，农民的日益连接性和在线农业社区的出现使得类似 Twitter 的社交媒体成为检测陌生植物健康事件的参与平台，只要我们能从非结构化文本数据中提取关键信息。ChouBERT 是法语预训练语言模型，能够准确识别涉及观察植物健康问题的推文，并且能推广到未见过的自然灾害。本文通过进一步研究 ChouBERT 在小规模标记数据上进行的令牌级注释任务，解决了标注数据的不足问题。
发现论文，激发创造
  • Twitter 上预测不健康对话的哈希化方法

    使用在大规模的 Twitter 语料库上预训练并在我们任务上进行微调的基于注意力机制的 BERT 架构，有效地进行对社交媒体对话中的个人攻击和逻辑偏离行为的预测，此模型相较于我们作为基准所使用的 LSTM 模型表现出明显的优势。此外，通过综合过采样技术，可在相对较小的新颖数据集上进行微调，并减轻过度拟合问题。通过引入基于 Transformer 的模型，使该研究为预测 Twitter 上对话事件的实用工具奠定基础，以鼓励更好地互动在最普遍的社交媒体平台之一。

    Nov, 2023

  • 基于 BERT 语言模型的灾难推文分类

    利用机器学习语言模型对社交网站的帖子进行监测，以便能够及时地确定是否有人或地区处于危险之中，从而更好地进行应急处置。

    Jan, 2022

  • 口语文本中的实体识别

    我们研究了基于 BERT 模型的多种训练策略，旨在从口语化文本中识别出医疗领域的症状，并通过一系列实验发现了与这些训练策略相关的模型行为模式，提出了有效识别口语化文本中实体的训练策略设计原则。

    Jan, 2024

  • 推文中的命名实体识别与链接分析

    本文讨论了对于不规则、嘈杂、依赖上下文及动态性的推文（一种微博形式），运用自然语言处理技术进行挖掘和智能信息访问的挑战，重点关注了从推文中提取实体并进行实体消歧的任务，介绍了一个新的 Twitter 实体消歧数据集，并对多个最先进的 Named Entity Recognition & Disambiguation 模型进行了实证分析。

    Oct, 2014

  • 基于命名实体识别和主题建模的社交媒体中自然灾害定位和评估的解决方案

    在这篇论文中，我们提出了一个三步解决方案，旨在充分利用社交媒体内容和自然语言处理技术，实现灾害信息学中的相关分类、地点提取和主题建模，以应对社交媒体内容中的挑战。

    May, 2024

  • COVID-Twitter-BERT：一个用于分析 Twitter 上 COVID-19 内容的自然语言处理模型

    该论文介绍了基于 transformer 的 COVID-Twitter-BERT 模型，通过对大量 Twitter 上有关 COVID-19 的消息进行预训练，该模型在五个不同的分类数据集上相较于 BERT-Large 基础模型提高了 10-30％，特别是在 COVID-19 内容（尤其是来自 Twitter 的社交媒体帖子）的分类中表现更突出，从而实现了优化。该模型可以用于文本分类、问答和聊天机器人等自然语言处理任务。

    May, 2020

  • TweetDrought：基于 Twitter 数据的深度学习旱灾影响识别器

    应用自然语言处理和基于 Transformers 的双向编码器表示 (BERT) 进行转移学习，fine-tuning 模型对新闻类干旱影响报告 (DIR) 的数据，并将其应用于基于美国过滤的推特数据中识别七种干旱影响。

    Dec, 2022

  • UIT-HSE 在 WNUT-2020 任务 2 中利用 CT-BERT 识别 Twitter 社交网络上的 COVID-19 信息

    以 COVID-Twitter-BERT (CT-BERT) 为基础的变形器模型和微调技术可以有效地识别有用的 COVID-19 相关的 Twitter 帖子，获得了 2020 年 W-NUT 共享任务 2 中排名第三的 F1 分数为 90.94％

    Sep, 2020

  • CamemBERT-bio: 一款对健康更为有益的美味法语语言模型

    通过对一部分医学文献的预处理和机器学习，研究团队提出了一种针对法语生物医学领域的语言模型 CamemBERT-Bio，并且该模型在实体识别任务上的 f1 分数相较之前有了 2.54 的提升。

    Jun, 2023

  • BERT-Deep CNN: COVID-19 推文情感分析的最新技术

    本文探讨利用 BERT 和 Deep CNN 模型通过社交媒体研究社会对 COVID-19 大流行的感知，证明了 BERT 模型在情感分析中的卓越性能。

    Nov, 2022