本研究探讨了利用社交媒体中个人状态和意见来研究人类健康的方法，包括数据预处理、持续预训练和优化策略，特别是对于命名实体识别任务，我们使用了名为 W2NER 的模型架构以提高模型的泛化能力。我们的方法在任务 3 中获得第一名。

Dec, 2023

本文介绍了我们提交的 WNUT-2020 任务 2 的成果：识别信息量大的 COVID-19 英文推文的半监督学习转换器集成模型，它在测试集上取得了 0.9011 的 F1 值（排名第 7），与使用 FastText 嵌入的基准系统相比表现显著提高。

Sep, 2020

使用基于 Transformer 的多个模型对推文进行预处理，实现自动识别 COVID-19 诊断的推文，并获得高于平均值 4.1% 的 84.5% 的 F1 分数。

Nov, 2023

LlamBERT 利用 Llama 2 和 GPT-4 等大型语言模型标记一小部分大型未标记数据库，通过结果对 BERT 和 RoBERTa 等 Transformer 编码器进行微调，以提高成本效益。

Mar, 2024

本文基于 XLM-T 提出了一种基于 transformer 的系统，用于预测多语言推特的亲密度，使用英语翻译数据可用于优化训练和推理，取得了 0.599 的总体 Pearson's r 值和排名第四的成绩。

Apr, 2023

利用当代语言模型在序列到序列任务中的应用来增强心理健康研究，通过小型模型，可以准确高效地进行领域特定临床变量的数据标注和心理健康仪器的数据收集，并表现出比商业大型模型更好的性能。

Jun, 2024

通过对英文推文中儿童医学疾病进行二分类，本文介绍了我们在 SMM4H24 共享任务 5 中的方法。第一种方法是对一个 RoBERTa-large 模型进行微调，而第二种方法则是对三个微调的 BERTweet-large 模型结果进行集成。我们证明尽管两种方法在验证数据上表现一致，但 BERTweet-large 集成模型在测试数据上表现出色。我们最佳的系统在测试数据上的 F1 分数达到了 0.938，超过了基准分类器 1.18%。

Jun, 2024

我们评估了多种模型，包括传统机器学习模型、预训练语言模型和大型语言模型，比较它们在社交媒体健康相关自然语言处理任务中的性能。实验结果表明，使用大型语言模型进行数据增强可以获得比仅使用人工标注数据训练的模型更好的结果，并且传统的有监督学习模型在零样本设置中也表现出优于大型语言模型的性能。

Mar, 2024

通过收集推特上有关疫苗接种的数据，以不同的主题评估模型的性能，本研究旨在支持未来在健康领域的论证挖掘研究，采用各种策略来聚合带有主张的推文文本，包括从 SMM4H 2022 排名榜中的具有特征级（早期）融合和双视图架构的模型。

Nov, 2023

本研究参与了 SMM4H 2024 研讨会的第 3 和第 5 任务，以解决推文数据中的分类挑战。通过使用预训练的编码器 - 解码器模型，如 BART-base 和 T5-small，利用迁移学习识别了给定推文的标签，并采用数据增强方法提高了模型性能。最终，在第 3 任务中获得了 0.627 的最佳 F1 分数，在第 5 任务中获得了 0.841 的最佳 F1 分数。

Apr, 2024