bert-based model | BriefGPT

关键词bert-based model

搜索结果 - 40

BISeizuRe: 基于 BERT 启发的癫痫数据表示以提升癫痫监测
该研究提出了一种新的基于 EEG 的癫痫检测方法，利用一种基于 BERT 的模型。该模型经历了两个阶段的训练过程，分别在 TUEG 和 CHB-MIT 数据集上进行预训练和微调，以提高检测性能。优化后的模型在降低误报率的同时，取得了显著的性
PDF5 days ago
NLU-STR 在 SemEval-2024 任务 1 中的应用：基于生成的增强和基于编码器的评分方法用于语义文本相关性
该篇研究论文通过使用 BERT 模型进行有监督和无监督的学习方法，在 SemRel-2024 任务中取得了显著的结果，包括在 MSA 中获得了 0.49 的 Spearman 相关系数的第一名，以及在摩洛哥语和阿尔及利亚语中分别获得了 0.
PDF2 months ago
利用开源临床大型语言模型分类癌症分期
通过使用开源临床大型语言模型（LLMs）和基于 BERT 的模型进行细化调整，本研究证明在没有标记训练数据的情况下，可以从真实世界的病理报告中提取病理肿瘤 - 淋巴结 - 转移（pTNM）分期信息。研究发现 LLMs 在肿瘤（T）分类方面仍
PDF3 months ago
大规模分类阴谋爆料：虚假警报和错误关联
在线讨论中经常涉及阴谋论，本研究针对不同主题和在线社区中的阴谋论讨论建立了一个以作者对阴谋信念的观点为基础的分类体系，并通过人工标注的训练数据使用基于 BERT 的模型进行分类，结果显示 GPT 在逻辑推理方面存在显著缺陷，与我们的分类器相
PDF3 months ago
整合有监督的抽取式和生成式语言模型进行自杀风险证据摘要
我们使用监督的抽取和生成式语言模型集成的方法来提供 2024 年 CLPsych 共享任务中对自杀风险的支持证据。我们的方法包括三个步骤：首先，构建一个基于 BERT 的模型来估计句子级的自杀风险和负面情绪；接下来，通过强调自杀风险和负面情
PDF3 months ago
D-Nikud: 借助 LSTM 和预训练模型增强希伯来语变音符号化
D-Nikud 是一种创新的希伯来语音符标注方法，它将 LSTM 网络和基于 BERT 的预训练模型的优势相结合。通过模仿 Nakdimon 方法论，我们将其与 TavBERT 预训练模型结合，我们的系统采用了先进的架构选择和多样化的训练数
PDF5 months ago
口语文本中的实体识别
我们研究了基于 BERT 模型的多种训练策略，旨在从口语化文本中识别出医疗领域的症状，并通过一系列实验发现了与这些训练策略相关的模型行为模式，提出了有效识别口语化文本中实体的训练策略设计原则。
PDF6 months ago
利用大型语言模型增强临床笔记中的表型识别：PhenoBCBERT 和 PhenoGPT
通过基于 Transformer 结构的大型语言模型（LLMs），我们可以自动检测临床表型术语，包括未记录在 HPO 中的术语。在本研究中，我们开发了两种模型：PhenoBCBERT，一种基于 BERT 的模型，利用 Bio+Clinica
PDFa year ago
基于块的开放信息性提取
本研究提出了一种名为 SaC（Sentence as Chunk sequence）的新方法用于 Open Information Extraction（OIE）任务中的元组抽取，并使用基于 BERT 的简单模型 Chunk-OIE，在多个
PDFa year ago
新闻熊猫：媒体监测为及时的保护行动
通过利用 NewsPanda 的 BERT 模型进行环境保护和基础设施建设相关文章的自动检测和分析，减少了人力成本并有助于 NPO 更及时获得更新。
PDFa year ago
重新审视相似性和不相似性在最佳反驳论点检索中的作用
本文提出了一种基于 Bert 的新模型 Bipolar-encoder，通过相似度和不相似度度量来评分反驳论证，并通过实验证明了其比传统方法和最近的神经评分模型更加有效和高效。
PDFa year ago
跨语言情感分析的多任务学习
本研究使用零样本和小样本学习进行跨语言情感分析。采用三种语言的 BERT-based 模型进行语种间的情感分类，提出了一种简单多任务模型。通过单任务和多任务实验的零样本和小样本场景对克罗地亚言和斯洛文尼亚情感分析进行评估。
PDF2 years ago
CBEAF-Adapting: 增强型持续预训练用于构建中文生物医学语言模型
本论文介绍了一种连续预训练方法，称为 CBEAF-Adapting，它的主要思想是在每个自注意力层和前馈网络中引入少量注意头和隐藏单元，有效地解决了领域适应中序列任务训练造成的遗忘问题，以中国生物医学领域为例进行了实验，结果表明我们的方法能
PDF2 years ago
使用多注释决策进行因果检测
该论文研究了利用基于 BERT 模型的自动化抽取技术进行抗议新闻因果关系检测的方法，提出了利用自定义的交叉熵损失函数的方法，实验结果表明 BERT-based-uncased 在 Causal News Corpus 数据集上的 F1 分数
PDF2 years ago
使用 BABE 远程监督进行神经媒体偏见检测 -- 专家标注偏见
本论文介绍 BABE 数据集，该数据集由专家标注，在标注质量和协议一致性方面比现有研究有了更好的表现。基于该数据集，使用 BERT 模型进行监督学习，可以自动检测新闻文章中引入偏见的句子。最终实验结果表明，该方法优于现有方法，在该数据集上的
PDF2 years ago
关于作者归属与作者验证方面现有技术的状况
该研究论文介绍了谁是这篇文章作者（AA）和作者验证（AV）这两种方法，针对 AA/AV 数据集和评估指标的标准化与基准评估并评估了八种方法，其中传统的 Ngram-based 模型在 5 个 AA 任务中表现最佳，而 BERT-based
PDF2 years ago
COLING使用多编码器融合策略来改善个性化回复选择
本文介绍一种基于 BERT 的个性化响应选择模型，融合对话者个性、情感和蕴含信息的交互关系，并在 Persona-Chat 数据集上进行表现测试，在 Top-1 准确率上跑出了 2.3% 以上的性能提升，取得了最新的最先进的性能。
PDF2 years ago
MetricBERT：通过自监督三元组训练学习文本表征
本文介绍了一种基于 BERT 的模型 MetricBERT，该模型通过学习嵌入文本并同时遵循传统的掩码语言任务，以在定义明确的相似度度量下进行。我们主要关注于推荐中的学习相似性的下游任务，表明 MetricBERT 在超越其他最先进的替代方
PDF2 years ago
ABB-BERT：用于消歧缩写和缩略语的 BERT 模型
本文介绍了一种基于 BERT 模型的 ABB-BERT 模型，旨在解决包含缩写和收缩词的模糊语言的拼写纠正问题。该模型可以从成千上万的选项中对它们进行排名，并可在 Wikipedia 文本上进行训练，以便在领域或个人方面实现更好的性能。
PDF2 years ago
QA Lab-PoliInfo-3 案例研究中的日本政治讨论参数挖掘级联模型
该研究使用基于 BERT 模型的组合模式对预算论据进行分类和信息检索，其中手工规则用于确定是否为货币表达式。最终，通过对货币表达式进行分类，本文取得了最佳结果。
PDF2 years ago