用于医疗教学视频分类和问答的数据集
通过使用大规模数据集和视觉答案,本文聚焦于使用医疗视频为公众提供有关健康的视觉答案,并分析了数据集对模型训练和可视特征在提高单模态和多模态方法性能方面的影响。
Sep, 2023
提出了一种新的基于教学视频的问题回答任务,并介绍了一个包含约 6000 个三元组的数据集(视频,问题,回答跨度),并使用几个基准算法对其进行了实验,从而得出该任务的挑战性并呼吁探索新算法。
Dec, 2019
本研究发布了一个越南的医疗问题数据集,具有句子层次和实体层次的注释,旨在改善基于任务的医疗聊天机器人对病人问题的理解能力,并提出了一种自监督的训练策略。
Apr, 2023
本研究旨在通过提出一种基于生成的模型方法(与大型自然语言模型结合)来解决医学图像中的问题,通过建立大规模的医疗视觉问答数据集,即 PMC-VQA,该数据集包含 149k 张图片的 227k 个问答对,并进行预处理和微调以超越现有研究成果。
May, 2023
医学视觉问答(Med-VQA)是医疗行业中非常重要的任务之一,通过医学图像回答自然语言问题。本文开发了一种用于医学视觉问答的基准评估系统(BESTMVQA),通过此系统,用户可以自动构建 Med-VQA 数据集,并选择多种先进模型进行综合实证研究。该系统从临床数据中自动构建新数据集,通过在统一的实验环境中对先进模型进行评估,克服了现有工作的局限性。
Dec, 2023
为了避免手动注释,提出了利用自动交叉模态监督生成视频问答数据集的方法,通过使用问题生成变形器从语音转录中生成问题 - 答案对,然后根据视频 - 问题多模式变形器和答案变形器之间的对比损失训练处理答案的多模式变形器,生成如何 VQA69M,WebVidVQA3M 和 iVQA 等不同数据集,结果表明在多个数据集上其结果优秀。
May, 2022
通过使用领域特定的预训练策略,包括一种新颖的对比学习预训练方法,解决医学视觉问答任务中数据集规模小的问题,我们的模型在 VQA-Med 2019 测试集上达到了 60% 的准确率,与其他最先进的 Med-VQA 模型具有可比性。
Sep, 2023
本研究提出了一种使用自动跨模态监督和问题生成转换器生成问题和答案对的方法来生成大规模视频问答训练数据集,并提出了一种基于对比损失的训练程序来处理其多样的答案类型。通过实验证明,在 MSRVTT-QA、MSVD-QA、ActivityNet-QA 和 How2QA 等多个任务上,该方法明显优于现有技术。
Dec, 2020
本研究提出一种编码器 - 解码器框架,利用自注意机制跨图像文本双模态表示,并通过自监督多任务学习在大规模医学图像字幕数据集上进行预训练,并在小规模医学 VQA 数据集上进行微调,取得了比基线和 SOTA 方法更好的性能。
Feb, 2023