SurgicalSAM: 高效可类别提示的手术工具分割
本篇研究提出了一种新的神经网络框架,该框架基于实例分割模型添加分类模块以提高手术工具实例分割的准确性,并采用度量学习技术来处理手术器械类别的低变异性,并在评测数据集上证明了其优越性。
Nov, 2022
本研究探讨了Segment Anything Model在机器人手术领域的鲁棒性和零样本泛化能力,并发现该模型在利用点基提示和未提示的设置下,对机器人手术仪器的分割效果较差,且在一些复杂的手术场景中无法识别器械。同时,该模型也缺乏足够的鲁棒性,需要进一步进行领域特定的微调。
Apr, 2023
该研究提出了一种新颖的文本可提示的手术器械分割方法,利用预训练的图像和文本编码器作为模型骨干,其中包含注意力和卷积的提示方案,以及增强图像特征的部分,以提高手术器械分割性能。
Jun, 2023
手术场景分析中使用人工智能的分割是一个基本问题。然而,这个领域内固有的数据稀缺性使得为该任务调整传统分割技术变得具有挑战性。因此,我们提出了一种名为AdaptiveSAM的改进模型,可以快速有效地适应新的数据集,并可以使用文本提示进行分割,其在各种医学图像数据集上优于当前最先进的方法。
Aug, 2023
基于Segment Anything Model(SAM)的语义分割模型在机器人手术领域的鲁棒性、零样本泛化性能等方面进行了实证研究,发现SAM在使用边界框提示时表现出卓越的零样本泛化能力,但在点提示和未提示设置下,对仪器的整体分割困难重重,且在复杂手术场景中无法识别仪器且容易受到各种数据破坏形式的影响。提出的Low-rank Adaptation(LoRA)调整方法结合SAM,形成SurgicalSAM在不使用提示的情况下可以对各个类别的仪器进行遮罩预测,从而说明SAM在手术任务中仍需要进一步的专业领域微调。
Aug, 2023
通过将手术器械结构知识与SAM的通用分割知识集成,我们提出了SP-SAM(手术器械的分割模型),它通过文本提示将器械分解为细粒度部分,并通过选择性融合和分层解码策略将部分级别的表示组合成一个整体,以实现精确的器械分割。在EndoVis2018和EndoVis2017数据集上的广泛实验证明了SP-SAM具有最先进的性能。
Dec, 2023
准确的工具分割对于计算机辅助程序至关重要。在医学场景中,由于存在伪影和有限的训练数据,这项任务存在挑战。在未见数据上具有普遍性的方法代表了一个有趣的途径,其中零样本分割提供了解决数据限制问题的选项。使用Segment Anything Model(SAM)进行初探性工作表明,基于边界框提示的方法具有显著的零样本普适性,然而基于点的提示导致性能下降,并且在图像破坏的情况下进一步恶化。我们认为,SAM在高度受损图像上进行了过度分割,导致仅考虑单个分割掩码时性能下降,而重叠目标的分割掩码的组合则能产生准确的预测。本文利用SAM生成内窥镜帧的过度分割预测,并使用地面真实工具掩膜分析SAM的结果,当选择最佳的单个掩码作为预测时以及当结合所有与感兴趣对象重叠的各个掩码以获得最终预测掩码时。我们使用合成损坏、强度不同的Endovis18和Endovis17仪器分割数据集以及一种自行创建的现实世界数据集进行分析。将过度分割的掩码组合可提高IoU。此外,在清晰图像上选择最佳单个分割时,得到了具有竞争力的IoU得分。结论:组合的SAM预测结果在一定程度的破坏下显示出了改进的结果和鲁棒性,然而在医学领域实施这些模型需要恰当的提示策略。
Feb, 2024
在这项研究中,我们采用轻量级的Segment Anything Model (SAM) 变体以满足速度要求,并采用微调技术来增强其在外科手术场景中的泛化能力。我们结合在线点追踪器和经过微调的轻量级SAM模型构建了一个新颖的框架,用于外科器械分割。在EndoVis 2015数据集上,定量结果超过了半监督视频对象分割方法的最新水平,并且可以在单个GeForce RTX 4060 GPU上以超过25 FPS的推理速度运行。
Mar, 2024
研究通过开发Surgical-DeSAM方法,利用Bounding Box提示和实时机器人手术,实现了实时仪器分割,并在MICCAI手术仪器分割挑战EndoVis 2017和2018数据集上显著改进仪器分割方法的性能。
Apr, 2024
本研究解决了现有外科器械分割算法无法根据外科医生意图精确分割特定器械的问题。通过引入音频驱动的分割框架ASI-Seg,该方法能够解析外科医生的音频指令并进行加权的器械分割,显著减少外科医生的认知负担,提高手术室的工作效率。实验结果显示,ASI-Seg在语义分割和意图导向分割方面优于传统先进模型及医疗SAM。
Jul, 2024