CryoMAE:基于掩蔽自动编码器的少样本冷冻电镜粒子挑选
本研究提出了一种自编码器架构 ACE-EM,用于解决冷冻电子显微镜中利用 2D 投影图进行 3D 恢复时遇到的姿态估计与图像重构问题。该方法表现出高姿态空间覆盖率、重构效果好、且是达到 Nyquist 分辨率的唯一自编码器方法。
Feb, 2023
本文提出了一种基于神经网络,结合未标记样本的 PU 学习框架来进行高效准确颗粒自动挑选的方法 Topaz,并展示其在三个公共 cryoEM 数据集中的应用能够获得比已有方法更高的重构分辨率,尤其是对于非球形蛋白等难以处理的数据集。
Mar, 2018
提出了一种新的方法 ——GenEM,该方法是将物理准确的冷冻电镜模拟和生成式非成对噪声转换相结合,生成具有真实噪声的合成冷冻电镜数据集,用于改善高分辨率蛋白质结构的重建分辨率。
Dec, 2023
在生物研究中,将显微镜图像分析成特征仍然是一个重大挑战。本研究探讨了弱监督分类器和自监督掩码自编码器(MAEs)在使用越来越大的模型和显微镜数据集进行训练时的伸缩性能。我们的研究结果表明,基于 ViT 的 MAEs 在多项任务上优于弱监督分类器,在从公共数据库中获取的已知生物关系的召回中相对改进了 11.5%。此外,我们还开发了一种新的通道无关的 MAE 架构(CA-MAE),可以在推理时输入具有不同通道数和顺序的图像。我们证明了 CA-MAEs 通过在具有不同实验条件和通道结构的显微镜图像数据集(JUMP-CP)上进行推断和评估的方法有效地泛化。我们的发现促使继续在显微镜数据上进行自监督学习的规模扩展研究,以创建能够催化药物发现等领域进展的细胞生物学强大基础模型。
Apr, 2024
本文提出了一种 Medical Supervised Masked Autoencoder (MSMAE) 模型来解决传统 Masked Autoencoder (MAE) 模型在医学图像分类和分割中存在的问题,通过监督训练精确地遮蔽医学图像以及在微调阶段通过注意力机制指导遮蔽医学图像,显著提高了 MSMAE 模型的计算效率和医学诊断质量。
May, 2023
SCE-MAE 是一个高度有效且稳健的框架,在标记数据不可用的情况下,通过使用 MAE 方法、基于特征图进行操作以及使用密度峰聚类算法和局部受限排斥损失来直接提取部分局部对应关系,大幅超越了现有 SOTA 方法约 20%-44% 的地标匹配和约 9%-15% 的地标检测任务。
May, 2024
本文提出了一种 Semantic-Guided Masking 策略,通过引入语义部分将语义信息集成到 MAE 训练过程中,以学习更好的图像表示。该训练方法在各种视觉任务中都可以表现出色,特别是在 ImageNet-1k 中实现了 84.5% 的细调准确度,比基本 MAE 高 1.4%。
Jun, 2022
提出了一种新的基于混合的聚类条件专家(MoCE)的 MAE 预训练范式,为不同的下游任务提供定制化的预训练模型,通过使用聚类条件门将每个专家仅与语义相关的图像进行训练,从而克服了 MAE 可扩展性中的负迁移问题。
Feb, 2024
提出一种基于采样高时空令牌的创新 MAE 架构 SurgMAE,应用于手术视频领域的自监督学习,证明了该方法在低数据量条件下的有效性及其在非手术数据集 UCF-101 上的泛化性能优越性。
May, 2023
本文提出了基于 SiamMAE 的 Siamese Masked Autoencoders 方法,使用视频学习视觉对应关系,通过对大量补丁进行遮罩,鼓励网络集中学习运动对象和学习以对象为中心的表示。该方法可以在不依赖数据增强或用于防止表示崩溃的手工制作跟踪先兆任务或其他技术的情况下,实现与先前的自我监督方法相比更好的表现。
May, 2023