无监督学习的盲生物序列去噪

Sep, 2023

Blind Biological Sequence Denoising with Self-Supervised Set Learning

Nathan Ng, Ji Won Park, Jae Hyeon Lee, Ryan Lewis Kelly, Stephen Ra...

TL;DR无监督集合学习（SSSL）方法能够在没有直接观察到干净的源序列标签的情况下，将亚读物聚集在嵌入空间中并估计单个集合嵌入作为亚读物在潜在空间和序列空间中的中点，从而实现对生物序列进行准确去噪。该方法在模拟的长读长 DNA 数据和真实的抗体序列数据集上表现出优于基准方法的去噪性能，为高通量 DNA 测序数据在下游科学应用中的潜力提供更好的实现。

Abstract

biological sequence analysis relies on the ability to denoise the imprecise output of sequencing platforms. We consider a common setting where a short sequence is read out repeatedly using a high-throughput long-read platform to generate multiple subreads, or noisy observations of the

biological sequence analysis denoising alignment-based approaches self-supervised set learning high-throughput dna sequencing

发现论文，激发创造

自我蒸馏提高 DNA 序列推断

我们提出了一种创新的深度神经网络模型，通过 `学生 ' 和` 教师 ' 子网络之间的协同学习，结合了掩蔽学习和对比学习，从而在个体序列的语境信息和序列总体分布数据之间有效融合，该方法显著提升了大多数推理任务的性能。

May, 2024

通过解缠和自组装在随机潜空间上进行半监督学习

本文提出了一种结合半监督学习 (Semi-supervised learning, SSL) 和无监督分化表征学习的方法来增强自我聚合算法 (self-ensembling)，并以多标签分类的方式在胸部 X 光图像上进行了验证。结果表明，该方法的性能得到了改善，并且其分化的表征也更加具有解释性。

Jul, 2019

噪声时间序列的去噪感知对比学习

时间序列自监督学习的噪声消除方法及其对比学习目标选择适合的降噪方法，以提高表示的准确性。

Jun, 2024

自监督学习的逆向工程

本文深入分析了自监督学习的机制以及其对表示学习的影响，揭示了自监督学习在样本聚类方面的潜在驱动作用，同时证实了该方法所训练的表示与语义类别之间存在着密切的对齐关系，并且这种对齐关系随着训练和网络深度的加深而不断增强，这对于提高自监督学习方法的性能和效果具有重要的理论和实际意义。

May, 2023

SS-BSN: 自监督盲点关注网络，用于非局部自相似去噪

本文提出一种新颖的自我相似注意力机制（SS-Attention），并将其集成到基于自我相似的盲点网络（SS-BSN）中，在自我监督图像去噪任务中通过实验证明，在智能手机图像去噪数据集（SIDD）和达姆斯塔特噪声数据集（DND）基准数据集上，该方法在定量和定性方面均优于现有的先进方法。

May, 2023

JSSL: MRI 重建的联合监督与自监督学习

该研究提出了一种名为 JSSL（联合监督和自监督学习）的深度学习方法，用于在目标数据集不完全采样的情况下，通过同时利用代理数据集和目标数据集，提高 MRI 重构的质量。实验证明，JSSL 方法相较于传统的自监督训练方法有了明显的改进，从而凸显了该联合方法的有效性。

Nov, 2023

DNA 序列的无监督表示学习

本文利用一种序列到序列自编码器模型以无监督的方式学习长度可变的 DNA 序列的固定维度的潜在表示，并在监督学习的拼接位点分类任务中进行了定量和定性评估。实验表明，此类表示法可用作通常相关的任务中的特征或先验，并且采用的模型归因技术获得的序列特征对分类精度有显著影响。

Jun, 2019

ColloSSL：面向人类活动识别的协作自监督学习

本文介绍了一种名为 Collaborative Self-Supervised Learning（ColloSSL）的新技术，利用用户多个设备收集的未标记数据来学习数据的优质特征，实验结果表明，ColloSSL 在多个实验设置中均优于全监督和半监督学习技术，与最佳基准测试成绩相比，F_1 得分的绝对增量最高达 7.9％；此外，ColloSSL 在低数据情况下也表现优异，仅利用最佳情况下可用的十分之一的标记数据即可优于全监督方法。

Feb, 2022

少样本零样本情境中的半监督学习

我们通过引入额外的熵损失构建了一个分类器，用于对来自已知和未知类别的数据进行分类，从而改进了现有的半监督学习方法在已知和未知类别的分类中的表现。通过在 CIFAR-100 和 STL-10 两个基准图像分类数据集上的实验证明，我们相对于现有的 SSL、开放集合 SSL 和开放世界 SSL 方法取得了巨大的改进。当标记数据非常有限（每个类别 1-25 个标记示例）时，进步最为显著。

Aug, 2023

医学体积和序列分割的 Bootstrap 表征学习

本研究提出了一种新颖的医学体积和序列分割的简单方法，利用自监督学习和原型校准模块，通过不对称网络针对医学数据的特定不规则性进行训练，以在医学卷和序列方面提供高效精确的分割。

Jun, 2021