DNA 序列的无监督表示学习

ICMLJun, 2019

Unsupervised Representation Learning of DNA Sequences

Vishal Agarwal, N Jayanth Kumar Reddy, Ashish Anand

TL;DR本文利用一种序列到序列自编码器模型以无监督的方式学习长度可变的 DNA 序列的固定维度的潜在表示，并在监督学习的拼接位点分类任务中进行了定量和定性评估。实验表明，此类表示法可用作通常相关的任务中的特征或先验，并且采用的模型归因技术获得的序列特征对分类精度有显著影响。

Abstract

Recently several deep learning models have been used for DNA sequence based classification tasks. Often such tasks require long and variable length DNA sequences in the input. In this work, we use a sequence-to-sequence

deep learning dna sequence classification sequence-to-sequence autoencoder splice site classification model attribution technique

发现论文，激发创造

序列模型的离散自编码器

本文旨在通过强制使用自动编码器并引入改进的语义哈希技术，从序列模型中提取更好的表示，以提高其在语言建模和机器翻译等任务中的表现，并展示了该技术在生成多元化翻译方面的应用。

Jan, 2018

嵌入 - 搜索 - 对齐：使用 Transformer 模型进行 DNA 序列对齐

DNA-ESA 是一种新颖的编码器模型，通过产生读数和参考片段的表示，将其投影到共享向量空间，其中读段的距离用作对准的替代指标。

Sep, 2023

半监督序列学习

本文提出两种方法用于使用未标记的数据改善序列学习。第一种方法是预测序列中的下一个元素，第二种方法是使用序列自编码器。通过这两种算法的无监督训练，我们可以训练出更稳定且泛化性能更好的长短时记忆网络，并在诸如 IMDB、DBpedia 和 20 Newsgroups 等文本分类任务中获得强大的性能。

Nov, 2015

DNA 序列生成的潜在扩散模型

通过深度生成模型，特别是深度扩散模型，来合成 DNA 序列在合成生物学领域开辟了新的前景。我们提出了一种新颖的潜在扩散模型 (DiscDiff)，通过将离散 DNA 序列嵌入连续的潜在空间，使用自编码器来利用连续扩散模型强大的生成能力生成离散数据。此外，我们引入了一种新的度量标准 Frechet Reconstruction Distance (FReD)，用于衡量 DNA 序列生成结果的样本质量。我们的 DiscDiff 模型能够生成与真实 DNA 序列在 Motif 分布、潜在嵌入分布 (FReD) 和染色质剖面方面紧密相符的合成 DNA 序列。此外，我们还贡献了一个包含 15 个物种的 15 万个唯一启动子 - 基因序列的全面跨物种数据集，为未来基因组学中的生成建模工作提供丰富的资源。我们将在发表后公开我们的代码。

Oct, 2023

利用深度学习识别 DNA 序列模体

Splice sites are vital for gene expression and accurate prediction is crucial; DeepDeCode, an attention-based deep learning model, is introduced for splice site prediction, along with visualization techniques for sequence motifs, demonstrating its accuracy, explainability, and efficiency in healthcare applications for genomic processes.

Nov, 2023

蛋白质序列的变分自编码

使用变分自编码器对天然蛋白序列进行嵌入，以预测突变对蛋白质功能的影响，并可用于计算引导蛋白质序列空间的探索和更好地指导有理和自动蛋白质设计。

Dec, 2017

自编码器无监督地学习序列表示

提出了通过整合两种经典的序列重构机制，结合时间戳的方法，使用自编码器模型学习序列数据的固定长度向量表征，旨在提高对序列数据的高质量感知，以便在半监督学习中应用。

Apr, 2018

评估无监督解缠表示学习用于基因组发现和疾病风险预测

使用高维临床数据和变分自编码器 (VAE) 学习的低维嵌入可用于基因组关联研究和多基因风险预测，而在基因关联研究中，FactorVAE 和 beta-VAE 相较于标准 VAE 或非变分自编码器在哮喘和慢性阻塞性肺疾病的全基因组显著位点数量、遗传度和多基因风险评分的性能上表现更好，而且 FactorVAE 在正则化超参数的多个值上效果显著，而 beta-VAE 对超参数的值非常敏感。

Jul, 2023

SEQ^3: 可微分的序列到序列到序列自编码器用于无监督的抽象句子压缩

本文介绍了一种基于序列 - 序列 - 序列自编码器 (SEQ^3) 的神经网络模型用于非监督抽象句子压缩，利用预训练语言模型作为潜变量的先验，结合连续的松弛机制使模型可优化，避免了对平行文本摘要对的依赖，实现了在基准数据集上取得了诱人的结果。

Apr, 2019

用于显微原位杂交图像分析和分类的自动编码器优化

本文提出了一种使用深度学习自编码器的无监督学习模型来检测和分类基因表达相似的显微镜图像区域，该模型通过平衡潜在层的长度和复杂性来进行优化，模型的性能通过适应均方误差度量值进行验证，并与专家的评估进行比较。

Apr, 2023