Oct, 2023

基于注意力的多任务学习用于基因编写器结果预测

PDF
TL;DR人类遗传疾病常常源于点突变，因此需要精确的基因组编辑技术。其中，碱基编辑作为一种使单个核苷酸发生靶向变化的技术显著突出。然而，其临床应用受到编辑效率低和非预期变异的限制，需要在实验室大量试错实验来加快该过程。为了加速这一过程，我们提出了一种基于注意力机制的两阶段机器学习模型，用于预测给定基因组目标序列的所有可能编辑结果的概率。我们进一步提出了一种多任务学习的模式，能够同时学习多个碱基编辑器（即变体）。我们模型的预测与多个数据集和碱基编辑器变体的实际实验结果能够保持强相关性。这些结果进一步验证了模型改进和加速碱基编辑设计过程的能力。
genetic diseasesgenome editingbase editingmachine learning modelbase editor variants
发现论文，激发创造
  • 基于注意力的多任务学习用于碱基编辑器结果预测

    提出了一种基于注意力的两阶段机器学习模型，用于预测给定基因组目标序列的所有可能编辑结果的可能性，并采用多任务学习模式同时学习多个碱基编辑器变体，验证了该模型对于增强和加速精细化碱基编辑设计进程的能力。

    Nov, 2023

  • 大规模基于记忆的模型编辑

    介绍了一种基于 Semi-Parametric Editing with a Retrieval-Augmented Counterfactual Model (SERAC) 的模型编辑方法，具备内存高、编辑表达能力强的特点，能够高效地处理基于问答、事实核查和对话生成的 3 种具有挑战性的语言模型编辑问题。

    Jun, 2022

  • 学习模拟编辑过程

    本文提出了一种通过多步编辑的方式，建立生成序列的生成模型，以及训练该模型的神经网络，并基于多步编辑提出了基础结果和度量标准。实验结果表明，所提出的模型在相关下游任务上的表现优于以往单步编辑模型的表现。

    May, 2022

  • CodeEditor：使用预训练模型学习编辑源代码

    本研究提出了一种专门针对代码编辑的预训练任务，并提出了一个名为 CodeEditor 的有效预训练代码编辑模型。 通过该任务的预训练进一步提高了代码编辑模型的性能和泛化能力，并优于 SOTA 基线。

    Oct, 2022

  • 预测基因突变的功能丧失影响：一种机器学习方法

    本文研究了利用下一代测序技术进行基因组测序以及使用机器学习模型预测 LoFtool 分数和基因突变的相关特性，通过建立多个模型并评估其性能，得到了测试集 r 平方值为 0.97 的结果。

    Jan, 2024

  • 可编辑神经网络

    该研究探讨了神经网络的编辑问题，提出了 Editable Training，这是一种模型无关的训练技术，以便快速修补模型的错误，并在大规模图像分类和机器翻译任务中进行了实证研究。

    Apr, 2020

  • 盲突变影响预测的多级蛋白质表示学习

    本文提出了一种新的预训练框架，它将用于蛋白质主体结构和三级结构的序列和几何分析器级联，模拟野生型蛋白质的自然选择并评估变体的效果，以指导遗传突变方向，实现所需特征，提出了一种新的变体影响预测方法，其预测结果在单点和深部变异方面表现良好。

    Jun, 2023

  • 学习表示编辑

    本文研究分布式表征编辑的问题，并将神经编辑器与编辑编码器结合起来，可以学习表示编辑的重要信息，并用于将编辑应用于新输入。我们在自然语言和源代码编辑数据上进行实验，结果表明我们的神经网络模型学习捕捉了编辑的结构和语义。希望这个有趣的任务和数据源能够激发其他研究者进一步研究这一问题。

    Oct, 2018

  • 一种检索和编辑框架，用于预测结构化输出

    通过检索训练样本并进行编辑来生成复杂输出的方法，特别是源代码生成，最近已经被广泛使用。本文提出了一种有效的方法，即使用基于任务的嵌入式检索模型，使生成器基于输入直接编辑生成输出，且在新的 GitHub Python 代码和 Hearthstone 卡牌基准模型上实现了改进效果。

    Dec, 2018

  • 使用文本编辑模型生成文本

    本文介绍了文本编辑模型和 seq2seq 模型，分析了它们的优缺点，探讨了生产化和应对文本生成中的幻觉和偏见等挑战。

    Jun, 2022