Jun, 2023

MUBen：针对分子属性预测的预训练模型不确定性基准测试

PDF
TL;DR本文介绍了如何使用不确定性量化（UQ）方法来改善预测分子属性的大型 Transformer 模型的置信度，并评估了不同的 backbone 和 UQ 模型组合的性能，提供了关于选择 UQ 和 backbone 模型的见解。
发现论文，激发创造
  • 使用神经网络进行分子性质预测的不确定性量化

    文章通过对 5 个基准数据集的系统评估，研究不同的不确定性量化方法在回归任务中的性能表现，发现没有一种方法完全优于其他方法，也没有一种特别可靠的错误排名。作者建议在已有的技术中进行选择。

    May, 2020

  • 使用贝叶斯神经网络模型对分子性质预测的不确定性量化

    本研究采用贝叶斯神经网络在分子性质预测中量化预测的不确定性，证明不确定性量化的必要性，从而提高分子应用的可靠性。

    Nov, 2018

  • 基于贝叶斯神经网络的多变量回归材料性质预测的不确定性量化

    使用物理知识指导的贝叶斯神经网络（BNNs）进行材料预测，可实现准确的失效寿命预测和不确定性估计，提供决策依据。

    Nov, 2023

  • 图神经架构搜索中的分子性质预测不确定性量化

    AutoGNNUQ 是一种自动化不确定性量化方法，通过生成一组高性能的图神经网络（GNNs）进行分子属性预测，实现对预测的不确定性的估计，并利用方差分解来提供减少不确定性的有价值见解。在多个基准数据集上的计算实验证明，AutoGNNUQ 在预测准确性和不确定性的性能方面优于现有的不确定性量化方法。此外，利用 t-SNE 可视化方法来探索分子特征与不确定性之间的相关性，为数据集的改进提供了见解。AutoGNNUQ 在药物发现和材料科学等领域具有广泛的应用价值。

    Jul, 2023

  • 对复杂动态系统中认识不确定性和随机不确定性量化的机器学习架构评估

    本研究比较了多种机器学习技术的 UQ 准确性，并对两个模型（船只在波浪中的运动和 Majda-McLaughlin-Tabak 模型）进行了应用。

    Jun, 2023

  • 机器学习中的不确定性量化 - 工程设计与健康预测教程

    本篇研究论文重点介绍了机器学习模型中的不确定性量化方法，特别关注神经网络以及在工程设计和医疗领域的应用。通过介绍多种不确定性量化方法和计量标准，本篇论文旨在帮助提高机器学习模型的安全性和可靠性，同时提供两个具体案例：锂离子电池寿命预测和涡轮发动机剩余使用寿命预测。

    May, 2023

  • 利用消息传递神经网络集合进行分子属性预测的校准不确定性

    本文提出了一种通过考虑统一的不确定性来源并在新数据上重新校准预测分布的信息传递神经网络，能够使神经网络准确预测分子的形成能，并且提供可靠的不确定性估计。

    Jul, 2021

  • 用 LM-Polygraph 为大型语言模型基准化不确定性量化方法

    使用新的基准测试实现了对大规模语言模型在不确定性量化和归一化技术方面的评估，旨在解决其在文本生成任务中的不安全性和低质量输出等挑战。

    Jun, 2024

  • 神经网络不确定性估计在分类问题中的质量比较

    对深度学习的 UQ 方法进行了质量评估，比较了不同模型的不确定性估计质量。

    Aug, 2023

  • 预训练神经网络的认知不确定性量化

    我们的研究旨在为任何预训练模型量化认识上的不确定性，不需要原始训练数据或模型修改，可以确保广泛适用于任何网络架构或训练技术；我们提出了一种基于梯度的方法来评估认识上的不确定性，通过分析输出相对于模型参数的梯度，从而指示必要的模型调整以准确地表示输入。

    Apr, 2024