通过认知神经网络进行语言模型微调

Nov, 2022

通过认知神经网络进行语言模型微调

Fine-Tuning Language Models via Epistemic Neural Networks

Ian Osband, Seyed Mohammad Asghari, Benjamin Van Roy, Nat McAleese, John Aslanides...

TL;DR本文提出在大规模语言模型上加入 epinet 网络架构以取得 epistemic neural network (ENN) 优化的结果，使用该方法在 GLUE 任务中，不仅可以达到和 BERT 相同的性能表现，还能使用少两倍的数据。同时，该方法在神经网络生成模型中也表现良好，优于启发式主动学习方法。

Abstract

large language models are now part of a powerful new paradigm in machine learning. These models learn a wide range of capabilities from training on large unsupervised text corpora. In many applications, these cap

large language models unsupervised text corpora epistemic neural network bert active learning

发现论文，激发创造

认知神经网络

本文介绍了一种能够辅助任何传统神经网络，包括大型预训练模型，能够用较少的计算量来预测不确定性的架构 ——epinet。使用 epinet，传统神经网络在预测标签上的表现优于包含数百个或更多粒子的非常大的许多集合，而且使用的计算资源和数据也大大降低了。

Jul, 2021

利用认知神经网络减少 LLM 幻觉

通过使用预训练模型的潜在嵌入，我们提供了一种减少幻觉的方法。

Dec, 2023

适应性学习的快速神经网络集成的认识建模不确定性

在航空航天工程系统的高效设计探索中，使用嵌入仿真器的神经网络，并充分利用多样化数据源对多个模型实现进行训练，以评估由于训练样本不足而引起的认知建模不确定性，并在目标导向的自适应学习中提供关键信息。然而，由于集成模型的训练成本往往变得禁止并带来计算上的挑战，所以本研究提出使用快速神经网络范例的新型嵌入仿真器的神经网络，通过应用线性回归技术仅调整最后一层的连接权重，以在几乎即时训练的情况下保持预测准确性。该方法在多个分析实例和通用高超声速飞行器的航空参数研究中得到了验证。

Sep, 2023

EINNs：流行病学信息引导的神经网络

我们介绍了 EINNs，这是一个基于机械模型提供的理论基础和人工智能模型提供的数据驱动的表达能力，以及摄入异构信息的能力，用于流行病预测的框架。通过物理 - 信息神经网络的工作来学习潜在的流行病动态并将相关知识转移给另一个神经网络，这个网络摄入多个数据源，并具有更适当的归纳偏差。我们的全面实验表明，与其他非平凡的选择相比，在 COVID-19 和流感预测的所有美国州和 HHS 地区都展示了我们方法的明显优势。

Feb, 2022

Grad-Instructor：元学习和自动机器学习的可解释性评估神经网络的通用反向传播

使用强化学习训练的评估神经网络（ENN）作为反向传播中的附加评估函数，提高深度神经网络训练的方法，通过对 0.15^2 倍分辨率的输入数据进行处理，ENN 实现有效的推理，结果表明，使用该方法训练的 MLPs 的平均测试准确率达到了 93.02%，比仅使用传统反向传播或 L1 正则化训练的模型高出 2.8%，而且测试准确率与 He 初始化网络相当，缩小了测试误差和训练误差之间的差距，并且无需增加训练轮数，避免过拟合风险，还能根据训练阶段动态调整梯度大小，降低了寻找最佳训练方法所需的时间，论文还使用 Grad-CAM 对 ENN 的可解释性进行了分析，展示了它们可视化评估基数的能力，并支持了强大的抽奖票假设。

Jun, 2024

基于神经网络的语音增强中融入不确定性

该研究通过在神经网络的语音信号增强过程中，将 aleatoric 和 epistemic 不确定性模型化，提出了一种模型不确定性建模的框架，并在不同数据集上验证了该方法的有效性。

May, 2023

异构分布式物联网环境下适应性推理的高效后训练增强

我们提出了一种自动增强流程，将现有模型转换为 EENN，并为异构或分布式硬件目标执行所有必需的设计决策。我们的方法在物联网和标准图像分类用例中都能有效降低推理成本，并大大减少 EENNs 的搜索成本，提高了神经网络在各种实际应用中的效率。

Mar, 2024

大型语言模型的进化子网络训练

基于大规模语言模型参数冗余的启发，我们提出了一种新的训练范式：进化子网络训练（EST），并将其应用于训练 GPT2 和 TinyLlama 模型，从而实现了 26.7％的 FLOPs 节省以及在下游任务中的性能提升，从而减少了训练成本并提高了泛化性能。

Jun, 2024

多维不确定性感知证据神经网络

本文提出了一种新型的基于 WGAN 的 evidential neural network (WENN)，通过在模型训练中进行多维不确定性建模，增强了 OOD 检测的性能，从而在绝大多数数据集上优于对手模型。

Dec, 2020

关于语言编码器的手术微调

为适应新任务，研究发现只对神经语言编码器的部分层进行微调就足以获得接近甚至更好的性能，提出一种基于 Fisher 信息矩阵对候选层进行选择的高效度量指标，并通过在不同语言编码器和任务上的实验证明该指标能够有效选择层以获得强大的下游性能。

Oct, 2023