model uncertainty | BriefGPT

关键词model uncertainty

搜索结果 - 81

大型语言模型中的凸包分析不确定性量化
该研究提出了一种新颖的几何方法来评估大语言模型（LLM）的不确定性，利用凸包分析来度量模型输出的离散度和可变性，该方法通过将回答转化为高维嵌入，并使用主成分分析（PCA）将其投影到二维空间。实验结果表明，LLMs 模型的不确定性取决于提示的
PDF6 days ago
ICML超越规范：检测回归模型中的预测误差
该研究论文讨论了检测回归算法中的不可靠行为的挑战，首先正式介绍了回归中的不可靠性概念，然后利用概率建模工具估计误差密度并测量其统计差异性，从而得出表达回归结果不确定性的数据驱动评分。实验证明在多个回归任务中，该方法在错误检测方面的性能显著优
PDF23 days ago
基于大语言模型的概率图模型的语言表达
本文介绍了一种新颖的贝叶斯提示方法，通过使用一个语言大模型（LLMs）中的一个模糊概率图模型（PGM）来实现无需训练的贝叶斯推理。我们的模型在多个组合推理任务中取得了良好的效果，有效提升了置信度的引发和文本生成质量，显示出在模拟不确定性方面
PDFa month ago
关于 LLMs 的内在自我修正能力：不确定性和潜在概念
通过使用适当的指示，大型语言模型可以利用内在的自我纠正能力，从而提高其回答的准确性和性能，这在大规模自然语言生成中具有潜在的扩展性。同时，通过分析模型不确定性和激活的潜在概念，可以更好地理解和指导自我纠正行为。此原理还可以推广到视觉语言模型
PDFa month ago
基于不确定性指导下的变分自编码器精细调优强化生成分子设计
通过性能反馈在主动学习环境中，我们提出了一种预先训练的变分自动编码器 (VAE) 基因设计模型的模型不确定性引导微调的新方法，通过量化生成模型中的模型不确定性，扩展了有效分子的空间，并利用多样性解码器探索生成优化的多个高性能模型，实验结果表
PDFa month ago
量化分布漂移和不确定性，提升机器学习应用的模型鲁棒性
使用合成数据和统计度量来评估分布变化和模型不确定性，为实现机器学习应用在现实世界中的成功部署提供了重要方法和见解。
PDF2 months ago
模型不匹配下的受限增强学习
在训练环境下，现有的关于约束强化学习（RL）的研究可能可以获得良好的策略。然而，在真实环境中部署时，由于训练与真实环境之间可能存在模型不匹配，它可能很容易违反最初满足的约束。为了解决上述挑战，我们将问题形式化为模型不确定性下的约束强化学习，
PDF2 months ago
深度学习时代的可扩展贝叶斯推断：从高斯过程到深度神经网络
本论文介绍了一种将大型神经网络装备上模型的不确定性的方法，并应用了这个方法在 ResNet-50 和深度图像先验网络上进行了实验。
PDF2 months ago
分布鲁棒策略与李雅普诺夫证明学习
论文介绍了一种新颖的方法，用于在模型不确定性下合成分布鲁棒的稳定神经控制器和控制系统的证书。通过采用一种新颖的分布鲁棒的 Lyapunov 导数机会约束公式，确保 Lyapunov 证书的单调减少，解决了不确定系统稳定性保证控制器设计中的关
PDF3 months ago
利用先验领域知识在采样过程中主动学习动力学
我们提出了一种主动学习算法，通过将先验领域知识明确纳入采样过程，利用副信息来学习动态。通过数值实验，我们证明了该策略探索了高差异区域，加速了学习过程同时降低了模型不确定性。我们还通过提供最大预测方差的收敛速度的明确速率，严格证明了我们的主动
PDF3 months ago
进化优化和贝叶斯优化中的模型不确定性：一项比较分析
这篇论文介绍了黑盒优化问题以及贝叶斯优化和替代辅助进化算法两种优化技术的使用方法和差异，还介绍了一种新的基于模型辅助的策略，通过利用未评估的解产生后代，并结合进化算法的群体搜索能力来提高模型辅助优化的效果。实验结果表明，该方法在准确性和效率
PDF3 months ago
用于极端降尺度气候数据的生成对抗模型
使用基于生成对抗网络 (GANs) 的有条件 GAN 的 geospatial downscaling 方法，从低分辨率输入中生成高分辨率准确的气候数据集，并明确考虑了下尺度过程中的不确定性。
PDF4 months ago
熵正则化的基于点的价值迭代
模型基于策划者在部分可观测问题中必须适应策划过程中的模型和目标不确定性。受无模型设置的结果启发，我们提出了一种熵正则化的模型基于策划者来解决部分可观测问题。通过鼓励策略在规划和目标推理中不过度承诺单一行动，熵正则化提升了策略的鲁棒性和目标推
PDF5 months ago
ACL在适当时候提出正确问题：人类和模型不确定性对于提问澄清问题的指导
通过团队对话任务为实验平台，研究模型不确定性与人类不确定性之间的关系，提出了一种基于模型不确定性估计的生成澄清问题的方法，并与其他几种方法进行对比，显示出在任务成功方面有显著的改进。
PDF5 months ago
提升伪标记和改善半监督领域泛化的鲁棒性
我们提出了一种新的半监督领域泛化方法，利用模型平均的不确定性引导伪标签技术，在有限标签的情况下缓解对源领域的过拟合，并在关键代表性领域泛化数据集上证明了其有效性。
PDF5 months ago
通过多阶段不确定性感知推断维护用户信任
描述和评估了一种多阶段的 AI 部署方法，通过各个阶段采用更准确的推理方法，但是每个阶段的参与都会增加成本。在阐述该架构时，我们提出了一种量化模型不确定性的方法，以便于自信地推迟决策。该架构目前正在印度数千名棉农中进行积极部署，而更广泛的思
PDF6 months ago
AAAI模型不确定性下的稳健主动测量
在序列决策中，部分可观测性和不确定性是常见问题，对于使用马尔可夫决策过程（MDPs）等形式模型造成阻碍。然而，在实践中，代理可以使用昂贵的传感器来测量环境并通过收集信息来解决部分可观测性问题。此外，不精确的转移函数可以捕捉模型不确定性。我们
PDF7 months ago
自主引导你的方差
Bootstrap Your Own Variance (BYOV) 结合 Bootstrap Your Own Latent (BYOL) 和 Bayes by Backprop (BBB) 方法，提供了关于模型不确定性的先验证据，改善了
PDF7 months ago
患者生存模型的个性化不确定性量化框架：在缺乏准确性的情况下估计转移性脑瘤患者的个体不确定性
开发一种新颖的不确定性量化（UQ）框架，用于在缺乏实际数据的情况下估计患者生存模型的不确定性。通过基于 1383 名脑转移患者的数据集开发和评估我们的方法，我们的研究假设是推理过程中给定测试患者的事件发生时间更加确定，当其在训练集中与其他患
PDF7 months ago
通过鲁棒不变集的分解学习预测性安全过滤器
提出了一个理论框架，通过捕捉非线性系统中的状态和动作相关的不确定性，综合应用稳健模型预测控制（RMPC）和强化学习（RL），以合成非线性系统的安全过滤器，其计算复杂度较低且具有持久的鲁棒安全保证。
PDF8 months ago