ensemble | BriefGPT - AI 论文速递

关键词ensemble

搜索结果 - 181

注重解释的软集成增强大型语言模型的上下文学习
Large language models have the ability to quickly adapt to target tasks without gradient updates by using an Explanation
PDF8 months ago
基于 Transformer 的集成模型对 AI 生成的文本进行检测
本论文介绍了我们团队 “SynthDetectives” 在 ALTA 2023 共享任务中的提交情况。我们采用了一种堆叠 Transformer 模型的方法来实现 AI 生成文本的检测任务。我们的方法在模型选择上是新颖的，因为我们使用了易
PDF8 months ago
对深度模型中的偏差和方差重新审视：一种对齐而非权衡的模式
机器学习的经典智慧认为泛化误差可以从偏差和方差两个方面进行分解，并且这两个术语之间存在一种权衡关系。然而，在本文中，我们展示了对于由深度学习为基础的分类模型集合，偏差和方差在样本级别上是一致的，其中对于正确分类的样本点，平方偏差近似等于方差
PDF9 months ago
如何（不）为 VQA 集成 LVLMs
这篇论文研究了大规模视觉 - 语言模型（LVLMs）时代的集成方法。在近期的百科问答研究中，作者们从不同类型的模型中选择了多种模型来解决任务：从基本的 LVLMs，到包含图注作为额外上下文的模型，再到借助镜头检索维基百科页面的模型。这些模型
PDF9 months ago
EDMP：预算引导扩散的运动规划集成
我们提出了 EDMP，即基于代价引导的扩散运动规划集合，旨在结合经典规划与基于深度学习的运动规划的优势，通过在多样的有效运动轨迹集合上进行训练的扩散网络，计算特定场景的代价，如 “碰撞代价”，并引导扩散生成满足场景约束条件的有效轨迹，同时使
PDF9 months ago
Gpachov 在 CheckThat！2023 中的新闻文章主观性检测的多元多途径集成
社交网络的广泛使用导致互联网上存在主观、误导甚至虚假信息。因此，主观性检测可以在确保信息的客观性和质量方面发挥重要作用。本文介绍了 Gpachov 团队在 CLEF-2023 CheckThat！实验室任务 2 中构建的解决方案，该解决方案
PDF10 months ago
集成线性插值器：集成的作用
插值器不稳定，论文研究了集合稳定如何改善插值器的泛化性能，Bagging 作为一种随机化集合方法能够并行实现，通过引入基于乘法自助法的 Bagged 最小二乘估计器，对最小二乘估计器求平均，得到该方法。该文进一步探讨了 Sketching
PDF10 months ago
ICCV构建一支强大的团队：使用次模传递可计估方法选择源模型集合
提出了一种用于评估模型集合对下游任务的可转移性的新方法 OSBORN，能够综合考虑图像领域差异、任务差异和模型集合的内聚性，相较于现有指标 MS-LEEP 和 E-LEEP，该方法在图像分类和语义分割任务中表现出更好的性能。
PDF10 months ago
人工智能中的不确定性：对离群样本图像评估深度神经网络
该研究以深度神经网络模型为对象，研究了其在处理异常情况（如分布外或扰动数据）时的不确定性。研究通过实验证明，使用预训练模型进行分类对于异常图像表现良好，基于概率平均的集成模型能够进一步提高分类性能，而添加扰动会显著影响模型的鲁棒性，表明了人
PDF10 months ago
婴儿骆驼：从小数据集上训练的教师集合中进行知识蒸馏，无性能惩罚
我们提出了一种解决 BabyLM 挑战的方法，目标是提高语言模型的样本效率。我们在一个有发展潜力的 BabyLM 数据集上训练了一个由 GPT-2 和小型 LLaMA 模型组成的集成模型，然后将其蒸馏成一个小型的 58M 参数 LLaMA
PDFa year ago
T-Fusion Net：基于多个局部化的空间注意力机制增强的新型深度神经网络用于 Covid-19 检测
基于多个本地化的空间注意力机制的新深度神经网络 (T-Fusion Net) 及其组合模型在 Covid-19 (SARS-CoV-2 CT 扫描) 数据集上表现出比其他最先进的方法更好的性能，分别达到 97.59% 和 98.4% 的准确
PDFa year ago
图神经架构搜索中的分子性质预测不确定性量化
AutoGNNUQ 是一种自动化不确定性量化方法，通过生成一组高性能的图神经网络（GNNs）进行分子属性预测，实现对预测的不确定性的估计，并利用方差分解来提供减少不确定性的有价值见解。在多个基准数据集上的计算实验证明，AutoGNNUQ 在
PDFa year ago
单目深度估计的不确定度度量与建模
通过引入额外的训练规范项，我们的模型不需要额外的模块或多重推论，可以提供具有最先进可靠性的不确定性估计，并且与组合或抽样方法相结合时可以进一步改进。
PDFa year ago
交叉特征选择消除虚假交互作用和单特征占主导地位的可解释提升机
通过使用替代交叉功能选择、集成功能和模型配置技术等新方法，改进了可解释性较强的 EBM 模型，以提高其可靠性和解释性，并在三个基准数据集上进行了验证。
PDFa year ago
用奖励重新加权、重新选择和重新训练提升原型部分网络
通过人类反馈加强训练的模型 (R3-ProtoPNet) 提高解释性，同时保持可理解性，适用于多模型集成提高预测性能。
PDFa year ago
ICML探索新的方法：强调表征差异性以学习新特征并减少误差一致性
利用表征相似性领域的方法，提出了一种新颖的想法，在训练期间推动中间表示在不同架构之间的深度上不同，以学习具有不同故障模式的鲁棒集成模型。结果表明，高度不相似的中间表示导致较低的相关性输出预测及稍微降低的错误一致性，并提高了集成模型的准确性。
PDFa year ago
HypeRS: 基于超图的集成推荐系统
本文提出了一种崭新的集成推荐系统，将由不同模型生成的预测结果合并到统一的超图排名框架中，通过在个体推荐系统上分配不同的超边权重来区分实际连接和预测连接，实验结果表明，与单个模型和加权混合方法相比，集成超图排名方法能够生成更准确的推荐结果，并
PDFa year ago
超越深度集成 —— 基于分布转移评估贝叶斯深度学习的大规模研究
通过对大量卷积和变压器模型的评估，从分布偏移的角度研究了 Bayesian 深度学习算法的泛化能力和校准能力，发现单模后验逼近被集成的方式能够显著提高模型的泛化能力和校准性，而在海量预训练模型上微调时，基于变分推理的方法表现最优，现代的近似
PDFa year ago
基于季节分解的电力中期负荷预测错误校正模型
本文提出了一种基于误差校正的电力负荷中期预测模型（ECLF），该模型通过时间序列分析、特征工程和堆叠集成等方法，将原始负荷数据分解为三个组件进行单独预测，并在极限梯度提升算法的第二步预测中利用预测结果作为新特征，实现了更加准确和稳定的预测效
PDFa year ago
多样性投影集合的分布式强化学习
本研究探讨了如何通过集合及多样性实现可靠的不确定性估计和深度探索，即通过几个不同的分布投影和表现形式的集合所组成的 “分布整体学习”（distributional ensemble）来实现优秀的性能。
PDFa year ago