BriefGPT.xyz
Ask
alpha
关键词
bottleneck
搜索结果 - 6
通过嵌入逼近实现概念学习以加强可解释性与透明度
通过嵌入逼近进行概念学习的概念瓶颈模型(CBM)框架,用于构建图像分类的 CBM,优化决策过程,提供更全面的解释能力,并通过实验证明其在各类基准中的的最新性能。
PDF
23 days ago
ICML
生成文档检索的瓶颈最小化索引
利用信息论的视角重新思考生成式文档检索(GDR)问题,我们使用神经自回归模型将查询与索引进行匹配,通过应用香农的速率失真理论,我们分析索引的最优性并提出了一种最小瓶颈索引方法,在 NQ320K 和 MARCO 数据集上验证了该方法的优越性。
PDF
2 months ago
EMNLP
具有瓶颈的递归神经网络诊断(非)合成性
本研究使用递归神经网络模型和限制信息传递的瓶颈机制,通过比较有无瓶颈情况下模型对数据的表示,提出了一种衡量复合性的度量标准,并基于此标准实现了一个数据集的复合性排序,应用于算术表达式合成数据和情感分类自然语言数据。
PDF
a year ago
AAAI
高效保留模型准确性的自动神经网络剪枝
本文提出一种自动修剪方法来减少神经网络中的 FLOPs,该方法通过引入可训练瓶颈来学习哪些神经元需要被保留以保持模型准确性,实验证明,该方法可以在保持模型准确性的前提下显著减少模型的 FLOPs。
PDF
3 years ago
ICLR
图神经网络的瓶颈及其实际应用
该研究指出图神经网络(GNN)在信息传播方面存在瓶颈问题,即信息在传输过程中容易被强行压缩而丢失长距离交互信息,而吸收入边的 GNNs 如 GCN 和 GIN 更容易发生这种情况,进一步反映当前模型优化中存在的问题。
PDF
4 years ago
信息瓶颈方法
该研究提出了一种在信号处理和学习中使用的方法,通过压缩信号 $x$ 来提取其对另一个信号 $y$ 的最大信息,使用一组有限的编码词 $tX$ 来限制信息流,并使用 Blahut-Arimoto 算法求解编码规则。
PDF
24 years ago
Prev
Next