dynamic inference | BriefGPT

关键词dynamic inference

搜索结果 - 13

ICLR选择高层特征：来自层次分类网络的高效专家
该研究引入了一种新的专家生成方法，它通过将顺序处理通用低级特征与高级特征的并行和嵌套结合起来的新的分层分类网络拓扑结构，实现了动态降低任务和计算复杂度的能力。该方法在资源受限条件下能够选择只有任务相关类别的高级特征，可以显著减少推理成本，对
PDF4 months ago
神经代码补全模型对情况进行尺寸评估：通过动态模型推理实现更便宜和更快的补全
利用动态推理方法优化神经代码补全模型，节约计算资源，减少计算成本，并通过决策机制主动防止生成错误代码。
PDF6 months ago
Med-DANet V2：一种用于高效医学体积分割的灵活动态架构
通过动态推理，针对 3D 医学图像分割的计算效率问题，本文提出了一种基于动态架构的网络框架 Med-DANet，通过动态选择适合不同切片的 2D 候选模型，以取得较好的准确性和效率平衡，并在数据分析、训练成本和模型结构等方面做了进一步的改进
PDF8 months ago
SortedNet：为每个网络提供位置，为每个网络找到合适位置：面向广义解决方案的训练多对一神经网络
深度学习模型大小的增长导致在内存和计算约束下寻找最优模型变得更加重要，该论文提出了 SortedNet，一种利用深度神经网络的内在模块化性质实现高效动态推断的通用可扩展解决方案。我们的训练方法考虑了子模型的嵌套架构和共享参数，并以排序和概率
PDF10 months ago
AAAI利用语言适应性推理进行指代表达理解
本文提出了一种名为语言自适应动态子网（LADS）的框架，可以从 REC 模型中提取依赖于表达式的语言自适应子网。通过使用紧凑的子网，推理可以更加经济高效，实验证明该方法可以在 RefCOCO、RefCOCO +、RefCOCOg 和 Ref
PDFa year ago
贝叶斯学习动态推断
本文研究了动态推断问题下基于贝叶斯学习的最优推断规则，包括离线和在线学习，并讨论了其在机器学习中的应用。
PDF2 years ago
ICML通过边缘 PRUNE 框架实现容错协同推理
本文提出了基于形式化定义的 Edge-PRUNE 分布式计算框架，旨在为容错协作推断提供灵活的基础设施。实验结果显示了通过协作推断实现的可行推断时间节省及其花费。
PDF2 years ago
ACLE-LANG: 基于能量的超级和迅速语言模型联合推理
本文提出了一种名为 E-LANG 的有效的动态推理方法，该方法将推理分布在大型准确的 Super 模型和轻量级 Swift 模型之间，可以适用于黑盒预训练模型，并且适用于编码器 - 解码器结构和序列到序列任务。通过在 GLUE、SuperG
PDF2 years ago
ACLSocAoG: 对话中社交关系推断的增量图解析
该研究提出了一种基于 And-or 图的模型，名为 SocAoG，用于从对话中推断社交关系，包括从语义对话预测属性和关系、基于相关属性更新社交关系以及基于人际社交关系更新个体属性，并在 DialogRE 和 MovieGraph 上进行了实
PDF3 years ago
ICLR通过启用输入自适应推理，同时提高准确性，鲁棒性和效率的三重胜利
本文研究使用具有多个输出的输入自适应高效推理的多出口网络，名为 Robust Dynamic Inference Networks（简称 RDI-Nets）。该方法在平衡模型的准确度、鲁棒性和效率方面表现出强大的潜力，并相对于防御原始模型可
PDF4 years ago
动态推理：一种新的高效视频动作识别方法
本文提出了一种动态推断方法，从网络深度和输入视频帧数的角度来提高推断效率，通过在输入帧和计算图的深度之间建立将预测模块放置在预先选择的检查点上，并按照预定义的路径逐步在网格上进行推断，可在中途进行预测和提前停止。通过实例化三个动态推断框架并
PDF4 years ago
S2DNAS: 通过神经架构搜索将静态 CNN 模型转换为动态推断
本文介绍了一种基于神经架构搜索的方法，通过将各种静态 CNN 模型转化为支持动态推断的多阶段 CNN 模型，以自适应地调整推断过程来降低深度 CNN 的计算成本。
PDF5 years ago
双动态推断：实现更高效、自适应和可控的深度推断
提出一种双重动态推理框架，采用多粒度学习以及资源依赖的动态推理机制，优化计算资源和预测精度之间的权衡，有效降低计算资源消耗，通过实验验证其优越性。
PDF5 years ago