- EFCNet:对小型医学物体分割,每个特征都至关重要
本文研究了在具有临床价值的非常小的医疗对象的分割问题。我们发现,卷积神经网络(CNNs)和最近的 Transformer 在图像分割方面取得了重大进展,但在分割本文中涉及的小型医疗对象和病变方面表现不佳。为了应对这一挑战,我们提出了一种名为 - ReLU 层的可逆性:基于框架理论的视角
本文基于框架理论视角,研究了 ReLU 层的可插入性行为,并提出了两种数值逼近方法以确定给定权重和数据域的最大偏差,从而揭示了 ReLU 层中信息丢失的新实用方法。最后,基于框架理论的对偶概念,推导出了显式重构公式。
- 揭示黑匣子:用重构熵预测深度神经网络的可训练性
给定神经网络的初始条件,通过在参数空间中重建输入从相邻激活层到单层辅助网络的级联来预测深层前馈神经网络的可训练区域,从而显著降低整体训练时间,并确定信息流动与深度神经网络的可训练性之间的具体联系。
- COLINGSignBLEU:多通道手语翻译的自动评估
该研究介绍了一种名为多信道手语翻译 (MCSLT) 的新任务,并提出了一种用于捕捉多种信号通道的新度量标准 SignBLEU。通过在三个手语文本语料库上验证 SignBLEU,并通过两个部分级任务考察其与人类判断的相关性,研究发现 Sign - 基于 Transformer 的多元化图像补全与信息丢失降低
基于 Transformer 的图像修复方法存在信息丢失问题,为解决这个问题,我们提出了 PUT 框架,利用自编码器和非量化 Transformer 来保留图像信息并增加多样性。
- 重新思考医学图像分割中的信息损失与各种尺寸的目标
本文介绍了一种新型的 Stagger Network(SNet),通过设计合理的融合结构来减少 CNNs 和 ViTs 之间潜在特征分布的差异,从而降低信息损失。实验证明,该网络在不同尺寸目标分割上优于最近的 SOTAs,并且表现出卓越的 - ICLRNoiseDiffusion: 利用扩散模型进行图像内插的噪声补偿 —— 超越球面线性内插
通过引入微小的高斯噪声并增加约束条件,NoiseDiffusion 方法能够改善无效噪声导致的图像插值问题,从而实现在噪声空间进行插值并解决信息丢失挑战,使得自然图像得以有效插值而不引入伪影或信息丢失,从而获得最佳插值结果。
- AAAI揭示欺诈行为:深度伪造检测中的更多伪造线索揭示
通过提取多个非重叠的局部表征并将它们融合成全局的语义丰富特征,凭借信息瓶颈理论派生局部信息损失,保证局部表征的正交性同时保留全面的任务相关信息,通过互信息的理论分析得到全局信息损失,最终达到融合局部表征并且去除任务无关信息的目的,实证结果在 - 多国检索器:密集检索表示分析
压缩源文件并以(可能会有损失的)矢量表示的密集检索器将所保存的信息与丢失的信息相比,并分析其对下游任务的影响。通过在带有 25 个随机初始化的 MultiBERT 检查点上训练的 MultiContrievers,我们对密集检索器捕获的信息 - 信息损失问答:文本简化中的信息损失特征和恢复
文本简化旨在使技术文本对普通读者更易理解,但常常导致信息缺失和模糊。本研究提出了 InfoLossQA 框架,以问答对的形式描述和恢复由于简化而导致的信息缺失,并基于 Question Under Discussion 理论设计问答对,以帮 - 基于超图增强的双卷积网络的绑定推荐
本文提出了一种称为超图增强的双卷积神经网络模型(HED)的捆绑推荐方法,通过构建一个完整的超图来捕捉用户、物品和捆绑之间的交互动态,并整合 U-B 交互信息以增强用户和捆绑嵌入向量的信息表示,实验证明 HED 在 Youshu 和 Nete - AAAI三值尖峰:学习脉冲神经网络的三值尖峰
通过理论和实验证明,二进制尖峰激活图无法携带足够的信息,导致精度下降;为了解决这个问题,提出了一种三值尖峰神经元来传输信息,该神经元能够提高信息容量;通过在该神经元中嵌入可训练因子,使得深层 SNN 的尖峰幅度适应不同的膜电位分布;通过重新 - 知識蒸餾中的遺失
深度神经网络通过知识蒸馏的模型压缩技术能够有效地在大型和小型模型之间实现信息转移,本研究通过实验探究了蒸馏过程对于信息损失的影响,并提出了一种优化配置方法。
- EMNLP理解语言模型中输入令牌字符的作用:信息损失如何影响性能?
通过预训练语言模型使用个别单词标记的少数字符子集,我们发现即使在极端情况下,即每个标记仅使用一个字符进行预训练,与全标记模型相比,在标准 NLU 基准测试和探测任务中,性能保持较高水平,例如,仅使用标记的单个首字符进行预训练的模型,在 Su - 高效异构图学习通过随机投影
我们提出了一种名为 RpHGNN 的混合预计算型异构图神经网络,它将一种风格的效率与另一种风格的低信息损失相结合,通过引入随机投影压缩步骤和关系化邻居收集组件,在七个小型和大型基准数据集上获得了最先进的结果,并比大多数有效的基准方法快 23 - ICCVRMP-Loss: 正则化脉冲神经网络的膜电位分布
我们提出了一种调节与量化误差密切相关的分布范围接近于脉冲的正则化膜电位损失 (RMP-Loss) 的方法,该方法非常简单易于实现和训练 SNN,并且在不同网络架构和数据集上始终表现优于以往的最先进方法。
- PV-SSD:基于投影和体素的双分支单阶段三维目标检测器
该论文介绍了一种基于体元和投影双分支特征提取的 3D 目标检测器,以解决信息丢失的问题。通过融合具有丰富局部语义信息的体元特征和投影特征,该方法在特征提取阶段减少了由投影引起的局部信息丢失,并在比较实验中取得了良好的性能。
- 图神经网络的通用 f - 均值聚合
本文介绍了一种广义的聚合算子 GenAgg,以代替现有的标准聚合算子,并且在各种任务中取得了显著的性能提升。
- 适用于视觉丰富的文档图像的表格检测
本研究提出了一种基于分离 IoU 的桌子检测方法,使用 SparseR-CNN 作为基础模型,并使用高斯噪声增强的图像大小区域建议和多对一的标签分配来进一步改进该模型,实验结果表明这种方法在多种数据集和 IoU 度量的情况下始终优于现有方法 - 重新思考编码器 - 解码器网络中的跳跃连接用于单目深度估计
提出了一种基于全连接跳跃连接网络(FSCN)和自适应连接模块(ACM)的单目深度估计任务的深度学习模型,通过连接深度编码器与解码器的不同分辨率特征,利用深度编码器中浅层特征图的信息进行更准确的深度估计,并在 KITTI 数据集和 NYU D