CVPRApr, 2021

DANICE：神经图像压缩中的无遗忘域自适应

PDF
TL;DR本文研究了使用深度学习模型从数据中学习编码能力的神经网络图像压缩（NIC）的可适应性，提出了一种避免遗忘原始编码能力和维持先前编码比特流兼容性的新框架 Codec Adaptation without Forgetting（CAwF），并展示了其在实验中的有效性和关于 NIC 中灾难性干扰特性的有用见解。
neural image compressioncoding paradigmdeep modelscodec adaptation without forgettingcatastrophic interference
发现论文，激发创造
  • 基于损失梯度高斯宽度的泛化和优化保证

    通过 Loss Gradient Gaussian Width (LGGW) 的复杂度度量，我们提出一种直接基于 LGGW 的泛化保证方法，在梯度支配条件下实现，其在深度模型中进行实证研究并证明其有效性。同时，我们展示了有限和优化的样本重用并不会导致经验梯度偏离总体梯度，只要 LGGW 较小。这些基于 LGGW 的优化和泛化保证是首次提出的，避免了基于预测器 Rademacher 复杂性的分析缺陷，并对深度模型的定量界限提供了重要前景。

    Jun, 2024

  • 重审，扩展和增强无 Hessian 函数的影响

    借助第一阶泰勒展开，影响函数可以估计样本对模型的影响力，无需进行昂贵的模型重新训练；本文通过探索矩阵分解等方法加快和近似海森矩阵的求逆过程，将影响函数应用于深度模型，并提出了一种称为 TracIn 的简单逼近方法，该方法通过将海森矩阵的逆替换为单位矩阵，不仅性能良好，还将应用拓展到模型公平性和鲁棒性领域，并通过集成策略改进了 TracIn 的效果；通过在合成数据上进行实验以及深入评估噪声标签检测、大型语言模型微调的样本选择和对抗攻击防御等方面验证了其有效性。

    May, 2024

  • AdaAugment：一种无需调优的自适应数据增强方法

    AdaAugment 是一种无需调参的创新自适应增强方法，利用强化学习根据目标网络的实时反馈动态调整个别训练样本的增强程度，通过优化策略网络和目标网络的联合来有效适应增强程度，从而在效果和效率上一致性地优于其他最先进的数据增强方法。

    May, 2024

  • 远程视觉多任务推理的压缩特征选择

    深度模型中的特征压缩与远程推理任务之间的关联性，通过互信息作为特征重要性度量，进行硬选择和软选择实验并与其他方法进行比较，提供多目标分析来深入研究。

    May, 2024

  • 神经图形纹理压缩支持随机访问

    通过将传统 GPU 纹理表示和神经图像压缩技术相结合，我们提出了一种新的纹理集压缩方法，该方法利用卷积编码器捕捉细节信息并采用完全连接网络进行解码，实现了对多通道纹理集的随机访问和支持多分辨率重建。实验结果表明，与传统纹理压缩方法和最新的神经网络方法相比，这种方法获得了更好的结果。

    May, 2024

  • 异常梯度分析：通过无 Hessian 影响函数高效提升深度学习模型性能

    在数据中心学习的经典情境下，通过分析和解决模型上的凸性假设和计算逆 Hessian 矩阵的计算成本的限制，建立了通过影响函数和异常梯度检测来识别有害训练样本的等价转换，从而扩展了影响函数的适用性，使其能够应用于非凸深度模型，并通过系统性实证评估验证了这一方法在不同任务中的有效性。

    May, 2024

  • 通过调整并对变化进行惩罚来减少预训练模型中的偏差

    基于改变惩罚的方法来减轻模型中的隐性偏见，需要很少的对立示例并结合提前停止准则以增加性能。

    Apr, 2024

  • 可压缩且可搜索：学习图像压缩的 AI 原生多模态检索系统

    我们提出了一个融合 AI-native 多模式搜索与神经图像压缩的框架，通过使用简单的适配器来提高多模式数据的压缩效率和搜索准确性，实验证明了我们的方法在数字内容、多媒体数据和大数据时代具有可伸缩性和高效性。

    Apr, 2024

  • 通过压缩样本增量学习对新食物进行分类

    食物图像分类系统在通过基于图像的膳食评估技术进行健康监测和饮食跟踪中起到了至关重要的作用。我们的工作探索了使用神经图像压缩来扩展缓冲区大小和增强数据多样性的概念，以此应对持续演变的数据，并在食品特定数据集和一般数据集上的广泛实验中展示了分类准确性方面的提高，这对于推进更具实用性的食物识别系统具有重要意义，同时可适用于其他领域的持续机器学习系统。

    Apr, 2024

  • 隐秘护照：一种无需重新训练的深度模型知识产权保护的所有者和用户可验证凭证

    确保深度模型的合法使用对于推动可信、可问责和负责任的人工智能创新至关重要。我们提出了隐写护照方法，通过在护照中隐藏用户的身份图像，并从各自的用户端护照中恢复，将使用许可与所有权验证分离开来。该方法支持深度模型的灵活许可，提供强有力的所有权证明和许可责任，而无需为每个新用户的准入重新训练模型。实验结果表明，我们的隐写护照在对抗各种已知攻击方面优于其他基于护照的深度模型保护方法。

    Apr, 2024