Aug, 2023

统一图像修复的分解归因协同学习

PDF
TL;DR学习如何在单个模型中恢复多个图像退化是实际应用中非常有益的；因此，本文通过奇异值分解重新审视多样的图像退化，并提出了一种基于奇异向量和奇异值优化的协同学习方法 —— 分解归因协同学习（DASL），以实现各种图像恢复任务之间的潜在关系的利用。通过将 DASL 轻松整合到现有的卷积图像恢复骨干中，我们的方法在融合了五个图像恢复任务的广泛实验中表现出了有效性。
image restorationsingular value decompositionsynergistic learningoptimizationconvolutional image restoration
发现论文，激发创造
  • 分解器：图像修复和图像分解的半监督学习

    我们提出了一种名为 Decomposer 的半监督重建模型，它将失真的图像序列分解为它们的基本构建块 - 原始图像和应用的增强，例如阴影、光线和遮挡。

    Nov, 2023

  • TriLoRA：在文本到图像生成中集成 SVD 的高级风格个性化

    综合奇异值分解（Singular Value Decomposition）与低秩适应（Low-Rank Adaptation）参数更新策略，提高图像生成模型的微调效率和输出质量，改善模型的泛化能力和创造性灵活性，同时在受限资源条件下保持良好性能。

    May, 2024

  • 使用奇异值分解的深度强化学习表示与探索

    该研究论文介绍了一个基于奇异值分解的方法，用于在领域中保留基础转换结构的表示，从而提供伪计数的估计，在多任务中展示了结果，并解决了部分可观测的环境下的难以探索的任务。

    May, 2023

  • ASVD：用于压缩大型语言模型的激活感知奇异值分解

    这篇论文研究了一种新的后期无训练压缩范式，用于在各种计算环境中更广泛地采用压缩大型语言模型（LLMs）。我们探讨了 LLM 压缩的挑战，特别是它们对广泛的训练数据和计算资源的依赖。我们提出了一种称为激活感知奇异值分解（ASVD）的无训练方法来解决这些限制。ASVD 通过根据激活分布调整权重矩阵来有效管理激活异常值，提高分解的准确性和效率。我们的方法还解决了不同 LLM 层对分解的不同敏感性问题，通过迭代校准过程实现最佳的层特定分解。实验证明，ASVD 能够在不损失推理能力的情况下压缩网络 10%-20%。此外，它可以与其他 LLM 压缩范式无缝集成，展示了它的灵活兼容性。代码和压缩模型可以在此网址找到。

    Dec, 2023

  • 卷积权重的奇异值分解：一种 CNN 可解释性框架

    本文提出一种基于张量的奇异值分解的方法，用于理解卷积层的动态过程和发现卷积特征之间的相关性，以及在图像分类网络中应用超图模型进行可解释性研究。

    Aug, 2022

  • 高阶张量的多尺度分析

    介绍了一种基于混合线性建模和子空间聚类技术的自适应、多尺度张量分解方法，旨在降低大型和多模态数据的维度和表示复杂度。该方法在多个真实张量信号的维数约简和分类问题中表现良好。

    Apr, 2017

  • 模型鲁棒性的奇异值视角

    本文研究探讨卷积神经网络在人工智能领域的应用，并且探讨该类网络存在的问题和局限性，提出使用奇异值分解方法可以分析卷积神经网络中涉及到的非人类因素，从而对其产生作用的原因展开研究。同时提出了一种新的特征分配方法，建立了卷积神经网络的理论框架。

    Dec, 2020

  • 让老照片重焕生机

    使用深度学习方法，借助真实旧照片和大量合成照片对，提出一种新的三元域翻译网络，可以恢复多种损坏类型的旧照片。与现有方法相比，在视觉质量方面，所提出的方法表现更好。

    Apr, 2020

  • 使用奇异值分解的自监督知识蒸馏

    本文提出了一种使用奇异值分解来改善知识转移的新方法，将 T-DNN 的知识传递给 S-DNN 以提高计算效率，并通过自我监督的方式实现知识转移，模拟结果表明，在与 T-DNN 相同的计算成本下，我们的 S-DNN 比最先进的蒸馏技术驱动的 S-DNN 性能高出 1.79 个百分点，并且在分类准确性方面可比 T-DNN 好 1.1 个百分点。

    Jul, 2018

  • 基于深度学习和矩阵分解的隐私保护医学图像分类

    使用奇异值分解（SVD）和主成分分析（PCA）对医学图像进行混淆处理，从而保护数据隐私并在深度学习分析中提取相关信息。通过模拟基于人工智能重建攻击评估安全性，并使用相似性指数定量测量隐私程度。虽然隐私和准确性之间应权衡，但提供的技术允许仅使用受保护的数据训练血管造影图像分类器，并获得令人满意的性能，而不会带来计算负担、模型适应或超参数调整。尽管混淆的医学图像内容能很好地抵护人类感知，但假设的重建攻击证明也难以恢复原始帧的完整信息。

    Aug, 2023