本文研究探讨卷积神经网络在人工智能领域的应用，并且探讨该类网络存在的问题和局限性，提出使用奇异值分解方法可以分析卷积神经网络中涉及到的非人类因素，从而对其产生作用的原因展开研究。同时提出了一种新的特征分配方法，建立了卷积神经网络的理论框架。

Dec, 2020

综合奇异值分解（Singular Value Decomposition）与低秩适应（Low-Rank Adaptation）参数更新策略，提高图像生成模型的微调效率和输出质量，改善模型的泛化能力和创造性灵活性，同时在受限资源条件下保持良好性能。

May, 2024

使用基于数据驱动的随机变分深度核学习以及递归版本，提出了一种构建 ROMs 的方法，能够对物理资产的复杂动态进行精确描述，并具备去噪、重建、学习紧凑表征系统状态、预测以及量化建模不确定性的能力。

May, 2024

本文分析了 AIGC 技术在黑色和灰色互联网产业的上中下游路径中对 DRM 系统的挑战和机遇，探讨了生成式 AI 技术引发的新黑色和灰色技术，并提出了提高现有风险控制系统的未来方向。

May, 2023

提出了一种基于量子思想的经典算法框架，用于解决接近低秩矩阵问题并快速实现量子算法的经典版本，证明了量子 SVT 框架并不能提供指数级的速度提升，并给出了该框架的多种经典化结果。

Oct, 2019

该论文提出了一种基于 SVDNet 的人物再识别方法，通过优化深度表示学习过程并使用正交约束迭代训练，可以有效降低投影向量之间的相关性，并显著提高 re-ID 准确性。

Mar, 2017

使用层级张量网络方法通过经验分布来逼近高维概率密度，利用随机奇异值分解技术解决张量网络中张量核的线性方程，该算法的复杂性与高维密度的维数成线性关系，通过多项数值实验分析表明了该方法的有效性。

Apr, 2023

该论文提出了一种名为 ProgSG 的方法，结合源代码序列模态和图模态，实现深入和精细的互动，以促进领域特定加速器（DSAs）的自动化设计并解决现有高级综合工具需要进行微体系结构决策的问题。

May, 2023

该研究通过分析神经网络在训练过程中的权重的奇异值分解 (SVD) 来探究神经网络的学习动力学。我们的调查发现，每个多维权重的 SVD 表示中存在一个正交基，在训练过程中保持稳定。基于此，我们介绍了一种新的训练方法，即利用神经网络的内在正交性的 Orthogonality-Informed Adaptive Low-Rank (OIALR) 训练。OIALR 可以无缝地集成到现有的训练工作流中，且准确度损失最小，通过在各种数据集和经典网络架构上进行基准测试也得以证明。通过适当的超参数调整，OIALR 可以超越传统的训练设置，包括最先进的模型。

Jan, 2024

这篇论文研究了一种新的后期无训练压缩范式，用于在各种计算环境中更广泛地采用压缩大型语言模型（LLMs）。我们探讨了 LLM 压缩的挑战，特别是它们对广泛的训练数据和计算资源的依赖。我们提出了一种称为激活感知奇异值分解（ASVD）的无训练方法来解决这些限制。ASVD 通过根据激活分布调整权重矩阵来有效管理激活异常值，提高分解的准确性和效率。我们的方法还解决了不同 LLM 层对分解的不同敏感性问题，通过迭代校准过程实现最佳的层特定分解。实验证明，ASVD 能够在不损失推理能力的情况下压缩网络 10%-20%。此外，它可以与其他 LLM 压缩范式无缝集成，展示了它的灵活兼容性。代码和压缩模型可以在此网址找到。

Dec, 2023