本文提出了一种改进的双层模型，该模型利用自动差分算法优化了双层模型的公式，并在数据超级清理和超级表示学习等两个任务中进行了理论和实验评估，结果显示新模型的性能优于当前双层模型。
Sep, 2020
本文提出了一种新型 MTL 模型，通过交替极小化算法解决任务关系结构和任务参数的联合估计问题，应用于回归和分类问题，结合灰色图模型结构学习得出任务关系结构。在温度预测等多个数据集中，该模型展现出了显著的表现优势。
Sep, 2014
本篇研究提出 Differentiating through Bilevel Optimization Programming (BiGrad) 模型，旨在将 Bi-level Programming 加入到神经网络中，通过类别估计算法以降低计算复杂度并支持对于连续变量的处理。实验结果表明，该模型成功地将传统单层方法扩展到了 Bi-level Programming
Feb, 2023
双层优化是指将下层能量函数的最优解作为上层感兴趣的目标的输入特征。本文说明了一系列图学习技术可以被重新解释为双层优化的特殊情况或简化形式，并提出了更灵活的能量函数类，形成图神经网络的消息传递层。此外，本文探索了与非图神经网络图学习方法的密切联系，并通过实证结果展示了所提出的双层优化方法的多样性。
Mar, 2024
本研究提出了一种适用于生物医学领域、intrinsically interpretable 的神经网络框架，采用局部稀疏网络和 gating 网络实现对样本的 sample-specific sparsity 预测，减少了对小样本数据的过拟合，提高了模型的可解释性，并证明了该模型在生物预测任务中的优越性。
Jun, 2021
基于双层规划的元学习方法，将表示层作为共享超参数，在少数样本情况下实现了较好的结果。
Jun, 2018
多任务学习中使用高阶张量表示任务间的结构关系，并通过线性组合共享因子、特定因子来模拟任务关联，提出通用的基于低秩的多任务学习方法，证实了该方法在多任务学习中的有效性和优越性。
Aug, 2023
为了提高大脑计算机接口（BCI）中神经数据解释和用户意图分类的效率，本研究引入了稀疏多任务学习框架，用于运动想象和运动执行任务，通过采用基于显著性的稀疏化方法来剪枝多余的连接并增强两个任务中具有高重要性的连接，以揭示与每个任务相关的不同和共同的神经组合，并使用原则性稀疏化技术消除多余连接并提高神经信号解码的准确性，结果表明这种定制稀疏性可以减轻过拟合问题，改善少量数据的测试性能，为计算效率高且稳健的 BCI 系统提供了可行的发展方向。
Dec, 2023
通过稀疏引导技术，SparseCBM 提供了对大型语言模型的全面解释，包括输入、子网络和概念级别，同时引入可解释的推断时间干预维度，在模型部署期间实现动态调整，通过实证评估证明 SparseCBM 在解释和改善模型不准确性方面具有深刻的理解能力。
本文提出了一种新的优化框架，用于学习准确且精简的两级布尔规则，通过线性规划松弛，块坐标下降和交替最小化等高效算法来更新优化函数，以实现准确性和可解释性之间的平衡。实验表明，我们的方法在准确性和可解释性之间提供了很好的权衡。
Jun, 2016