Feb, 2024

用于高效普适形态控制的形态条件化超网络蒸馏

PDF
TL;DR通过 HyperDistill 方法，我们能够在不同机器人形态之间学习一种通用策略，从而显著提高学习效率，并且实现对未见过形态的机器人的零 - shot 泛化，同时保持了与 transformers 相似的性能和与 multi-layer perceptrons 相似的高效性。
发现论文，激发创造
  • 通过上下文调节实现通用形态控制

    该论文提出了一种分层架构，通过上下文调节来更好地模拟机器人控制策略对其形态上下文的依赖关系，其中包括两个关键子模块：（1）使用超网络生成依赖形态的控制参数；（2）提出了一种形态依赖性的注意机制来调节机器人不同肢体之间的交互。实验结果表明，该方法不仅改善了各种训练机器人的学习性能，还以零样本方式更好地推广到未见过的形态。

    Feb, 2023

  • 迈向多形态具有差异性和知识蒸馏的控制器

    通过使用 Quality Diversity 算法构建多个单任务 / 单形态的教师控制器的数据集，然后通过监督学习将这些多样化控制器提炼成一个能够在多种不同机体中表现良好的单一多形态控制器，本文提出了一种解决学习单一控制器控制多种形态的挑战的流程。这种提炼控制器的方法在教师控制器的知识展现方面是独立的，使得我们能够将教师的知识提炼到任何控制模型中，使我们的方法与架构改进和现有的教师控制器训练算法具有协同效应。

    Apr, 2024

  • MetaMorph: 用 Transformers 学习通用控制器

    本文提出了一种名为 MetaMorph 的 Transformer 方法，用于学习模块化机器人设计空间中的通用控制器，通过大规模预训练在各种机器人形态上实现组合泛化能力，并证明了可以将预训练策略用于高效的样本转移。

    Mar, 2022

  • 通过统一表示和行为蒸馏实现形态任务泛化的系统

    通过建立形态 - 任务图，基于 Transformer 架构，以及用大规模行为数据来训练策略，本文研究了探索一种学习单个策略来解决不同任务和代理人形态的方法，以期实现在连续控制领域的广泛泛化。

    Nov, 2022

  • 分层解耦模仿用于形态转移

    通过将策略分解为独立学习的底层策略和可转移的高层策略，以简化形态的机器人为源，提出了一种层次化的策略转移方法，通过激励底层策略的学习，从而大幅提高了零样本高层策略的可转移性。同时，采用 KL 正则化训练高层策略会稳定学习并防止模式崩溃，进一步在一系列公共环境中验证了该方法的适用性。

    Mar, 2020

  • 用廉价卷积进行蒸馏

    提出了一种通过结构模型蒸馏实现神经网络内存降低的方法，使用注意力转移，并提供了残差网络的 Pareto 曲线和表格，证明这种蒸馏方法在极少损失准确率的情况下能够显著节省内存并提升学生网络性能。

    Nov, 2017

  • AnyMorph: 通过推断智能体形态学学习可迁移策略

    提出了一种基于数据驱动的方法，学习了一种直接表示动物形态的表示法，即使没有先前动物形态的描述信息，也可以训练出泛化到新动物形态的策略，实现了对新动物形态的零样本学习。

    Jun, 2022

  • 小数据场景中高效自然语言理解的生成 - 蒸馏方法

    通过 generation-distillation 训练方法，利用大型 fine-tuned 语言模型生成无标签训练数据，通过知识蒸馏技术将这些数据的知识转移给小型网络，从而缩小了预先训练 LM 和小型特定任务模型之间的性能差距，实现了使用更少的参数（仅为 BERT 的 300 倍）达到与 BERT 可比的性能。

    Jan, 2020

  • 序列标注的编码器 - 解码器 Transformer 蒸馏

    本文提出了一个无幻觉的框架，以序列标记为例，该框架非常适用于蒸馏，追求计算效率的蒸馏方法有望从这些大模型获得的知识中获益，并在多个序列标记数据集上展现了新的卓越表现，证明了这个框架在少量数据学习场景下进行大模型蒸馏的有用性。

    Feb, 2023

  • 拾獲的鬣狗：将 Transformer 精简为长卷积模型

    介绍一种使用知识蒸馏进行架构间转移的方法，通过将注意力头替换为 Hyena，提供一种高效且经济的大规模语言模型预训练方法，既能处理长篇文本又能提高推理速度和准确性，以在 AI 领域追求可持续发展。

    Jan, 2024