关于深度强化学习中的归纳偏差
提出了 InBiaseD 来提取感知偏倚和为神经网络带来形状意识。 该方法通过偏差对齐目标来强制学习更通用的表示，从而减轻了深度神经网络中的一些缺点，如易受损的数据。 InBiaseD 通过无缝插入现有的对抗训练方案，对改善分类和鲁棒性之间的平衡起到了帮助的作用。
Jun, 2022
通过引入归纳偏置和语义模块，将观察空间分解为对象，并以语义表征和动态知识进一步分解，提高了模型的解释性和泛化性，且实验表明，知识分离的明确程度与学习速度、准确性和解释性相关。
Dec, 2022
本文提出了一个假设，认为人类和动物的智能可以由少数原则解释，这些原则可以帮助我们建立灵活、具有系统化泛化能力的人工智能系统，从而弥补当前机器学习与人类智能之间巨大的差距，并提供 AI 研究和神经科学理论的灵感来源。
Nov, 2020
本文提出一个系统研究深度生成模型的偏差和泛化的框架，并通过认知心理学实验方法探讨其生成新属性和组合的特点与人类心理学的相似之处。作者发现这些模式与常用模型和结构一致。
Nov, 2018
本研究探讨当下深度学习系统在处理物体分类、语言处理及游戏上表现出色，但却不能构建或修改建筑块等复杂系统，我们认为这是由于这些系统缺乏 “关系归纳偏置”，即一种可以推理物体间关系并根据场景结构作出决策的能力。本文研究了涉及胶合引起的稳定的建塔任务，通过引入一个使用物体及关系中心的视觉与策略表达方式的深度强化学习代理来验证该假设。结果表明，这些结构化的表达方式允许代理赢过人类及其他机器学习方法，这表明关系归纳偏置对于解决结构化推理问题及构建更智能、灵活的机器是重要组成部分。
Jun, 2018
我们提出了一种计算归纳偏差的新方法，该方法涉及对来自假设空间的随机假设的损失分布进行建模，以估计相对于这些假设需要的归纳偏差，从而提供了一种信息理论解释特定模型架构对特定任务的好处的度量，并为开发需要更大归纳偏差的任务提供了定量指导，从而鼓励更强大的归纳偏差的发展。
Jun, 2024
为了更高效和准确地解决多维信号处理问题，本文提供了一个基础框架来解释超复深度学习方法成功的原因以及如何充分利用其潜力，并以归纳偏差的理论框架来描述。这一新颖的超复深度学习视角将有助于使这一类方法更为清晰与易懂，并将其作为传统实数深度学习的替代选择推广至多维信号处理。
May, 2024