Jun, 2018

人类和机器在物理建设中的关系归纳偏倚

PDF
TL;DR本研究探讨当下深度学习系统在处理物体分类、语言处理及游戏上表现出色，但却不能构建或修改建筑块等复杂系统，我们认为这是由于这些系统缺乏 “关系归纳偏置”，即一种可以推理物体间关系并根据场景结构作出决策的能力。本文研究了涉及胶合引起的稳定的建塔任务，通过引入一个使用物体及关系中心的视觉与策略表达方式的深度强化学习代理来验证该假设。结果表明，这些结构化的表达方式允许代理赢过人类及其他机器学习方法，这表明关系归纳偏置对于解决结构化推理问题及构建更智能、灵活的机器是重要组成部分。
deep reinforcement learningstructured representationrelational inductive biasobject relationstower building task
发现论文，激发创造
  • 神经架构归纳偏差对于关系任务的影响

    本研究探讨了在深度学习中通过将关系和感觉信息分隔，以及引入归纳偏差来改善系统的推理性能，并提出了基于相似性分数的简单架构 -- Compositional Relational Network (CoRelNet), 增强了模型的鲁棒性，提高了关系计算的分布外泛化能力。

    Jun, 2022

  • 关系归纳偏置、深度学习和图网络

    本文提出结构化表示法和计算方法是实现人工智能与人类智能相似的能力的关键，通过使用深度学习体系结构内的关系感应偏差，介绍一种新的人工智能工具箱构建模块 -- 图形网络，它支持关系推理和组合推广，为推理提供更复杂、可解释和灵活的模式。

    Jun, 2018

  • 基于关系强化学习实现实用的多物体操作

    本文介绍了使用基于图形的关系结构从简单的任务中学习并实现复杂的机器人操作任务，使用了强化学习方法并在喂入少量数据的情况下超越现有的最先进方法，同时也实现了零样本泛化。

    Dec, 2019

  • 关联预测：面向强化学习任务无关的知识表示

    通过引入归纳偏置和语义模块，将观察空间分解为对象，并以语义表征和动态知识进一步分解，提高了模型的解释性和泛化性，且实验表明，知识分离的明确程度与学习速度、准确性和解释性相关。

    Dec, 2022

  • 神经网络中的维度抽象的关系归纳偏好

    研究关系瓶颈对因式表示学习和处理灵活性的影响，并证明该瓶颈不仅改善了泛化和学习效率，而且与人类行为偏差相一致，从而促进了抽象表示的产生，使处理灵活性类似于符号。

    Feb, 2024

  • 深度学习方法的句法归纳偏置

    我们在本文中介绍了两种归纳偏差方法，分别针对语法结构和依赖关系，实现了深度学习模型的归纳偏差，并通过这些方法建立了深度学习模型的潜在分层表示，使模型能够处理复杂的序列结构并在语言处理任务中取得了优秀的效果。

    Jun, 2022

  • 在文本引导的图像生成中测试关系理解

    本研究使用了 15 种基本物质和社会关系对最近的文本引导图像生成模型 DALL-E2 进行了系统的经验性考察，发现只有大约 22％的图像与基本关系提示匹配。研究结果表明，当前的图像生成模型尚未掌握涉及简单对象和代理人的基本关系，本文从认知和计算两个角度，提出可能的改进方向。

    Jul, 2022

  • 物理建设的结构代理

    本文介绍的一系列具有挑战性的物理结构任务，探究了在这些任务上如何采用一系列深度强化学习代理的处理方式，并引入了多种新方法以提高性能。结果表明，使用结构化表示和结构化策略的代理比使用较少结构的代理表现更好，并且更具有推广性。同时本文还表明，将结构化表示和推理与强大的学习相结合的方法是实现丰富的直观物理、场景理解和规划代理的关键路径。

    Apr, 2019

  • 深度学习高层认知的归纳偏好

    本文提出了一个假设，认为人类和动物的智能可以由少数原则解释，这些原则可以帮助我们建立灵活、具有系统化泛化能力的人工智能系统，从而弥补当前机器学习与人类智能之间巨大的差距，并提供 AI 研究和神经科学理论的灵感来源。

    Nov, 2020

  • 将常识推理和知识获取结合，为机器人的深度学习提供指导

    该论文提出了一种基于认知系统的深度网络模型，以探索深度网络模型内部表示和推理机制的知识表示、推理和学习挑战，并通过使用空间关系的接地和递增式的学习，以及基于非单调逻辑推理和基础常识域知识的决策，实现对场景中物品遮挡和稳定性的推理，通过识别与任务相关的图像区域训练深度网络模型来提高决策的可靠性和减少相关的训练工作量。

    Jan, 2022