Jun, 2024

表征对齐支持有效的机器教学

PDF
TL;DR一个优秀的教师不仅需要知识渊博，还需要以学生理解的方式进行沟通，与学生分享对世界的认知。本研究结合了机器教学和实用交流的观点，对表征对齐与教师能力促进学生学习的关系进行了量化，设计了一个区分表征对齐与教师准确性的监督学习环境，通过计算实验与机器教机和机器教人的一系列实验，发现与学生实现更好的表征对齐可以提高其学习效果，进而设计了一个课堂配对程序，根据这一效用曲线将学生分配给教师。因此，设计高效的机器教师不仅要准确无误，还需与学生实现表征上的对齐。
发现论文，激发创造
  • 与人类表征的对齐支持强大的少样本学习

    通过信息理论分析和计算机视觉模型的实验，我们发现 AI 系统的世界表示与人类的相似度呈现 U 形关系，并表明高度相似的模型在少量数据、对抗攻击和领域转换方面更具鲁棒性和泛化能力，表明人类对齐通常是模型充分利用有限数据、鲁棒性和良好泛化的足够但不必要的条件。

    Jan, 2023

  • 代表性对齐的达成

    生物和人工信息处理系统形成世界的表示，以用于分类、推理、规划、导航和决策。研究这些不同系统形成的表示在多大程度上一致？不同的表示是否仍然可以导致相同的行为？系统如何修改其表示以更好地匹配另一个系统的表示？研究表示对齐的这些问题是当代认知科学、神经科学和机器学习最活跃的研究领域之一。为了改善不同领域之间的沟通，我们提出了一个统一的框架，可以作为研究表示对齐的研究人员之间的共同语言。我们从认知科学、神经科学和机器学习领域的文献中进行综述，并展示了以前的工作如何适应这个框架。最后，我们提出了在表示对齐方面的开放问题，进展可以使这三个领域受益。我们希望我们的工作能够促进跨学科合作，加速所有研究和开发信息处理系统的社区的进步。请注意，这是一篇工作论文，欢迎读者提出他们对未来修订的建议。

    Oct, 2023

  • 机器人和人类表示的对齐

    本文调查了当前大部分奖励和模仿学习方法的机器人任务表示与人类任务表示不匹配的问题，并主张应该将机器人学习任务的表示与人类对齐，以及从定义问题的数学角度出发研究机器人物理表示学习。

    Feb, 2023

  • 机器语言模型中对齐和有用性之间的权衡

    语言模型对齐是 AI 安全的重要组成部分，通过增强期望行为和抑制非期望行为，使人类和语言模型之间进行安全交互。在这篇论文中，我们研究了对齐增加和模型有用性减少之间的权衡，并提出了一个理论框架，以在实证上证明其相关性。我们发现，当表示工程向量的范数线性增加时，模型的对齐线性增加，而模型的有用性则呈二次减少，这表明表示工程的使用是有效的。我们通过实验证实了我们的发现，并勾勒出表示工程在对齐中的有用性边界。

    Jan, 2024

  • 学习人类化的表示以实现学习人类价值

    构建与人类价值和目标相一致的 AI 系统，防止造成伤害或违反社会可接受行为的标准是一个重要课题，本研究通过研究伦理学作为价值一方面并训练多个 ML 代理，研究其与人类的代表性一致程度与学习最具道德行为的性能之间的关系。

    Dec, 2023

  • 人机互动和人人机互动中词汇对齐与可教导机器人的比较

    通过基于数据驱动的共享表达概念的对齐度量，比较了一对一的人机互动和协作的人机人互动，发现与可教授机器人的语言对齐在一对一的人机互动场景中比协作的人机人互动场景中更为突出，同时文中还指出了语言对齐和人际关系之间的关系更加复杂。

    Sep, 2022

  • 教学的学习

    本文介绍一种名为 “学习教学” 的方法，它利用两个智能代理相互交互：一个学生模型和一个教师模型。教师模型利用学生模型的反馈来优化自己的教学策略，以达到教师和学生的共同进化，并在各种机器学习任务下通过使用深度神经网络等模型来展示这一方法的实用价值。

    May, 2018

  • 将机器人的表示与人类对齐

    研究了如何将在一个环境中学到的知识传递到另一个环境中的关键问题，并通过学习人类期望机器人执行哪些任务的中间表示方法，来提高机器人学习效率，从而为人类与机器人的互动打下基础。

    May, 2022

  • 机器教学：构建机器学习系统的新范式

    本文探讨了机器教学的范式转变，并提出将与机器学习算法有关的知识与教学过程进行脱耦，以加速创新和赋能数百万新的机器学习模型应用。

    Jul, 2017

  • 实用 - 教育价值取向对齐

    智能系统与人的目标保持一致是价值对齐问题，我们提出一种基于多智能体决策理论和人类认知数学模型相结合的协作逆强化学习解决方案，该方案是价值对齐的首个基于经验证的认知模型的形式分析。

    Jul, 2017