MMJun, 2023

潜变量能量模型介绍：通向自主机器智能之路

PDF
TL;DR现有自动化系统存在重要限制需解决，Yann LeCun 提出未来自主智能系统的架构，结合基于能量的和潜变量模型的优势，形成分层联合嵌入预测架构（H-JEPA），以实现自动驾驶汽车、家庭机器人等复杂任务的全面解决方案。
automated systemsartificial intelligenceself-driving carsdomestic robotshierarchical joint embedding predictive architecture
发现论文，激发创造
  • 认知启示的能量基世界模型

    通过训练基于能量的世界模型，我们引入了一种能够模拟人类认知的方法，其通过预测上下文和未来状态的兼容性来解决传统的自回归模型的局限性，并展示了在计算机视觉和自然语言处理中的潜在应用。

    Jun, 2024

  • 基于能量的神经符号推理知识图谱模型

    本研究提出了一种基于能量的图嵌入算法来描述工业自动化系统，学习多个领域的知识，从而可以进行上下文感知预测和评估异常严重性，该模型可以应用于机器学习和神经形态计算等领域。

    Oct, 2021

  • 文本生成的深度潜在变量模型

    使用深度潜变量模型进行文本生成可以提高标准编码器 - 解码器模型的效果，同时保持深度神经网络的表达能力。

    Mar, 2022

  • 隐式潜变量模型用于场景一致运动预测

    本研究针对自主车辆安全规划的需求，提出基于图神经网络的场景一致性运动预测模型，并取得在运动预测和交互理解方面的最新进展，证明其对实现更安全、更舒适的运动规划具有显著意义。

    Jul, 2020

  • 变分自编码器和潜在能量模型的联合训练

    本文提出一种联合训练方法，从而学习变分自动编码器（VAE）和潜在基于能量模型（EBM）。该联合训练方法基于一个客观函数，其中包括三个关于潜空间和图像的共同分布的 Kulback-Leibler 分歧，从而无缝集成多样化和对抗性学习。实验表明，这种联合训练极大地提高了 VAE 的综合质量，也使得学习能够检测异常的能量函数成为可能。

    Jun, 2020

  • EPAM：移动 AI 的预测能耗模型

    本研究介绍了针对不同 DNN 模型和处理源的移动 AI 应用的全面研究，重点关注计算资源利用率、延迟和能量消耗。通过广泛的实验，我们测量了所有模型的延迟、能量消耗和内存使用情况，并提出了一种基于 DNN 结构、计算资源和处理器的高斯过程回归预测能量模型。此研究为 AI 研究社区提供了关键事实和能量预测机制，以帮助移动 AI 应用程序实现能源效率。

    Mar, 2023

  • 自然语言深度潜变量模型教程

    通过变分推断的视角深入探讨了深度潜变量模型的局限性，洞察了深度参数化条件概率的困难性以及潜变量目标在反向传播中的不可微性问题。

    Dec, 2018

  • 自主学习者之路

    本文提出了一种新的理论方法，通过智能系统实现领域知识获取。我们介绍了一种混合模型，通过一个知识图谱数据库存储和推理最小输入知识，并通过逻辑神经网络学习新信息。我们研究了该系统处理新数据的行为，并展示最终系统能够丰富当前的知识并将其扩展到新领域。

    Nov, 2022

  • 终身学习系统的潜在特性

    介绍了一种算法无关的可解释的替代建模方法，以评估终身学习算法的潜在特性，并通过对合成数据的实验验证了该方法的有效性。

    Jul, 2022

  • 通往法律自治的道路：利用大型语言模型、专家系统和贝叶斯网络进行可互操作和可解释的法律信息提取、转换、加载和计算的方法

    通过使用大型语言模型（LLM）、专家法律系统（即法律决策路径）和贝叶斯网络的方法，本文概述了一种应用于自主汽车方面的方法的原理证明，该方法旨在通过对 AI 代理控制设备的代理软件中编码现有规则，实现人工智能代理理解法律并与之推理的能力。

    Mar, 2024