该论文提出了一种具有共享信息的通用可解释性预测系统，该系统能够在不同的多任务设置中进行预测，其中各个任务不一定具有相同的输入 / 输出结构。通过在一个共同的空间中获取输入和输出变量的嵌入，通过参考一组共享的嵌入来生成输入嵌入，这些嵌入在任务之间被重复使用。所有的嵌入都被视为模型参数并进行学习。论文通过对共享嵌入空间和注意机制的稀疏性进行具体的限制。实验证明，引入共享嵌入并不会损害从基本变量嵌入方法中得到的结果。进一步进行了一系列的剔除分析。在注意机制中引入稀疏性既提高了准确性，又显著减少了所需的训练步骤的数量。共享嵌入在定性评估和将特定共享嵌入映射到预定义概念方面提供了可解释性的度量，而这些概念不是针对所考虑的模型设计的。准确性和可解释性之间存在一种权衡。基本的共享嵌入方法注重可解释性，而稀疏注意方法则提倡准确性。研究结果表明，可将变量嵌入方法扩展为共享信息方法，以提供更高的可解释性和准确性。

May, 2024

本文介绍了视觉信息嵌入词语（VIEW）的概念，通过在深度神经模型中使用微软 COCO 数据集来预测视觉对象之间的空间关系，为多模态背景知识到空间角色标记（SpRL）算法的转移做出了贡献。VIEW 应用于空间角色标记中，提出了一种选择互补特征和改善 MLP 分类 F1 度量的微调方法。VIEW 在 SemEval-2013 的 Task 3 数据集中得到了评估。

Mar, 2016

地理空间活动与土地利用类型之间存在相关性。提出一种新颖的自监督方法，基于运动活动时间序列对景观进行分层。时间序列信号首先转换到频域，然后通过压缩自编码器转换为与任务无关的时间嵌入，该方法保留了时间序列中观察到的循环时间模式。通过深度语义分割，将像素级嵌入转换为类似图像的通道，可用于基于任务的异模态建模和下游地理空间任务的建模。实验证明，时间嵌入是时间序列数据的语义有意义的表示方法，并且在不同的任务中如分类住宅区和商业区等有着良好的效果。时间嵌入将时空运动轨迹数据转换为语义有意义的类似图像的张量表示，可以与其他数据模态（如 RBG 图像、道路网络的图嵌入、被动采集的 SAR 图像等）相结合进行多模态学习，从而促进地理空间计算机视觉中的多模态学习。多模态计算机视觉对于训练地理空间特征检测的机器学习模型以保持地理空间映射服务实时更新是至关重要的，可以显著提高用户体验和用户安全。

Oct, 2023

通过在深度学习模型设计中应用动态系统的领域知识，本研究提出了一种名为 “时空观察者” 的深度学习架构，用于高维数据的预测学习，并提供了广义误差界和收敛保证，通过引入动态正则化使模型能够更好地学习系统动态性。实验结果显示，该框架可以在一步预测和多步预测的情况下捕捉时空动力学并进行准确预测。

Feb, 2024

本文提供了多视角特征学习的分析，显示隐藏变量编码变换通过在多个图像扭曲之间共享的特征空间中检测旋转角度，我们的分析有助于解释最近的实验结果，表明在视频上训练复杂的细胞模型时，特定于变换的特征会出现，同时还表明在学习变换表示的副产品之一是归一化特征。

Jun, 2012

通过自我监督学习方法，将地理空间活动时间序列转化成任务无关的时间嵌入表示，然后使用深度语义分割，将这些嵌入转换成用于下游任务的基于图像通道的表示，实现对住宅区和商业区等不同类型用地的分类。

Apr, 2023

本文提出了一种新型的基于模型的强化学习方法，利用生成模型和时序模型进行环境建模以达到优化智能体表现的目的，该模型可用于部分观察到的 2D 和 3D 环境中进行跨时间点的预测。

Apr, 2018

该论文测试了一种新的模型，可以通过对象之间的本地交互来建模场景，而不是全局建模，从而在泛化到以前未遇到过的组合空间的物理任务时提供巨大的益处。论文提出了一种名为 OP3 的实体为中心的感知、预测和规划的方法，使用它可以预测和规划具有不同数量和配置的对象的模型，没有监督的学习构建实体表示。OP3 通过对每个实体表示的对称处理来强制执行实体抽象，这使得它能够扩展到训练中没有观察到的不同数量和配置的对象上。该方法的主要技术挑战在于将这些实体表示地面化到环境中的实际对象，该论文将该变量绑定问题视为推理问题，并开发了一种交互式推理算法，该算法使用时间连续性和交互式反馈将关于对象属性的信息绑定到实体变量上。在堆叠积木任务中，OP3 泛化到新的积木配置和比训练时观察到的对象更多的对象，表现优于假设具有对象监督能力的 oracle 模型，比不表现实体抽象的最先进视频预测模型的准确率高两到三倍。

Oct, 2019

基于机器学习的数据驱动方法在流体力学中提出了一种新的解决方案，通过通过在连续的空间和时间域中进行预测和插值来解决传统方法中的固定支持计算和预测的缺点。

Jan, 2024

本文提出了一个信息论框架，以学习固定维度的嵌入，用于强化学习任务。通过使用多样的智能体群集来衡量任务的相似性，本文描述了信息理论标准的直觉，该直觉是基于观察智能体在一个任务上的表现降低我们对其在另一项任务中表现的不确定性。在两个应用场景中，通过定量比较与强基线的效果，我们在预测智能体在测试任务上的表现以及从给定选项集中选择具有所需特性的任务方面展示了我们技术的有效性.

Jun, 2023