本文旨在通过恢复底层的低维潜在状态及其时间演化来改进动力系统的泛化能力和解释能力。我们提出了一种基于变分自编码器的实用算法,并在逼真的合成环境中进行了实证研究,证明我们能够高准确性地恢复潜在状态动力学,相应地实现高未来预测准确性,并且能够快速适应新环境。
Jun, 2024
通过表征多元张量输入和张量输出的等变多项式函数,本文描述了不变函数。我们将注意力集中在关于正交群对张量的对角作用的等变函数上,并展示了如何将这种表征推广到包括洛伦兹群和辛群在内的其他线性代数群。我们的目标是定义等变机器学习模型,特别是关注稀疏向量估计问题。我们的实验结果表明,所提出的等变机器学习模型可以学习背景中表现优于已知的最佳理论方法的谱方法。实验还表明,学习到的谱方法可以在尚未进行理论分析的设置中解决该问题。这是理论可以告知机器学习模型并且机器学习模型可以告知理论的一个有前途的方向示例。
在形态丰富的语种中,通过一种新的 “翻转管道” 方法,直接在整个单词单元上进行专家分类器的决策,再综合其预测,从而在希伯来语词性标注和依存句法分析上取得了新的技术水平,并在其他希伯来语自然语言处理任务上接近最新技术水平。
Mar, 2024
通过提供一种基于格点的表示,能够同时解决词法分割和句法分析任务的联合神经体系结构,在希伯来语等具有高度复杂性和模棱两可性的多词类语言上取得了最先进的性能。
Feb, 2024
神经积分方程是基于积分方程理论的深度学习模型,该模型由积分算子和相应的方程(第二类)组成,通过优化过程学习。本文介绍了一种基于谱方法的神经积分方程框架,可以在谱域中学习运算符,从而降低计算成本,并具有高插值精度。我们研究了该方法的性质,并展示了关于模型逼近能力和数值方法收敛性的各种理论保证。我们提供了数值实验,以证明所得模型的实际有效性。
Dec, 2023
应用机器学习从大规模时间序列数据中提取临床见解,解释潜在状态、预测结果,并通过算法识别白天行为模式以预测夜间行为。
Nov, 2023
将显式的形态学知识引入预训练阶段可以改善用于形态学丰富语言的预训练语言模型的性能,并且基于形态学驱动的分词方法相比普通的通用语言分词方法在语义和形态任务的基准测试中显示出了改进的结果,这些发现表明将形态学知识整合进预训练语言模型中具有进一步提高形态学丰富语言性能的潜力。
网络对齐是在不同图形之间建立一对一对应关系的任务,我们提出了一种新颖的广义图自编码器架构,旨在提取强大且鲁棒的节点嵌入,以实现更准确的对齐,并证明生成的嵌入与图的特征值和特征向量相关联,可以与传统谱方法相比实现更准确的对齐。我们的框架还利用迁移学习和数据增强,在无需重新训练的情况下实现了非常大规模的网络对齐。对真实世界图形的广泛实验提供了证据,支持所提方法的有效性和可扩展性。
Oct, 2023
通过行动、潜在状态和测量这些方面的简单模型,我们证明仅仅依靠结果预测很少能够产生采取行动的最佳策略,即使与其他测量相结合。在具体个案中,即使因果机制将个体的潜在状态与结果联系在一起,从潜在状态的预算测量结果推断出适用于个体的多种可能干预行动中的最佳行动仍然是从预测结果获取所需效果的最有效策略。通过针对可行行动和潜在状态的了解,与结果预测相比,可显著提高行动效用,改善程度取决于行动成本和结果模型。这一分析强调在干预环境中超越通用的结果预测,融入对可行行动和潜在状态的知识的必要性。
Sep, 2023
通过黑盒模拟器控制预测,修正模型匹配错误的混合建模新方法。