ICMLMay, 2023

超大规模机器学习的关系运算自动微分

PDF
TL;DR研究关系数据模型如何区分计算，证明了基于自动差分算法的关系引擎能够轻松处理大规模数据集，并且在大规模分布式机器学习领域与最新专用系统相竞争。
relational data modelcomputationsauto-differentiationlarge-scale datasetsdistributed machine learning
发现论文，激发创造
  • 关系深度学习：关系数据库上的图表示学习

    关系数据库中的数据存储方式使得使用机器学习模型变得具有挑战性和耗时，通过引入关系深度学习（RDL）方法，我们可以直接学习跨多个表格布置的数据，而无需进行手动特征工程。关系深度学习通过自动学习图引导，从而提取利用所有输入数据的表示，从而构建更准确的模型且速度更快。

    Dec, 2023

  • 知识图谱的关系机器学习综述

    本文介绍了关系机器学习中如何统计建模大型知识图谱，以预测世界中新的事实，包括潜在特征模型和图中可观察模式互补的统计关系建模方法，以及与文本信息抽取相结合，自动构建知识图谱的实践。

    Mar, 2015

  • 在关系型数据库中为深度学习模型提供服务

    为满足商业和科学领域对关系数据中深度学习模型的需求，本论文系统地探索了代表性架构，并强调了 DL-centric、UDF-centric 和 relation-centric 三种关键范式及其之间的整合需求和潜力，提出了建立新型数据库系统以支持大规模数据密集型深度学习应用的路径。

    Oct, 2023

  • 鸭子的大脑：现代数据库引擎中的神经网络训练和推断

    通过将数据转换为 SQL 中的关系表示形式来训练神经网络，本文展示了如何克服关系模型的障碍，并通过运行时和内存消耗的评估证明了现代数据库系统在矩阵代数方面的适用性。

    Dec, 2023

  • AutoSmart：面向时间关系数据的高效自动化机器学习框架

    本篇论文提出了一种名为 AutoSmart 的自动机器学习框架，解决了针对时间关联数据的数据挖掘以及模型优化所需的高成本问题，并在 KDD Cup 2019 中获得胜利。

    Sep, 2021

  • 抬升的关系变分推断

    本文提出了一种高效的关系变分推断算法，用于将大规模概率混合物模型转化成简单的变分模型，以提高推理效率，并通过使用隐变量消去或抽样方式计算变分模型上的边缘概率。

    Oct, 2012

  • 自动表格：无需使用示例合成多步转换以在关系化表格中进行

    Auto-Tables 系统使用多步转换（使用 Python 或其他语言）自动合成数据流水线，将非关系型表转化为标准关系形式，以满足下游分析的需求，无需用户手动编写转换程序。

    Jul, 2023

  • 关系数据的神经网络

    该研究针对深度神经网络在社交网络分析等结构化领域表现不佳的问题，提出了一种新方法，即基于关系随机游走的特征和参数共享的关系神经网络。实验证明，该方法在多个标准关系数据集上的表现优于多种神经网络和统计关系模型。

    Aug, 2019

  • 神经架构归纳偏差对于关系任务的影响

    本研究探讨了在深度学习中通过将关系和感觉信息分隔，以及引入归纳偏差来改善系统的推理性能，并提出了基于相似性分数的简单架构 -- Compositional Relational Network (CoRelNet), 增强了模型的鲁棒性，提高了关系计算的分布外泛化能力。

    Jun, 2022

  • 将差分隐私合成数据应用于关系数据库的适应性

    本研究提出了一种首次相结合现有差分隐私机制生成综合性关系型数据库的算法，通过迭代优化各个合成表之间的关系，最小化其低阶边缘分布的近似误差，并保持参照完整性。最终，我们对该算法提供了差分隐私和理论效用保证。

    May, 2024