本文介绍一种基于神经网络的学习算法，用于处理集合到超图的函数问题，即 Set2Graph 函数。在测试中，该算法在粒子物理等领域表现出较优的效果。

Feb, 2020

我们在这篇论文中开发了 SE3Set，这是一个针对高级分子表示学习量身定制的 SE (3) 等变超图神经网络架构。SE3Set 的出色性能突显了其在各种分子结构上的转化潜力，为计算化学提供了一条更准确和物理细致建模的途径。

May, 2024

传统机器学习算法通常基于假设输入数据以向量形式存在，重点关注以向量为中心的范式。然而，随着需要处理基于集合输入的任务的增长，研究界面对这些挑战的关注已发生了范式转变。近年来，像 Deep Sets 和 Transformers 这样的神经网络架构的出现，为处理基于集合的数据提供了重大进展。这些架构专门设计用于自然地处理集合作为输入，从而更有效地表示和处理集合结构。因此，出现了大量致力于探索和利用这些架构在近似集合函数方面的能力的研究努力。这篇综述旨在概述有关近似集合函数的神经网络的多样化问题设置和正在进行的研究工作。通过深入研究这些方法的复杂性并阐明相关挑战，这篇综述旨在使读者全面了解该领域。通过这个全面的视角，我们希望研究人员可以获得关于基于集合神经网络的潜在应用、固有限制和未来发展方向的有价值的见解。事实上，通过这篇综述，我们得出两个观察结果：i) Deep Sets 及其变种可以通过聚合函数的差异进行泛化；ii) Deep Sets 的行为对聚合函数的选择敏感。通过这些观察结果，我们展示了 Deep Sets 这一众所周知的具有置换不变性的神经网络可以在拟合类算术平均意义上进行泛化。

Mar, 2024

通过对多重集模型和消息传递神经网络的分离质量进行分析，我们提出了两个分离质量更高的新型消息传递神经网络，以及在标准图学习任务上与标准消息传递神经网络进行的比较。

Jun, 2024

该论文介绍了一种新颖的图转换和集合编码方法，扩展了图神经网络的设计领域，并通过 Point Set Transformer 和 Deepset-based set encoder 的应用充分验证了该方法的可行性和出色的性能。

May, 2024

本文提出了一种名为 RepSet 的新型神经网络体系结构，通过解决一系列网络流问题来计算输入集与一些隐藏集之间的对应关系。该体系结构可以处理表示为向量集合的示例，并且可以在端到端的梯度优化学习中使用，在文本分类和图分类等任务中取得了优秀的性能。

Apr, 2019

提出了一个基于 Multiset 编码原理的 Graph Multiset Transformer (GMT) 图池化方法，通过多头注意力机制捕捉节点的结构依赖关系，克服了现有图池化方法的局限性，并在各项图形任务上表现出了优越性。

Feb, 2021

研究了使用深度格网网络模型进行变长置换不变的特征向量聚合来预测标签，并添加输入和输出之间的单调性约束以提高可解释性。同时使用所提出的集合函数来从稀疏分类特征中自动化工程密集且可解释的特征，称为语义特征引擎。在实际数据上的实验表明，其准确性类似于深集合或深度神经网络，并且更易于调试和理解。

May, 2018

机器学习在材料发现和设计方面取得了显著进展，而面对材料的组合空间及其灵活配置的挑战，传统机器学习方法难以建模。本文介绍了一种专门针对分子混合物的机器学习模型 MolSets，它利用图神经网络和深度集合架构，在分子级别提取信息并在混合物级别进行聚合，从而处理局部复杂性并保留全局灵活性。我们展示了 MolSets 在预测锂电池电解质导电率和高通量筛选化学组合空间方面的有效性。

Dec, 2023

研究了 Deep Set 学习的核心组成部分：聚合函数；提出并检查了替代常用聚合函数的方法，包括可学习的循环聚合函数，并在实验中发现 Deep Set 网络对聚合函数的选择非常敏感：在改善性能的同时，我们发现可学习的聚合函数可以降低超参数的敏感度，并更好地推广到分布外的输入大小。

Mar, 2019