本文提出了一种将算法组件集成到端到端可训练的神经网络体系结构中的方法，通过条件语句、循环和索引来松弛离散条件，获得连续可微的算法。结果表明，所提出的连续松弛模型可以应用于多种任务。

Oct, 2021

论文介绍了面向深度学习的高层中间表示 (IR) 的设计，以求平衡编译效率，表达能力和可移植性，该 IR 被内嵌在开源 NNVM 编译器框架中，为 Amazon 的深度学习框架 MxNet 提供支持。

Sep, 2018

介绍了一种称为 “dynamic batching” 的技术，它可以通过组合块来简化动态图形模型的创建，并支持各种不同类型的输入图形的批处理实现。

Feb, 2017

本文介绍了一种支持动态控制流的分布式机器学习编程模型，并在 TensorFlow 中进行了实现和评估。通过使用数据流图来表示机器学习模型，该模型支持将条件语句的分支和循环体分配到多台设备上运行，从而提高了性能和可扩展性。

May, 2018

本文研究如何最佳地放松逻辑表达式，以便将符号知识纳入到神经网络中，重点是利用亚微分的 t - 范数放松逻辑表达式。通过理论和实证研究，我们为表征在不同情况下哪种松弛方式表现最佳提供了理论和实证标准，并针对在保留重言式方面，Lukasiewicz t - 范数表现最佳的观点进行了理论研究，但在对文本分块和数字识别任务的实证分析中，产品 t - 范数实现了最佳预测性能。最后，我们总结了利用逻辑定义损失函数的最佳实践。

Jul, 2021

此研究提出了一种基于全局和局部线性松弛的可扩展启发式方法，用于对训练后的神经网络模型进行建模和求解，具有与最先进的整数线性规划（MILP）求解器和之前的启发式方法相竞争，并且在输入、深度和神经元数量增加时能够产生更好的解。

Jan, 2024

神经符号背景知识和其逻辑的表达性可以打破机器学习对于数据独立性和相同分布性的假设。在这篇论文中，我们提议分析适合不同用例要求的层次逻辑中的 IID 放松。我们讨论了利用已知数据依赖性和分布约束条件在神经符号用例中的好处，并认为这种知识所需的表达性对底层机器学习例程的设计具有影响。这开启了一个新的研究议程，涉及神经符号背景知识和其逻辑所需的一般问题。

Apr, 2024

该论文介绍了 TensorIR 编译器抽象，用于优化具有张量计算原语的程序，通过 TensorIR 编译可以自动化优化深度学习模型，实验结果表明 TensorIR 编译使用特定的硬件后端的张量计算原语，并在各平台上提供了与手动优化系统相当的性能竞争力。

Jul, 2022

该论文介绍了一个基于深度学习工作负载的张量程序优化学习框架，其通过学习领域特定的统计成本模型来引导张量操作实现的搜索，进而加速搜索，实现性能与手动调整的图书馆竞争力相当。

May, 2018

介绍了 TensorFlow、Chainer、CNTK、Torch/PyTorch、Caffe1/2、MXNet 和 Theano 等深度学习神经网络的竞争框架，并提出了一种名为 Tensor Comprehensions 的类数学语言，以及一个将深度学习 DAG 的数学描述转换为 CUDA 核心的即时编译器。

Feb, 2018