Jan, 2021

tf.data：一个机器学习数据处理框架

PDF
TL;DRtf.data 是一个为构建和执行高效机器学习输入流水线而设计的框架，它提供了各种操作符用于定义计算，已经可以应用于不同的机器学习领域。我们展示了输入流水线的性能对于机器学习模型的训练时间至关重要，tf.data 的特性可以避免手动性能优化，实现高效的输入流水线。我们的分析为将计算与存储结合起来，推送数据处理到存储层提供了未来研究方向。
tf.datainput pipelinesmachine learningperformancedata processing
发现论文，激发创造
  • cedar：可组合和优化的机器学习输入数据流程

    cedar 是一个编程模型和框架，允许用户轻松构建、优化和执行输入数据管道，并在六个不同输入数据管道中与 tf.data、tf.data 服务、Ray Data 和 PyTorch 的 DataLoader 相比，平均获得 2.49 倍、1.87 倍、2.18 倍和 2.74 倍更高的性能。

    Jan, 2024

  • TensorFlow：大规模机器学习系统

    TensorFlow 是一个机器学习系统，使用数据流图表示计算，共享状态以及操作，支持训练和推理深度神经网络等应用，并在多种真实世界应用中取得了出色的性能表现。

    May, 2016

  • 数据管道培训：集成 AutoML 以优化机器学习模型的数据流

    通过整合 AutoML 与数据管道，优化数据流的自动化机器学习方法并构建高效的数据管道以适应不断变化的数据环境，从而在机器学习任务中取得更好的结果。

    Feb, 2024

  • TensorFlow：异构分布式系统上的大规模机器学习

    TensorFlow 是一个机器学习算法接口和执行工具，支持许多异构系统的执行，可应用于包括语音识别、计算机视觉、自然语言处理、获得地理信息和药物开发在内的多个领域，并提供 API 和参考实现的开源包。

    Mar, 2016

  • 深度神经网络的高效端到端训练中理解数据预处理

    本篇论文主要关注于了解公共云中深度神经网络（DNN）训练的数据预处理流程。我们运行实验来测试使用原始数据或记录文件两种主要数据预处理方法所带来的性能影响。初步结果表明，即使使用 NVIDIA DALI 这种高度优化的数据预处理库，数据预处理仍然是明显的瓶颈。其次，我们确定了潜在的原因，采用了多种优化方法，并介绍了它们的优缺点。希望本研究可以为 “数据存储和加载管道” 与 “训练框架” 的新协同设计以及它们之间的灵活资源配置提供参考，使资源得到充分利用并提高性能。

    Apr, 2023

  • 深度神经网络训练中数据阻塞的分析与减轻

    本文针对输入数据管道对训练 DNN 模型的影响展开研究，使用 DS-Analyzer 工具精确测量数据阻塞时间，提出 CoorDL 数据加载库来缓解数据阻塞问题，并在多个 DNN 模型、数据集、硬件配置上进行验证，结果显示相对于 DALI 数据加载库，使用 CoorDL 数据加载库可以显著降低 DNN 训练时间。

    Jul, 2020

  • 深度学习和大数据应用的自动数据处理和特征工程：一项调研

    现代人工智能（AI）的方法旨在设计可以直接从数据中学习的算法，本文综述了深度学习流程中自动化数据处理任务的方法，包括数据预处理、数据增强和特征工程，并讨论了自动机器学习方法和工具在整个机器学习流程中的优化应用。

    Mar, 2024

  • 功能和数据流：用于数字双胞胎的指定机器学习流水线的框架

    提出了一个用于描述数字孪生中人工智能流程的领域特定语言（DSL），旨在简化数字孪生的设计和验证，通过将函数作为一等公民进行学习模型的有效操作，展示了 Function+Data Flow（FDF）在结构的塑性应变预测和轴承的电磁行为建模两个具体用例中的优势。

    Jun, 2024

  • 基于矩阵和张量分解的高效自动机器学习流水线搜索

    本文提出了一种新的 AutoML 系统，利用矩阵和张量分解作为代理模型，通过贪心实验设计协议来高效收集有关新数据集的信息，从而解决数据科学家在选择适当的监督式学习模型时面临的挑战。经过对大型实际分类问题的实验，证明了这种方法的有效性。

    Jun, 2020

  • TensorFlow Estimators: 高层次机器学习框架中简单性与灵活性的平衡管理

    提出了一个框架，以简化创新的机器学习方法，以便将这些技术应用于生产环境中。该框架允许用户编写代码以定义他们的机器学习模型，并提供抽象层以指导开发人员将模型编写为有利于生产环境的方式。通过使用特征列，对模型进行参数化，同时提供了一组实用程序，旨在加快实验工作，以使开箱即用的模型灵活且适用于各种问题。

    Aug, 2017