提高选定机器学习算法数据本地性的指南

MMJan, 2020

提高选定机器学习算法数据本地性的指南

Guidelines for enhancing data locality in selected machine learning algorithms

Imen Chakroun, Tom Vander Aa, Thomas J. Ashby

TL;DR本篇论文讨论利用数据局部性可以提高机器学习算法性能的方法，证明重复数据访问与计算可以视为数据移动中的冗余，提出直接重用计算结果可以避免冗余，文中也使用选定的机器学习算法进行了具体的实现和证明。

Abstract

To deal with the complexity of the new bigger and more complex generation of data, machine learning (ML) techniques are probably the first and foremost used. For ML algorithms to produce results in a reasonable amount of time, they need to be implemented efficiently. In this paper, we

machine learning data locality performance redundancy computation results

发现论文，激发创造

自适应采样在加速机器学习算法中的应用

巨大数据时代需要高效的机器学习算法，本论文表明，通过使用一种特殊的随机替代品，可以在几乎不降低质量的情况下，代替计算密集型子程序。

Sep, 2023

从分布式机器学习到分布式深度学习的调查

本文就分布式机器学习算法进行了全面的调研，综述了当前的技术发展前景和所存在的限制。

Jul, 2023

机器学习的硬件：挑战与机遇

本文讨论了如何在各种硬件设计级别上解决机器学习中遇到的挑战，主要包括机器学习、传感器数据、嵌入式处理、能源消耗和硬件设计。

Dec, 2016

分布式机器学习调查

本文介绍机器学习技术的发展以及为了应对更加复杂的应用而需要分布式系统来分担机器学习的工作负担，但分布式系统带来的挑战在于高效地并行训练过程和创建一个连贯的模型。文中提供了分布式机器学习领域当前的最新进展和系统概述。

Dec, 2019

走向地理分布式机器学习

该论文介绍了一种名为 GDML 的新型学习问题，旨在解决全球分布式数据的学习问题，提出了一种新的方法进行地理分布式培训，可同时应对法规制约和隐私等问题，并在三个真实数据集上进行了实证评估。

Mar, 2016

利用学习和推理的统计数据

该研究论文探讨了在面对包含海量数据集和需要超级计算机执行的模拟时，如何利用数据与模型之间的固有统计学特性来提高学习和推理的效率，并提出了相应的基于随机梯度的算法来检测概率、提高 MCMC 的更新效率和决定参数更新的接受或拒绝，同时探讨了在大数据和大模拟时代中 Bayesian 方法所面临的一些计算方面的挑战。

Feb, 2014

统计学习和估计的在线与分布式算法的基本极限

本文探讨了机器学习中的信息约束，包括内存、通信、数据部分读取等约束对算法性能的影响，并得出针对不同情形，在特定限制下，算法表现将不如无限制情形的结论。

Nov, 2013

机器能否稳健、私密且高效地学习？

机器学习应用的成功依赖于庞大的数据集和分布式架构，随着其规模的增长，给机器学习带来了挑战。本文研究了在分布式架构中实现隐私和稳健性的成本，并探讨了在机器学习应用中隐私、稳健性和计算效率面临的挑战和解决方案。

Dec, 2023

精益数据科学家：克服数据瓶颈的最新进展

介绍了如何建立大规模数据集用于机器学习，提出了处理数据瓶颈问题的分类方法，旨在提高社区对这些方法的认识并促进资源的更有效利用。

Nov, 2022

应用数据驱动的机器学习探索生物信息学问题

本文研究了当前 13 种常用的机器学习算法在 165 个公开分类问题上的表现，提供数据驱动的算法推荐，并总结出 5 种算法以及与分类问题相关的超参数，用于优化分类器的性能。同时，提供了应用机器学习于监督分类问题的一般指导原则。

Aug, 2017