硬件彩票
在机器学习生态系统中,硬件选择经常被认为只是一个辅助工具,而算法和数据则是关注重点。然而,在诸如机器学习即服务平台这样的环境中,用户通常无法控制模型部署所使用的硬件,这种忽视尤其成问题。本文调查了硬件选择对模型性能和公平性之间微妙平衡的影响。我们通过理论和实证分析,不仅找出了其中的潜在因素,还提出了一种有效的策略来缓解硬件引起的性能不平衡。
Dec, 2023
提出了一个称为热力学 AI 的数学框架,它将许多物理启发的人工智能算法统一起来,并将其与热力学系统中的随机波动相结合,以实现利用波动作为一种计算资源的计算范式,从而加速这些算法。该框架使用了新型的构建基块,即随机位(s-bits)和随机模(s-modes),并提供了一些简单的物理体系结构来构建这些设备。
Feb, 2023
主流机器学习软件框架的可移植性研究表明,在不同硬件类型间转移框架会导致超过 40% 关键功能丧失且性能严重下降,这揭示了硬件专业化对机器学习研究创新的阻碍。
Sep, 2023
本文旨在实现高效可靠的人工智能,通过将物理洞察力、神经科学原理、信息论上的最优不确定性量化结果以及分布式处理的通信理论准则与计算基础相结合的硬件和软件设计的研究方向,倡导不仅关注准确性而且关注不确定性量化的新的设计方法论,利用新兴的计算硬件架构,摆脱传统的冯・诺依曼数字计算范式,采用内存计算、神经形态计算和量子计算技术。
Sep, 2023
本文提出一种基于硬件 / 软件协同设计的新的约束贝叶斯优化框架,可以自动识别联合设计空间中的优化点,应用于各种神经模型,改善能量延迟产品的性能。
Oct, 2020
本文介绍了应用于物理学领域的计算机辅助设计方法,着重阐述一种高效拓扑搜索方法用于设计新的复杂量子实验,并通过优化和机器学习技术提出了加速未来实验或理念发现的可能性。
Feb, 2020
本文主要探讨了高性能计算、人工智能 / 机器学习和量子计算以及通信对于计算机科学研究领域的创新和影响,并指出在支持计算机科学研究方面需要更全面的计算基础设施,包括商业云计算和量子计算等新的计算方法。
Dec, 2020
通过限制模型在特定硬件上的使用,防止未经授权的模型使用,本文研究了机器学习特定机制的可行性,展示了锁定机制的可行性,并证明锁定具有可忽略的工作和延迟开销,同时显著限制了在未授权硬件上使用模型的可行性。
May, 2024
本研究系统研究了协同设计神经网络架构和硬件加速器的重要性和策略,发现不同的使用场景会导致非常不同的搜索结果,研究表明联合搜索方法在所有延迟目标上始终优于以前的面向平台的神经体系结构搜索、手动设计的模型和最先进的 EfficientNet,可将边缘加速器的能源消耗降低高达 2 倍。
Feb, 2021