Jun, 2024

Hugging Face 的相关知识：系统文献综述与定性声明的定量验证

PDF
TL;DR我们通过系统文献综述和定量分析验证了关于 Pre-Trained Model （PTM）的重复使用的定性研究结论，证实 PTM 具有比传统软件更高的更新速度，并且文档质量与 PTM 的受欢迎程度存在强相关性。
collaborative software package registriesptm registriessystematic literature reviewquantitative analysisptm reuse
发现论文，激发创造
  • Hugging Face 深度学习模型注册表中预训练模型重用的实证研究

    本文是关于使用预训练模型的实践和挑战，通过对 Hugging Face 生态系统中从业者的访谈和系统化的测量，确定了模型重用的实践和决策制定过程，并提出了模型重用的有用属性和挑战，以及对深度学习生态系统自动化地测量有用属性和潜在攻击的未来方向进行了展望。

    Mar, 2023

  • HuggingFace 社区中深度学习模型重用的挑战、利益与趋势

    模型复用方面，我们通过一项综合的混合方法实证研究，通过关注讨论论坛和 HuggingFace 模型中心，提出了一种挑战和益处的分类法，并进行了定量研究以追踪模型类型趋势和模型文档的演变。

    Jan, 2024

  • 探索 Hugging Face 和其他模型中预训练深度学习模型的命名规范（以及缺陷）

    在本研究中，我们首次对预训练模型（PTM）的命名规范和相关的命名缺陷进行了研究，通过开发新的自动命名评估技术和算法，我们揭示了 PTM 领域中的命名规范，并将其作为研究与实践关系的信号；我们展望未来的工作是通过利用 PTM 的元特征来支持模型搜索和重用的经验研究。

    Oct, 2023

  • 挖掘 Hugging Face 代码库所学到的经验教训

    机器学习和人工智能领域的快速发展引出了像 Hugging Face（HF）这样的平台作为模型开发和共享的中心枢纽。本研究报告综合了两项关于 HF 的综合研究，着重关注碳排放、ML 模型的演化和维护方面。我们的目标是为将来从事 HF 生态系统内的软件库研究的研究人员提供实用指南，以提高这些研究的质量。我们深入研究了在我们的研究中使用的复制包的复杂性，突出了促进分析的关键工具和方法。此外，我们提出了一种细致的分层抽样策略，专为多样化的 HF Hub 数据集量身定制，以确保一种代表性和全面的分析方法。该报告还介绍了初步指南，从库挖掘过渡到群体研究，在 HF 上下文的 ML 模型研究中建立因果关系。这种过渡受到现有框架的启示，并进行了适应以适应 HF 模型生态系统的独特特点。我们的报告为研究人员提供了一个指导性框架，有助于负责任和可持续的 ML 进展，并促进对 ML 模型更广泛影响的深入理解。

    Feb, 2024

  • PeaTMOSS: 开源软件中预训练模型的数据集和初步分析

    这篇论文介绍了 PeaTMOSS 数据集，它包含 281,638 个预训练模型的元数据和详细快照，以及 28,575 个使用这些模型的 GitHub 开源软件仓库。此外，该数据集还包括 15,129 个 GitHub 仓库到 2,530 个预训练模型的映射。通过对数据集的分析，揭示了预训练模型供应链的摘要统计、模型包文档的常见缺陷和软件许可证不一致性等问题，为未来的研究提供了丰富的机会。

    Feb, 2024

  • PeaTMOSS：开源软件中挖掘预训练模型

    使用 PeaTMOSS 数据集，研究了深度学习模型在软件工程中的应用和挑战，该数据集包含大量预训练模型、开源软件仓库以及二者之间的映射。

    Oct, 2023

  • 预训练语音和音频嵌入的情感识别比较研究

    这项工作对来自八个语音预训练模型（wav2vec 2.0，data2vec，wavLM，UniSpeech-SAT，wav2clip，YAMNet，x-vector，ECAPA）的嵌入进行了比较分析。对四个语音情感数据集进行了广泛的实证分析，结果表明，最佳表现是由从训练说话者识别的 PTMs 获得的嵌入训练的算法实现的，这表明从演讲者识别 PTMs 提取嵌入的最佳性能很可能是由于模型在演讲者识别训练期间获取了有关许多语音特征（例如语调，口音，音高等）的信息。

    Apr, 2023

  • AI 社群构建未来？对 Hugging Face Hub 上的开发活动进行定量分析

    开源开发者在人工智能（AI）的政治经济中成为关键角色，开放模型开发被认为是封闭源 AI 开发的替代方案。然而，我们对开源 AI 的协作实践仍有有限的了解。本文通过对 Hugging Face（HF） Hub 上的开发活动进行三部分数量分析来填补这一空白，HF Hub 是一个流行的构建、分享和展示模型的平台。

    May, 2024

  • 评估心理健康问答分类基础模型的有效性

    这项研究评估了基础模型在心理健康护理问题和回答分类中的效果，并发现预训练语言模型（PLMs）在捕捉语义意义方面具有非常好的结果，对于阿拉伯语的心理健康支持具有很大的潜力。

    Jun, 2024

  • 预训练语言模型在简单知识图谱问答中的实证研究

    本文针对知识图谱问答中不同预训练语言模型的性能对比，基于两个基本框架和三个基准数据集进行了实验和分析，结果表明知识蒸馏和知识增强技术对于知识图谱问答有很大的帮助；同时，该文还测试了 ChatGPT 在零样本知识图谱问答方面的表现，最终发布了相关代码与基准数据集供后续研究使用。

    Mar, 2023