Mar, 2022

LSTMSPLIT：基于 SPLIT 学习的序列时间序列数据上有效的 LSTM

PDF
TL;DR本研究提出了一种名为 LSTMSPLIT 的新方法，结合 Split learning 和 LSTM network，用于处理具有多个客户端的时间序列分类问题，同时采用差分隐私以提高数据隐私保护。实验证明，该方法在心电图数据集和人类活动识别数据集的分类准确率上优于 Split-1DCNN 方法，并且采用差分隐私后仍能取得良好的准确性和用户隐私保护效果。
发现论文，激发创造
  • 面向隐私保护的联邦学习进展：从联邦学习到分裂学习

    该文章探讨了分散协作机器学习（DCML）范式下分布式学习（FL）和分裂学习（SL）的应用，以及它们与隐私的关系和代码实现。

    Nov, 2020

  • SplitFed: 联邦学习与 Split Learning 相遇

    本研究介绍一种名为 Split-fed learning (SFL) 的新颖算法，它将 Federated learning (FL) 和 Split learning (SL) 相结合，解决了它们各自固有的缺点，并增强了数据隐私和模型鲁棒性。SFL 具有比 SL 更短的计算时间，并具有与 SL 相似的测试准确性和通信效率，非常适用于资源受限的环境中。

    Apr, 2020

  • 基于差分隐私标签比例的分布式 LSTM 学习

    该论文提出了两个有效模型，利用差分隐私和去中心化 LSTM 学习，以解决数据隐私、通信带宽和从时空数据中学习的问题，并在 Pems-Bay 和 METR-LA 数据集上进行了评估，同时提供了基于 LuST 的自有数据集，评估结果显示了性能与数据隐私之间的权衡。

    Jan, 2023

  • 基于代表共享的可扩展协作学习

    通过在线知识蒸馏使用对比损失的新方法，保证了参与者在不共享其输入数据的情况下学习相似类别的相似特征，并将平均最后隐藏层激活的特征表示发布到中央服务器，然后客户端使用对比目标在其个人模型中蒸馏其知识，从而比独立学习和其他联邦知识蒸馏 (FD) 方案提高了模型的效用，本框架在多个数据集上使用不同的模型架构进行了性能基准测试。

    Nov, 2022

  • 无泄漏的分割学习：减少隐私泄露

    使用分层学习 (SL) 和同态加密 (HE) 的混合方法在 MIT-BIH 数据集上提供了更快的训练时间 (大约是其他基于 HE 的方法的 6 倍) 和显著减少的通信开销 (几乎是其他方法的 160 倍)，从而为深度学习中的敏感数据提供了更好的隐私保护。

    Aug, 2023

  • 多流分类的并行长短期记忆网络

    本论文介绍了一种名为平行 LSTM 的 RNN 模型，可以并行处理多个同步输入序列以预测共同输出。在自动电视节目分类任务上的实验表明，该方法优于基线 n-gram 模型和最先进的 LSTM 方法。

    Feb, 2017

  • 1D CNN 模型上是否能应用 Split Learning 进行隐私保护训练？

    本文研究了在 1D CNN 模型下使用分裂学习进行隐私保护的技术，发现分裂学习技术对保护数据隐私存在一定的泄露，提供了两种隐私泄露缓解技术：客户端增加隐藏层和应用差分隐私，但这些技术都会对模型准确性产生重要影响，因此，我们得出一个结论，分裂学习单独使用不能保持 1D CNN 模型下的原始序列数据的机密性。

    Mar, 2020

  • 划分而非劫持：在划分学习中防止特征空间劫持攻击

    结合拆分学习和函数秘密共享的混合方法可以确保客户数据的隐私安全，并提高机器学习流程的效率。通过给激活图添加随机掩码，利用函数秘密共享生成股份，从而实现在前向和后向传播过程中，服务器无法从激活图重构客户的原始数据。此方法成功降低了隐私泄露，并对特征空间劫持攻击具有安全性保障。

    Apr, 2024

  • 评估和优化物联网分布式机器学习技术

    该论文在实际物联网设置中比较了联邦学习、分裂学习和分裂联邦学习的性能，并提出了一种广义分裂联邦学习模型来进一步优化在大规模 IoT 设备上的系统表现，同时还提出实用技巧来大幅减少通信开销。

    Mar, 2021

  • 非联邦多任务分割学习的异构源

    边缘网络和移动计算的发展需要设计新的分布式机器学习机制来服务于异构数据源。本文提出了一种多任务分割学习（MTSL）框架，结合了分割学习（SL）的优点和分布式网络架构的灵活性，以实现高效处理异构数据源的多任务学习，具有快速收敛、低通信成本和对异质数据的鲁棒性等优势。

    May, 2024