通过在权重共享的 SuperNetworks 中插入专门的操作符，SubNetAct 机制动态地将请求导向网络以满足延迟和准确性目标，从而同时提供覆盖延迟 - 准确性权衡空间的全范围模型服务。SuperServe 系统在 Microsoft Azure Functions 的真实工作负载和大范围的极度突发性合成负载中表现出最佳的平衡效果。

Dec, 2023

通过对单流时间序列进行时间序列分析，本文提出了一种新型流量特征的流扩展，其中 69 个通用特征基于数据点的统计分析、时域分析、流时间跨度内的数据包分布、时间序列行为和频域分析。使用 15 个公开可用的数据集，我们展示了所提出的特征向量在各种网络流量分类任务中的可用性和普适性。评估结果表明，该新型特征向量在二进制和多类分类任务上的分类性能与相关工作相当或更好。在超过一半的评估任务中，分类性能提高了多达 5%。

Jul, 2023

CascadeServe 通过使用模型级联进行端到端的推理服务自动化和优化，在不同工作负载上与现有技术进行比较时，在延迟 - 准确性空间的广泛范围内可以节约 2-3 倍的成本。

Jun, 2024

该研究提出了一种启发于双过程理论的图生成模型 ——FLOWGEN，其在生成大型图形时可根据难度实时切换快思维（较弱）或慢思维（强思维）模式，在保证性能的同时提升了处理速度。

Jul, 2022

FastServe 是一种分布式推理服务系统，利用预 emption 技术在输出单词级别上最小化了 Large language models 的 inference 时间，并采用 GPU 内存管理机制，与现有解决方案相比可将平均和 tail JCT 分别提高了 5.1 倍和 6.4 倍。

May, 2023

通过去中心化的深度学习方法，基于相邻车站的拥堵状态实时准确地预测每个车站的拥堵状况，避免了中央处理器的局限性并提升了系统的实时反馈能力和实用性。同时为了避免训练数据集的不平衡，引入了经过正则化的欧氏距离损失函数。通过北加利福尼亚交通数据建立新的数据集进行实验，成果表明该方法成功预测了交通拥堵。

Mar, 2017

基于 IP 流的网络流量监控是一种标准监控方法，可以部署到各种网络基础设施中，甚至是连接数百万人的大型 IPS 网络。本文提出了一种基于包大小时间序列分析的新型扩展 IP 流 NetTiSA，在 25 个网络分类任务的全面测试中展示了 NetTiSA 的广泛适用性和高可用性，常常超过最佳相关工作的性能。对于实际部署，我们还考虑了用于 NetTiSA 的扩展流的大小，并评估了其在流出口器中计算的性能影响。这种新颖的特征集被证明是通用的，可用于具有 100Gbps 线路的高速 ISP 网络，从而实现了准确而广泛的网络安全保护。

Oct, 2023

本文提出了一种半监督学习方法，使用大规模的未标记数据集进行预训练，然后在小的标记数据集上重新训练。该方法仅使用每类 20 个样本即可达到与使用大型标记数据集的全监督方法几乎相同的准确性，在基于 QUIC 协议生成的数据集上可以达到 98％的准确性。同时，本文还研究了三种不同的样本技术，并证明从流的任意部分采样数据包已足够进行分类。

Dec, 2018

研究了分布式机器学习模型的网络流量特征和短期爆发性，发现分布式机器学习流量在短时间尺度上有很高的爆发性，研究了不同时间尺度上的流量爆发性度量，并揭示了分布式机器学习流量对拥塞和流量控制算法的挑战。

Dec, 2023

通过时空深度学习方法，提出了一个用于高速公路上每日交通流量预测的新方法，该方法通过数据归一化策略解决了网络全域收费站交通流量的数据不平衡问题，并基于图卷积网络构建了不同语义的网络来捕捉时空特征，同时利用气象和日历特征在全连接阶段提取交通流量的外部特征，经过大量实验证明该方法较基准模型在预测准确性方面有明显提升，并在商业领域带来实际效益。

Aug, 2023