本文提出并研究了一种基于博弈论模型的液态民主代理投票方法，并通过智能代理模拟实验研究了在不同社交网络结构下代表投票对群体准确性的影响。

Feb, 2018

连续学习旨在使机器学习模型能够在数据分布不断变化的情况下不忘记已学知识。通过训练集合中的每个成员于不同相关子集，使整个集合相比于单纯模型能够获得更高准确率且遗忘更少的问题。我们解决了在给定数据上选择哪些模型应该学习，哪些模型应该进行预测的问题。通过借鉴委托投票的工作，我们开发了一种用于动态选择集合中活动模型的委托算法。我们探讨了各种委托方法和性能指标，最终发现在面对分布变化时，委托能够显著提高性能，优于单纯学习。

May, 2024

在液态民主系统中将时间维度整合入决策问题，通过计算复杂度分析和时间图理论，探讨了静态输入、选民行为和决策问题等关键主题。

Jul, 2023

该研究论文介绍了一种新颖的分布式机器学习范式 —— 共识学习，它将经典的集成方法与点对点系统中部署的共识协议相结合。该算法包括两个阶段：参与者开发模型并对任何新的数据输入提交预测；个体预测作为输入参与通信阶段，该阶段由共识协议控制。共识学习保证用户数据隐私，同时继承底层共识机制对拜占庭攻击的安全措施。我们对特定共识协议进行了详细的理论分析，并将共识学习集成与集中式集成学习算法的性能进行了比较。此外，通过各种数字模拟，描述了算法对拜占庭参与者的鲁棒性。

Feb, 2024

针对机器学习系统中偏见问题严重影响公平性的现状，我们提出了一种通过加权投票对预测结果进行校正的分析方法，同时基于该分析提出了一种基于主导和帕累托最优概念的修剪方法，能够在保证较小的准确性下提高公平性，实验证明该方法较为可行。

Jan, 2023

本篇论文研究了 FL 领域中不同于普通平均策略的模型聚合方法 ——ensemble distillation，证明其能够在保证数据隐私性和节约算力的同时，更灵活地聚合异构模型，并在各种 CV/NLP 数据集和场景下优于现有的 FL 算法。

Jun, 2020

这篇研究论文提出了一个在线集成追踪器，通过生成一组有效的人工训练数据来直接生成一个多样化的委员会。人工数据是从目标和背景的样本经验分布中抽样，这个过程由委员会查询控制，以缩小分类器之间的重叠，实验结果表明，该方案在公共基准测试上胜过传统的集成追踪器。

Nov, 2017

通过对集成方法进行扰动，可以增加模型多样性并提升性能。

Oct, 2021

通过构建神经网络集成，可以更好地进行预测和不确定性估计，并将不确定性分解为数据不确定性和模型不确定性。本文提出了一种保持神经网络集成分解性质的蒸馏框架，其预测性能与标准蒸馏相当。

Feb, 2020

我们研究了无监督的成分句法分析任务，该任务将句子中的单词和短语组织成层次结构，而不使用语言学注释数据。我们观察到现有的无监督解析器捕捉了句法结构的不同方面，可以利用这些方面来提高无监督解析的性能。为此，我们提出了 “树平均” 方法，并进一步提出了一种新颖的无监督解析集成方法。为了提高推理效率，我们将集成的知识进一步融入到一个学生模型中；这种先集成后蒸馏的过程是缓解常见多老师蒸馏方法中存在的过度平滑问题的一种有效方法。实验证明，我们的方法超过了所有先前的方法，始终表现出其在各种运行，不同的集成组件和领域转移条件下的有效性和鲁棒性。

Oct, 2023