- 具有异构分布式差分隐私约束的非参数回归的最优联邦学习
该论文研究了在分布式样本中进行非参数回归的联邦学习，其中每个样本服务器都遵守不同的差分隐私约束。在考虑到不同服务器的变化样本大小和差分隐私约束的异构设置中，该论文同时考虑了全局和逐点估计，并建立了在 Besov 空间上的收敛最优速率。通过提 - 数据激发您的快乐吗？培训结束时的领域上采样带来的性能提升
通过对小型领域专用数据集进行上采样，以驱动性能在困难基准测试上的改进，本研究揭示了在多样性的一般网络抓取和领域专用数据信息密度之间寻求平衡的最佳方法。
- 安全优化增强学习通过多目标策略优化
基于多目标策略优化框架的新型无模型安全强化学习算法引入，通过环境奖励函数和安全评论家对策略进行优化，以实现在不违反约束条件的情况下同时达到最佳和安全性。该算法通过理论分析提出了收敛策略的安全性保障条件，并引入了一个攻击参数，允许对所述权衡进 - 随机凸优化的信息复杂性：泛化与记忆的应用
通过研究随机凸优化（SCO）中记忆和学习之间的相互作用，我们使用条件互信息（CMI）的框架精确刻画了学习算法的准确性和 CMI 之间的权衡关系，回答了 Livni（2023 年）提出的一个开放问题。我们进一步设计了一个对特定的 SCO 问题 - 程序阶段的模型复杂度
在资源受限的计算系统中，序列预测模型必须在严格约束下运行。我们提出了一种理论和相关的实证方法，探索一种特定类型机器学习模型（如深度神经网络）的成本与预测质量之间的权衡空间，以增加对资源受限任务模型的理论和实践限制的认识。
- 从稀疏到稠密：GPT-4 基于密度链的摘要生成
通过密度链（CoD）提示，GPT-4 生成更多抽象、融合度更高、少有引导偏见的摘要，人类更喜欢这些摘要，表明了信息量和可读性之间的权衡。
- ICCV用隐式表示约束的对抗微调来缓解精确性 - 鲁棒性权衡
通过引入 ARREST 方法，该论文提出了一种能够在深度神经网络中同时提高标准准确度和鲁棒性的对抗训练方法。
- 深度神经网络压缩的量化可知因式分解
使用张量分解和量化相结合的方法，通过交替方向乘数法来压缩神经网络的权重，实现在保持预测质量的同时减少参数和计算量，并展示出与现有后训练量化方法相比的竞争性结果和高灵活性的优势。
- 关于学习视频压缩的感知损失函数选择
研究了在输出同时受到均方差失真损失和感知损失的影响下进行因果、低延迟、连续视频压缩的方法，证明了 PLF 的选择会显著影响图像重建，特别是在低比特率情况下，在编码时委托 PLF 的选择给解码器会更加有效，结果使用信息论分析和深度学习验证。
- ACL语言建模中公平与隐私之间的权衡
本研究探讨在训练文本生成模型时如何同时兼顾隐私保护和去除社交偏见的问题，经实验证明，保护隐私的同时也会使分类任务中的偏见加剧，为了在双方兼顾的情况下提高模型的效用，在损失一些隐私保护的基础上，通过去偏增强模型可以达到最优化。
- 鲁棒神经架构搜索
本研究提出一种名为 Robust Neural Architecture Search 的新型神经架构搜索方法，使用正则化项来平衡准确性和鲁棒性，并使用噪声样本而非对抗样本来搜索架构。实验证明，该方法在图像分类和对抗攻击方面均达到了最先进的 - 信息过滤于多样性改进解码中用于自然语言生成中的多样性 - 忠实度平衡
本文提出了一种名为 IFDID 的信息过滤方法，通过在两个阶段增加一些典型词汇的选择概率并通过信息量过滤它们，实现多样性和忠实度之间的平衡，相较于传统方法，IFDID 在 ROUGE 得分方面提高了 1.24 分，表示其在多样性及忠实度之间 - ICML最优可控感知有损压缩
本文基于最小均方误差（MSE）和构造的完美感知解码器之间的输出进行线性插值实现失真和感知质量之间的权衡，提出了两个理论优化的训练框架，并通过实验证明这些框架在实际感知解码中不仅具有理论上的优越性，而且还能产生最先进的性能。
- 使用非线性抽象约束分析抽象性与事实性之间的权衡
本文研究自动摘要的抽象程度与准确度之间的权衡，提出了控制抽象程度的技术，并使用全面的人工评估方法，在多个广泛研究的数据集上表征抽象 - 准确度权衡关系，提出了新的量化措施，并以此与以前的作品对比基线。
- 同时翻译策略：从固定到自适应
通过简单的启发式组合一组固定策略，我们设计了一种算法来实现自适应策略，实验结果显示我们的自适应策略可以在相同延迟下比固定策略多达 4 个 BLEU 分数，并且甚至在贪心模式下超过了全句翻译的 BLEU 分数（接近 beam 模式），但延迟更 - 稀疏主成分分析的亚指数时间算法
在 “可能但艰难” 的稀疏主成分分析中，我们使用亚指数时间算法的能力来探索稀疏度和恢复时间的平滑权衡，提供了一种新的演变家族，并对低阶似然比进行分析，从而证明了我们算法所实现的权衡是最优的。
- ICML重新思考无损压缩：速率 - 失真 - 感知之间的权衡
通过采用 Blau & Michaeli 2018 年提出的感知质量的数学定义，研究了速率、失真和感知之间的三重权衡，我们证明了该三重权衡的几个基本属性，并在一个玩具 MNIST 例子上进行了可视化说明。
- 隐私保护对抗网络
利用对抗性神经网络实现随机机制和互信息隐私的变分近似，优化隐私数据发布机制的信息论最优折衷方案，对合成数据和实际数据集 MNIST 进行了验证实验。
- 分类中公平的代价
本文研究学习分类器的公平性约束问题并提出了三种解决方案，分别是将两个现有的公平性度量关联到成本敏感风险，显示了对于成本敏感分类和公平性度量的最优分类器是类概率函数的实例相关阈值，并展示了准确性和公平性之间的权衡是通过目标和敏感特征的类概率之 - 信息论隐私笔记
研究了在隐私和效用都用互信息表示的情况下隐私和效用之间的权衡，利用可观测数据量化其中所包含的私人信息并将其连接到隐私和效用之间的最优权衡。