引入 Expohedron 以在重复排名中实现 Pareto 最优公平效用分摊
使用提供偏离随机猜测的分类器的弱学习算法进行优化,无需一阶信息即可学习任意良好模型。通过使用量子微积分等工具,证明了使用任何损失函数进行优化的可行性,从而在经典 0 阶设置中实现了一项前所未有的成就。
Jul, 2024
通过引入 FairMedFM,一个公平性基准,对医学影像中基础模型的公平性性能进行综合评估,我们揭示了不同 FMs 之间的偏见存在、不同 FMs 的效用与公平性权衡以及现有不公平缓解方法的有限效果。
Jul, 2024
传统的优化与调度方案往往只考虑固定的系统要求,而未来的系统将采用用户驱动的方法和个性化服务,致力于实现高质量体验和灵活性。本文首次提出了一种新颖的资源调度架构,通过构建三个大语言模型代理来将任意用户的语音请求转化为资源分配向量。通过针对电动汽车充电的典型语音请求进行测试,结果表明所提出的架构的高效性。
Jun, 2024
煤矿综合能源系统的调度优化是一个具有高维度、强耦合约束和多目标的挑战性问题。针对此问题,我们开发了一个多任务进化算法框架,利用调度相关领域知识来有效处理强约束和多目标优化。通过复杂约束关系分析和处理,我们首先探索了一种可能的进化多任务构建策略,即约束耦合空间分解、约束强度分类和约束处理技术。在多任务进化优化框架中,进一步开发了两种策略,即通过设计特殊的拥挤距离机制从每个任务中选择主导个体的精英引导知识传递以及基于自适应邻域技术的突变,以有效平衡每个优化任务的多样性和收敛性。通过与 CPLEX 求解器和七种约束多目标进化算法的比较,在一个煤矿综合能源系统的案例研究中展示了所提出算法在可行性、收敛性和多样性方面的性能。
Jun, 2024
神经网络模拟器在气候和天气预测任务中已成为一种非常有价值的工具,但其无法保证提供公正的预测结果,因此需要在神经网络中采用明确的公平性表示方法。本研究提出一种自定义损失函数,通过惩罚具有不同质量预测结果的模拟器,在人类发展指数 (HDI) 等区域或类别上捕捉不平等,从而实现更加公正的气候模型模拟预测。实验结果表明,使用这种损失函数训练的神经气候模拟器提供更加公正的预测结果,平衡性度量随着权重增加而改善。在训练过程中,公平性和准确性之间存在权衡,但通过适当选择公平性优先超参数,可以最小化性能损失。
Jun, 2024
在在线学习中,优化随机零阶反馈下的凸函数一直是一个主要而具有挑战性的问题。本文考虑了仅能对目标函数进行噪声评估的情况下,对二阶平滑和强凸函数进行优化的问题;通过提出匹配的上下界,第一次对最小化最大简单后悔的速率进行了紧密的刻画。我们提出了一种算法,结合了启动阶段和镜像下降阶段。我们的主要技术创新包括对高阶平滑性条件下球形采样梯度估计器的尖锐刻画,从而使算法能够在偏差 - 方差权衡方面达到最优平衡,以及一种用于启动阶段的新的迭代方法,它能够保持无界 Hessian 的性能。
Jun, 2024
人工智能系统中解决公平性和偏差的重要性不可低估。本文填补了大型多模态模型在公平性和偏差研究方面相对于大型语言模型的缺口,提供了 50 个数据集和模型的示例以及影响它们的挑战;我们除了文献中已知的内在偏差和外在偏差两种方式外,还确定了一种新的偏差量化方法(preuse);我们批判性地讨论了研究人员面对这些挑战时采取的各种方式。我们的方法使用了两个稍有不同的 Google Scholar 搜索词,结果显示出 “大型多模态模型中公平性和偏差” 的搜索词的结果为 33,400 个链接,“大型语言模型中公平性和偏差” 的搜索词的结果为 538,000 个链接。我们相信这项工作有助于填补此领域的研究空白,并向研究人员和其他相关者提供处理多模态人工智能中公平性和偏差问题的见解。
Jun, 2024
提出了一种新颖的在部署的机器学习系统中跟踪和纠正歧视的方法,它利用反事实解释来持续监测机器学习系统的预测,并标记歧视性结果,然后将与原始预测和反事实替代方案相关的后续解释呈现给人工审查者进行实时干预,从而实现公平和负责任的机器学习操作。
Jun, 2024