- 人工智能系统故障分析与故障注入综述
人工智能和大型语言模型的快速发展使其融入各个领域，尤其是在人工智能生成的内容方面显著提高了能力。本研究通过系统分析 160 篇论文和资料库，对人工智能系统六个层面上现有的故障分析和故障注入方法进行了综述，探讨了目前 AI 系统存在的故障、当 - IJCAI全球 Clipper：增强基于 Transformer 的目标检测模型的安全性和可靠性
通过引入全局剪贴板和全局混合剪贴板的有效缓解策略，该研究旨在增强基于 Transformer 模型的鲁棒性，减少软错误导致的错误推断，并对注意力块在 Transformer 中的独特方面及其与 CNNs 的操作差异进行了详细研究。
- 自主驾驶中鸟瞰视图感知鲁棒性的基准测试和改进
通过设计评估鲁棒性的 RoboBEV 基准套件，我们评估了包括检测、地图分割、深度估计和占用预测在内的 33 种 BEV 感知模型的性能，并观察到在分布内数据表现良好的模型对分布外挑战具有鲁棒性，同时也强调了预训练和无深度 BEV 变换等策 - 容错机器学习：高效元聚合与同步训练
通过引入中心修剪元聚合器和双动量策略梯度估计技术，本文研究了分布式机器学习系统中拜占庭鲁棒训练的挑战性框架，着重提高效率和实用性，简化调整过程并减少超参数的依赖。
- 无人机自主降落的多模态学习方法
该研究介绍了一种基于多模式变压器的深度学习探测器，可为精确自主着陆提供可靠的定位，同时还提出了一种基于深度 Q 网络的强化学习决策模型，该模型在模拟环境中进行训练，然后成功地在真实户外场景中验证其适用性。
- 一个双电网串联故障模型的易损性分析
提出了一种基于注意力机制的新方法来学习输电线路之间的相关性，并通过该方法识别最关键的输电线路，该方法通过 Attention Ranking 算法来评估输电线路的重要性，从而提供了一种改善电网对级联故障的韧性的新型有效分析，广泛的实验结果证 - 三星 - 罗斯福研究所团队：2024 机器人驱动挑战 - 鲁棒地图分割赛道技术报告
本文描述了我们在 2024 年 RoboDrive Challenge Robust Map Segmentation Track 中提交的技术细节。我们通过探索几种方法来提高地图分割任务的稳健性，包括利用时间信息、使用不同的骨干网络以及数 - 先进人工智能的社会适应
存在的管理高级人工智能系统风险的策略通常关注于影响开发什么样的人工智能系统以及它们如何扩散。然而，随着高级人工智能开发者数量的增加，这种方法变得越来越不可行，并且阻碍了有益的和有害的用例。我们呼吁采用一种补充方法：提高社会对高级人工智能的适 - RoboDrive 挑战：随时随地以任何条件驾驶
自动驾驶中，强大的感知能力在面对各种未知条件时对车辆的安全部署至关重要。以四个关键任务为中心的 RoboDrive Challenge 比赛通过推动驾驶感知技术的发展来适应现实世界中的各种变化。通过对 140 个注册团队的近千份解决方案进行 - 大语言模型对嘈杂指令的弹性
通过人为嵌入 ASR 错误和语法错误等五种常见中断类型，我们的研究揭示了大型语言模型在处理包含错误的文本时表现的韧性，以及纠正噪音指令对其性能产生的显著影响。
- 困扰于对抗防御？尝试扩散
通过使用扩散模型并遵循贝叶斯定理，我们提出了真实性最大化扩散分类器（TMDC），该分类器不受数据漂移和敌对训练的影响，并且采用一个优化策略以提高其对更强大敌对攻击的鲁棒性，该方法在 CIFAR10 数据集上实现了最先进的性能。
- SpikingJET：增强全连接和卷积脉冲神经网络的故障注入
通过对关键组件施加错误和注入故障，本文介绍了一种专为全连接和卷积脉冲神经网络设计的新型故障注入器 SpikingJET。通过对各种脉冲神经网络架构进行广泛的软件级实验，该论文展示了 SpikingJET 的有效性，并揭示了脉冲神经网络对硬件 - 基于机器学习的社区风险和韧性后评估方法：基于耦合人类基础设施系统绩效
利用基于机器学习的方法，通过与人 - 基础设施系统性能相关的特征，对社区风险和韧性进行后评估，以及它们的互动。
- 面对最坏情况的准备：一种基于学习的对抗攻击方法用于 ICP 算法的鲁棒性分析
该研究提出了一种通过基于深度学习的攻击评估迭代最近点（ICP）算法在激光雷达点云上的弹性的新方法。
- 通过对抗攻击和训练的强大深度强化学习：一项综述
深度强化学习可以通过对抗训练提高其鲁棒性和可靠性，本研究对当代对抗性攻击方法进行了深入分析和分类，以提高深度强化学习代理的鲁棒性。
- 欺骗性提示对多模态语言模型的迷惑程度实证分析
通过 Quantum-Bench，我们比较了多种先进模型在对抗伪信息的能力上的表现，并提出了通过增加伪信息以增强模型韧性的建议。
- NeRCC：用于弹性分布式预测服务系统的嵌套回归编码计算
NeRCC 是一个适用于近似编码计算的抗拖尾策略框架，通过编码回归和采样、计算、解码回归和采样三个层次的工作，以及对两个正则化项的联合优化，在广泛的拖尾情况下精确近似了原始预测，超过了现有技术的最高 23%。
- 麦克风转换：减轻声音事件分类中的设备差异
通过引入 CycleGAN 作为新的增强技术，本研究提出了一种针对设备差异性提高声音事件分类系统鲁棒性的方法，并展示了一个独特的数据集用于评估该方法。实验结果显示，该方法在加权 F1 分数上的泛化性能优于现有方法 5.2% - 11.5%， - 具有拜占庭容错和证明快速收敛性的分散联邦策略梯度
分布式强化学习中，我们提出了第一种去中心化的拜占庭容错方法，通过结合强大的聚合和拜占庭容错协议来降低对受信任中央实体的需求，实验结果表明其对参与代理数量的加速和抵抗不同拜占庭攻击具有可靠性。
- 通过无人机图像绘制加勒比地区住房库存特征以提升气候适应能力
通过使用高分辨率无人机图像和深度学习技术，本研究提出了一种快速生成关键基线住房库存数据的工作流程，以促进减少气候极端灾害对加勒比地区等高风险地区的不利影响的气候适应举措。