Mar, 2023

通过计算监视验证大规模神经网络训练的规则，需要什么才能捕捉到鼠兔？

PDF
TL;DR该研究分析了通过监控用于大规模神经网络训练的计算硬件来实现高级机器学习系统开发规则的执法以及国家之间达成潜在未来国际协议的相互监督的机制
advanced machine learninggeopoliticssocietal ordertraining hardwarerule verification
发现论文，激发创造
  • 神经网络自动验证：进展、挑战和展望

    本文讨论了神经网络在安全和保密方面应用的局限性，提出了一些自动推理技术来提供神经网络性能的保障，并且对现有的神经网络自动验证方法进行了综合分类和阐述，同时讨论了存在的局限性以及未来研究的方向。

    May, 2018

  • 可扩展验证的深度二元强化学习

    使用二值化神经网络 (BNNs) 的强化学习算法以提高可验证性的方法，解决了神经网络在安全关键场合应用上不可靠的问题。在训练 Atari 环境中的 BNNs 之后，我们验证了其鲁棒性属性。

    Mar, 2022

  • 面向安全关键深度神经网络的可扩展验证

    本篇论文介绍了在安全重要应用领域中使用深度神经网络的问题，针对其可靠性和安全性的担忧，提出了采用形式化验证来保证其运行符合预期，并通过两个方向，即设计可扩展性的验证技术和识别可验证的深度学习系统的设计选择来缓解这一挑战。

    Jan, 2018

  • 神经网络控制自主系统的形式化验证

    本文考虑了使用神经网络控制器的自主机器人的安全性问题。通过构建系统的一个有限状态抽象并使用标准的可达性分析方法，计算出一组安全的初始状态，使得从这些初始状态开始的机器人轨迹能够避开多面体障碍物。

    Oct, 2018

  • 面向基于机器学习的分布式系统的认证

    本文分析了目前认证方案存在的挑战和不足，讨论了开放的研究问题，并针对基于机器学习的分布式系统提出了第一个认证方案。

    May, 2023

  • 验证友好的深度神经网络

    提出了一种生成可验证的神经网络（VNNs）的新框架，该框架通过后训练优化在保留预测性能和鲁棒性之间取得平衡，使得生成的网络在预测性能方面与原始网络相当，并且可以进行验证，以更加高效地建立 VNNs 的强大性。

    Dec, 2023

  • 神经网络与乔姆斯基层次结构

    通过在 20,910 个模型和 15 个任务上进行广泛的实证研究，我们展示了按照 Chomsky 层次分类任务可以预测特定体系结构的广义能力。结果表明，只有增加了结构化记忆的网络（例如堆栈或内存带）才能成功地推广上下文自由和上下文相关的任务。

    Jul, 2022

  • 基于机器学习的密码协议安全验证框架

    本文提出了一种利用机器学习进行密码协议安全验证的框架，使用神经网络处理密码协议的结构特征，自动生成数据并利用形式化验证工具分配安全标签。经测试，该方法适用于实际密码协议的验证。

    Apr, 2023

  • 通过控制硬件的非确定性实现乐观可验证训练

    提出一种可验证训练的方法，通过在更高精度的模型上进行训练，舍入中间计算步骤后存储舍入决策，并基于自适应阈值过程，成功控制不确定性，从而实现了对训练过程的准确复制，降低了存储和时间成本。

    Mar, 2024

  • 使用学习的验证器训练已验证的学习者

    本文提出了一种新的算法框架，predictor-verifier training，用于训练可验证的神经网络，同时训练两个网络：一个预测网络和一个验证网络以达到最大化输出准确性并满足输入输出特定属性的目标。实验表明，predictor-verifier 架构能够训练出鲁棒性强的神经网络并且训练时间显著减短，在像 MNIST 和 SVHN 这样的小数据集上优于以前的算法，同时能够扩展到 CIFAR-10 并产生首个已知的可验证鲁棒网络。

    May, 2018