AI 技术曾经被广泛应用于各行各业。一方面，AI 技术畛域炽热的钻研趋势和高效的开发迭代速度能够应答日益剧增的需要。另一方面，技术的频繁更新和开发的高速迭代对底层的计算框架的安全性带来了冲击。如何确保 AI 计算框架的代码开发品质成为了代码开发过程中必不可少的一部分。
在刚刚完结的 Black Hat Europe 2021 上，百度平安提出了一种新型的基于模型变异的含糊测试工具 AI Model-Mutator。它将模型文件作为数据输出文件，进行变异来测试底层计算框架的代码品质。和功能测试不同的是，它采纳的是随机变异，所以能够笼罩一些功能测试不能思考到的边界问题。和繁多 API 测试不同的是，模型测试是从模型文件登程，所以它不是针对繁多 API 的，而是针对一组性能门路的。因而能够笼罩一些繁多 API 无奈测试的门路，比方 Python Binder 局部等。
AI Model-Mutator 提出了一种基于图的模型变异办法。更具体来说，它利用动态代码剖析获取模型相干操作的类型和约束条件，而后依据这些操作类型和约束条件进行随机的图遍历和改写。最初，利用生成的变异后的模型文件作为种子对计算框架进行测试。除此以外，AI Model-Mutator 提出了一系列针对模型输出的变异规定来进行无效地模型文件变异。教训证，这些变异规定能够无效地重现 TensorFlow 中已发现的 66 个破绽。此外，AI Model-Mutator 发现 TensorFlow 6 个新型破绽并失去 TensorFlow 团队的确认。
百度平安实验室致力于系统安全钻研多年，这次推出的新型 AI 模型测试工具在 Black Hat Europe 2021 的亮相只是一个开始。日后会有更多更深层次的钻研着眼于 AI 计算框架，为百度的 AI 模型框架根底保驾护航。