阿里、清华、RealAI发布全新AI鲁棒性评测平台 免费开放18种对抗训练模型

不久前，美国国家公路交通安全管理局(NHTSA)发布了一份关于L2自动驾驶事故的数据报告。自去年7月以来报告的367起碰撞事故中，有98起严重事故发生在配备自动驾驶辅助系统的车辆上。去年，人工智能行业面临一个更可怕的威胁。AI医疗聊天机器人居然推荐病人自杀。在AI技术在现实生活中应用的背后，AI技术缺陷带来的系统性威胁，以及技术带来的道德伦理问题，是AI行业研究者的重点课题。

为了准确衡量AI模型的效果和鲁棒性，7月18日，清华大学、阿里安全、RealAI在“2021中国人工智能产业年会——安全人工智能专题论坛”上发布了全新版本的AI安全对抗攻防基准平台，为AI提前寻找“陪练”和“标尺”，构建更加健壮可靠的AI。相比去年三方发布的AI Benchmark 1.0，今年的AI Benchmark 2.0包含了全面系统的攻防基准，更符合行业评测基准，更接近线上的攻击评测基准。

阿里、清华、RealAI发布AI安全对抗新标杆平台。

“新平台从原来在CIFAR10数据上的实验，扩展到在ImageNet百万级数据集上的攻防评测，更加贴近行业实际场景。今年还覆盖了未知模型下的迁移攻击，接近在线攻击评测。此外，今年还增加了分布外的稳健性评价，更全面地评价模型的稳健性。”阿里的资深安全专家岳峰介绍。

清华大学计算机系副研究员苏航介绍，robust benchmark的构建对于评估人工智能模型的安全风险，促进该领域的发展具有重要意义。AI Benchmark 2.0将在ImageNet上免费为用户提供18种对抗训练模型，包括更多攻击场景，覆盖数十种典型攻防算法，并提供SOTA的健壮模型，这将在一定程度上推动AI安全的研究，让研究人员发现AI被攻击后出现的问题，为业界提供参考，引导AI学术研究向更贴近实际场景的应用研究发展。

阿里巴巴人工智能治理与可持续发展研究中心(AAIG)负责人薛辉表示：“我们致力于建立一个‘可用、可靠、可信、可控’的负责任的技术体系。这是阿里巴巴安全技术团队承担的科技创新和社会使命。从源头构建更安全的AI系统，是构建更负责任的好技术的重要一环。只有这样，我们才能建立一个更好、更安全的网络空间。”