两项成果入选人工智能安全典型实践案例 360助力构建AI生态

10月12日，2021年国家网络安全宣传周人工智能安全产业发展分论坛在西安成功举办。在论坛现场，由中国网络空间安全协会组织评选的“人工智能安全典型实践案例”正式公布。三六零集团(股票代码：601360.SH,以下简称“360”)所提报的“360人工智能框架漏洞威胁感知系统”、“360新一代终端安全智能防护系统”两款产品在众多案例中脱颖而出，入选为2021年人工智能安全典型实践案例。

数字化时代，人工智能成为新一轮科技革命和产业变革的核心驱动力，但同时也带来新安全治理挑战。360集团AI安全实验室负责人邹权臣在论坛主旨演讲中指出，“机器学习框架是人工智能基础设施的核心，当前框架安全检测缺少面向框架安全的、有针对性、系统性的自动化检测工具，一旦被恶意攻击，将会影响数以千万计的开发者以及用户。”

作为数字经济的守护者，360依托在安全大数据、攻防专家团队等优势，融合人工智能与安全自主研发了360人工智能框架漏洞威胁感知系统，该系统能够从算法实现、漏洞类型、编译优化等多角度持续开展对机器学习框架的安全风险研究，并采用动、静结合的分析方法对Python、C++、Go等不同语言中的不同漏洞类型进行全面系统的检测，检测过程着重关注从训练到推理、从数据到模型、从云端到终端过程中存在的安全风险。此外，该系统基于丰富的安全专家知识库，能够提供对AI框架业务的定制化检测，如对计算图优化、图编译、分布并行等模块的安全性检测。

近期，360人工智能框架漏洞威胁感知系统对国内外主流开源AI框架进行了安全性评测，累计7款机器学习框架(如Tensorflow、PyTorch等)漏洞150+个，框架供应链漏洞200+个，并帮助各厂商对漏洞进行了修复。值得一提的是，360 AI安全实验室已经累计发现并帮助谷歌修复Tensorflow漏洞98个(CVE)，其中高危、严重漏洞共24个，在数量上均位列全球首位。

据介绍，360 AI安全实验室专注于人工智能与安全前沿技术研究，发现AI框架、智能设备、AI应用等多维度AI系统安全风险，并提供安全评测和防护服务；开展AI赋能网络安全的研究工作，致力于应用AI技术在恶意代码识别、流量分析、漏洞挖掘等重要场景中取得突破性进展。

邹权臣在论坛最后强调，360 AI实验室还承担了由科技部批复、360集团承建的“安全大脑国家新一代人工智能开放创新平台”的建设工作。该平台致力于解决人工智能系统安全风险、人工智能在网络安全领域创新成果落地难以及创新环境匮乏等问题。未来，360将通过平台运营，建立人工智能与安全开放创新体系，实现核心研究成果的对接与转化，推动产业健康快速发展。