中国网络空间安全协会副理事长杜跃进：警惕AI为“坏人”留“机会”

“人工智能面临的安全问题，可能超出很多人的想象”，8月28日，在2019智博会人工智能与安全高峰论坛上，中国网络空间安全协会副理事长杜跃进表示，人工智能在为时代发展带来深远影响的同时，也面临着严峻的安全问题，唯有让人工智能和安全有机融合，才能让人工智能有一个明亮的未来。

杜跃进指出，智能化对“坏人”也意味着“机会”。当下的社会都是互联互通的，网络攻击可以从虚拟空间渗透到物理空间，其危害是空前的。他从技术层面列举了人工智能的“七宗罪”。

一是硬件层面。很多人工智能元器件在物理层面缺乏安全保障，哪怕只有一段线路没有进行电磁屏蔽，也给物理干扰留下机会。二是软件层面。任何软件都有漏洞，它们可以被攻击者利用，来实现代码执行、拒绝服务攻击、控制流劫持、信息泄露等目标。三是协议层面。很多专用通信协议设计缺乏安全考虑。四是数据层面。大数据时代有一个“黑箱悖论”，人工智能离不开数据，但数据本身有可能被污染，这样的人工智能就好像被“投毒”。五是业务层面，算法本身可以被欺骗、误导，当人工智能越来越多用于控制相关业务时，可能会产生致命性影响。六是应用动机层面。坏人有可能更早、更深地看到人工智能带来的机会。如今，除了人工智能，在生物科技等很多前沿技术领域都有这样的倾向，值得警惕。七是机制设计层面。模式设计考虑不充分，将导致事与愿违，可能产生非常严重的后果。

除了技术层面的安全挑战外，杜跃进还指出，从伦理的角度，如果我们不能建立一个人工智能的正确的价值规范，人工智能可能被坏人用来做危害人类利益的事情。从社会复杂性的角度来看，人工智能的应用往往针对一个个需求点而实施，但因为社会的复杂性，这种单点思维，可能会导致技术在推广实施中事与愿违。

杜跃进还呼吁，人工智能面临的安全问题需要来自安全、通信、社会学、法律等领域的机构、企业、专家共同参与、解决。

杜跃进也在讲话中强调，人工智能同样也是当下解决安全问题的利器。在大安全时代，

无论是过去的安全痼疾，还是线上线下层面的安全问题，都可能因为人工智能的应用而找到突破口。他指出，安全行业一定要充分认识到，我们真正的对手不是其它竞争厂商，而是那些网络攻击者、破坏者。能否帮助客户、大众抵御网络攻击，遏制危害，才是衡量安全企业成功与否的关键。

据悉，本次人工智能与安全高峰论坛由中国国际智能产业博览会组委会主办，360集团承办，重庆市合川区人民政府协办。论坛还邀请了中国科学院院士郑建华、中国工程院院士沈昌祥、国家密码管理局商用密码管理办公室副巡视员霍炜、360集团副总裁兼智慧城市事业部总裁穆鸿等来自产学研领域重磅嘉宾，深入探讨和交流智能时代安全行业未来的发展趋势。