OpenAI顶级专家找茬机器学习 GeekPwn引爆AI安全话题

10月24日，在GeekPwn2016嘉年华硅谷站的比赛现场，来自全球顶尖科技巨头OpenAI的专家Ian Goodfellow与谷歌Brain(谷歌大脑)的专家Alexey Kurakin合力在GeekPwn的舞台上演绎了一场黑客与人工智能间的精彩博弈。

此次GeekPwn黑客嘉年华突破性地首次将人工智能Pwn引进比赛规则，并特设上海&硅谷两个分赛场，分别邀请到众多海内外网络安全领域的资深专家，展开了一场对人工智能安全性的深入探讨。

难敌对抗性图像的“愚弄” 机器视觉也有弱点

在GeekPwn硅谷站的现场，Ian Goodfellow和Alexey Kurakin仅在一张图片上加入了人眼无法察觉的干扰因素，就成功瞒过了“机器之眼”，令机器视觉做出错误的判断最终将图像判定无误。

人工智能作为现代科学最大的进步之一，成功改变了计算机“看见”世界的方式。机器视觉更是被应用到无人驾驶、安全监控等重要领域。眼下他们已经注意到这项新技术存有一些致命弱点。

Ian Goodfellow和Alexey Kurakin表示一些经过“特殊加工”的图像将变成“对抗性图像”令机器视觉作出误判，正是目前机器识别最重要安全隐患之一。就如两位专家现场演示的效果那样，机器视觉算法的阿喀琉斯之踵就在于它们的准确性能轻易地被一些微扰因素所干扰，而这些因素对于人类来说却非常容易排除。

毕业于斯坦福，专注于数据挖掘和人工智能研究者Clarence Chio在极棒上海站分享了他的研究成果，现在的大部分机器学习系统只关注到应用程序的准确率，却忽略了机器学习系统的安全性。他在此次GeekPwn嘉年华上海站的现场演示了如何使用一个DEEP-PWNING的框架成功欺骗一个图像识别系统。

创办三年以来，上百位安全黑客在GeekPwn的舞台上声名大噪。秉承着负责任的漏洞披露原则，GeekPwn以人才和技术为导向，揭露了上百个具有安全漏洞并反馈给厂商进行产品升级。从智能硬件到人工智能，GeekPwn从未停止对安全的探索。