当技术越来越智能，我们如何守护安全？

11月9日，2023年世界互联网大会乌镇峰会前沿数字技术创新与安全论坛在浙江乌镇举行。论坛以“技术引领变革 数字开创未来”为主题，依托前沿数字技术发展浪潮，共议数字技术创新与安全。

技术的发展必然带来新的风险，如何发现、甄别、处理、预防风险成为了一项重要课题。在论坛上，与会专家与嘉宾都谈到了前沿科技发展可能带来的风险，也探讨了一些相应的应对之法。

“区别于一般的产业技术，网络空间安全有明显的对抗性的特点，也就是说一方的胜利代表另一方的失败。”中关村实验室主任助理、首席科学家卿昱在主旨演讲中谈到，作为2015年正式设立的一级学科，“网络空间安全是一门年轻但不简单的学科。”

在网络安全领域，新技术的发展会使已有的技术面临安全风险，比如说量子计算，它很可能会给经典密码带来严重的挑战，“各种新技术的出现同时也带来了安全威胁。”

哪些新技术需要我们重点关注？

卿昱分享了从2019年到2023年整个顶级会议期刊的一些热词分析：这5年来，研究者从对隐私计算、恶意软件、数字取证、异常检测技术的关注，到最近3年又扩展到了人工智能、深度学习和隐私保护的相关的技术上。

“随着人工智能的发展，我们已经很重视相关的安全问题，比如像人工智能算法可能会在对抗攻击的情况下被误导。”清华大学人工智能研究院副院长、计算机系教授朱军在论坛的主旨演讲中举例，监控摄像头的人脸识别验证的安全，其实在之前应用之前，就已经开始做很多的学术研究和应用，“一方面去发现漏洞，另一方面就是去做保密。”

伦理风险、算法风险、数据风险、技术滥用，在朱军看来，生成式人工智能的新型安全风险正在显现。

如何去应对这些风险？

“在清华大学人工智能研究院成立的时候，我们当时讨论就设定叫发展第三代人工智能的公司，我们实际上是想将大数据驱动和知识相融合地去发展新型的人工智能的方法和理论。”论坛现场，朱军演示了人工智能安全评测平台、人脸人工智能安全防火墙、数据安全产品及人工智能内容检测平台等人工智能治理的有效工具。

“关于大模型的一些最新的结果，我们可以从各个维度去评测我们的模型算法；针对人脸验证这种最广泛的应用场景，我们专门做了称之为人脸识别的自动防火墙；关于数据安全，我们发展的分布式机器学习，或者用加密数据下的机器学习的技术来综合来去解决这个问题。而对于人工智能发展之后创造的内容，“我们最基本的就是想判断哪些是人生成，哪些是人工智能生成的，这背后就需要算法模型来去帮我们自动去检测识别”。

本次论坛由国家互联网信息办公室发起，工业和信息化部、中国科学院、世界知识产权组织、中关村实验室主办，国家工业信息安全发展研究中心、中国科学院计算技术研究所、百度公司协办，来自中央和国家机关、中央新闻网站、国内外知名专家及互联网企业等各界代表共120余位嘉宾参加论坛。