打造一个负责任的AI，让人工智能更安全地赋能产业发展

如果世界互联网大会乌镇峰会有个“热搜榜”，“人工智能”定是火了10年的最热词之一。

从每个论坛绕不开的顶流ChatGPT到场馆里巡检的智能机器狗，今年的乌镇峰会，AI还在升温。

过去一年，人工智能在技术、产品、应用等各个层面，都以“周”为迭代速度向前突进，以超出人类想象的速度持续进化。带着想象，也有不安。人们在乌镇再次讨论起AI，它和人类的关系究竟是什么？我们应该如何与之相处？在交流碰撞的火花中，我们或许能获得一些启发。

重塑

“人工智能已经不再是一个简单的流行词，而是正在重塑我们所生活的世界。”在人工智能赋能产业发展论坛中，阿拉伯信息通信技术组织秘书长本·阿莫说。

1950年图灵最早提出了人工智能的概念，他在论文中直截了当地提问，“机器是否可能具有人类智能？”开创了人工智能领域的先河。今天，生成式人工智能不断取得突破，展现出强大的生成创造能力，开始涌现出“智慧”，而这是一种重构性的变化。

人们显然发现人工智能更聪明了。就像聊天机器人ChatGPT，它能理解我们的问题和指令，能够结合上下文的语境给出回答，并且能够处理文字、图片等多种信息，现在它不仅能在搜集、处理资料的时候帮上忙，甚至能写出各类像模像样的文学作品。在这届乌镇峰会上，2023“直通乌镇”全球互联网大赛人工智能（大模型及数字人）专题赛决赛上，京东言犀多模态大模型、达观曹植大模型、星蝠科技大模型等10个项目同台竞技。极高量级的算力、庞大的数据资源让以大模型为代表的AI技术飞速发展，令人惊叹。

同时，这些人工智能已经注入经济社会的各个支脉。在“互联网之光”博览会的未来生活数字体验区，观众可感受智能驾驶的便利、建立自己的3D数字人分身、体验人工智能在智慧教育中的运用……生活的各个场景都与人工智能相关。

现阶段，人工智能技术正处在量变引发质变的关键节点，从流行到重塑，开始渗透千行百业。360集团创始人周鸿祎也谈到，GPT大模型的诞生代表着通用人工智能、强人工智能的到来，是真正的智能涌现。人工智能大模型已经从感知进化到了认知，能够理解文字、语言，作出分析、规划，传统算法将被代替。未来在自动驾驶、机器人控制等很多重要领域，大语言模型都会大显身手。

人类是AI的塑造者。站在新技术降临的黎明，我们真切感受到数字世界和现实世界的深刻重构，也开始思考技术的更多侧面。

追问

在人工智能的交互界面上输入问题或需求，几秒内，我们就能获得丰富的信息回应，许多人停留于赞美效率，享受这样“被解放”的体验。

但是，与会的互联网代表都在追问更多——你是否想过这些数据的来源？谁投喂了这些AI，生成的数据是否真的客观、中立且真实？

我们应该留意数据本身的质量。“人工智能以大量数据为基础，但数据的生命周期涉及数据采集、传输、计算、存储、利用、消亡等方方面面。如果数据安全、可信没有做好，那么基于数据的人工智能就会面临各种各样的问题。如果使用错误的数据去训练人工智能，一定会产生错误导向。”伏羲智库创始人、中科院计算所研究员、清华大学互联网治理研究中心主任李晓东反复提醒，如今人类每年产生大量的数据，各种各样的数据充斥在一起良莠不齐，所以人工智能本身的安全和治理非常重要。

11月9日，人工智能赋能产业发展论坛上，与会嘉宾讨论的不仅仅是追赶风口，赋能产业应用，聊得更多的是安全和治理。机遇和风险是技术之刃的两面，隐私风险、数据偏见、伦理失范……人工智能带来的挑战不可避免，那我们又能做些什么？

“我们要构建全生命周期的安全保障。”思科大中华区副总裁、安全事业部总经理卜宪录在讨论中强调。如何保证数据采集合法，如何保证用户隐私，如何保证数据可信，如何保证可信数据都能被合理利用……以上种种，都涉及整个数据生命周期的安全与可信。作为全球领先的网络解决方案供应商代表，卜宪录分享，思科已经围绕透明度、公平性、问责制、隐私、安全性和可靠性展开风险的排查和控制，作为责任主体的企业更应该参与制定相应的AI框架。

“为AI制定框架是兜住底线，我们也应该反观自身，是否有足够的能力和素养理解并规范它们。”中国教育和科研计算机网（CERNET）网络中心副主任李星认为，发明技术的智慧，把握技术发展的智慧我们应该同时具备。他多次提及人工智能时代的教育和素养问题，“现在很多人都是‘人工智能时代的移民’，我们应当培养更多的年轻人成为人工智能时代的‘原住民’，具备更高的知识素养，能够正确地看待它、理性地使用它。”

技术的发展基于伦理、安全，来到乌镇峰会人们对此不断追问。安恒信息首席技术官刘博深有同感：“在10年前，网络安全产业相对没有那么受大家关注，整个行业的体量还是比较小的。这10年是网络安全产业蓬勃发展的10年。”刘博觉得，乌镇峰会的举办，让人们关注到更多的网络安全问题，这对于他所在的行业而言同样意义巨大。

希冀

“打造一个负责任的AI”——人们对这一具备颠覆性力量的技术满怀希冀。

智能治理问题、伦理问题、安全问题……提及治理问题，与会代表们不约而同谈到了“全球视野”——并不是一方就能解决所有问题，让AI“负责”需要各个国家与不同利益主体之间，构筑通力合作的机制。

我们比任何时候都需要这种共识，这种共同认可的治理框架和准则。

同样在人工智能赋能产业发展论坛上，来自企业、研究机构、国际组织等各方的代表，共同发布了《发展负责任的生成式人工智能研究报告及共识文件》。这套56页的文件，是此次发布的标志性成果之一。

文件里分析了生成式人工智能技术发展态势，对经济社会、科学研究带来的机遇，以及在安全与伦理等方面的挑战，全面梳理了全球主要国家、地区、组织以及产业界面对生成式人工智能发展与治理的努力，汇总了产业界在金融、交通、教育等14个应用场景的相关案例，提出发展负责任的生成式人工智能十条共识。

“许多人工智能领域的应用与社会、文化息息相关。比如生成式人工智能生成的内容基于不同国家和文化，生成的内容服务于不同文化的人民。然而许多人工智能产品都面向全球提供服务，这个时候，必须遵守不同的监管框架。因此，不同区域监管框架之间的接口与互操作性对全球化至关重要。”中国科学院自动化研究所人工智能伦理与治理研究中心主任曾毅多次呼吁创建全球人工智能治理网络。如今，共识形成，各方携手，朝着推进构建生成式人工智能治理模式的方向，迈出了坚实的一步。

技术与人性，在这里同时闪耀。