独家对话|齐向东：大模型的安全挑战日益严峻，如何应对-心智观察所、齐向东

【今年2月17日，在中国经济巨轮迎难而上、乘风破浪的关键时期，习近平总书记出席民营企业座谈会并发表重要讲话。奇安信集团董事长齐向东是与会民营企业家代表之一。在两会召开的前夕，心智观察所与全国政协委员齐向东就“数据驱动安全”理念，云端网络防御，以及我国软件生态等议题进行了一场深度对话。】

 心智观察所：在近期参加的民营企业家座谈会上，齐安信在网络安全领域的技术创新成果受到关注。结合当前国家对科技自立自强的政策导向，您认为民营企业应如何把握政策机遇，进一步推动核心技术攻关？齐安信未来是否会将座谈会上获得的建议转化为具体的战略布局？

**齐向东:在民企座谈会上，总书记重点讲了在新征程新时代企业家要大有作为，在新征程新时代里，又谈到现在的社会经济和政治环境都非常好，适合民营经济大发展。**总书记谈到，现在科技发展日新月异，不断出现新产业、新业态、新场景，在这些新产业、新业态、新场景里，能够施展我们民营企业各种各样的优势，为中国式现代化做更大的贡献。

**尤其谈到美国对中国高科技的打压方面，一些科技创新企业可能遇到了一些困难。总书记在谈话的时候给我们民营企业家打气、鼓劲，增强了很多信心。**总书记谈到我们有14亿人的超大市场，有强大的工业制造基础，也有改革开放以来培养的一批又一批科技创新人才。最近这几年，我们在数字经济、人工智能、先进制造业等方面都取得了很大的成绩，既是大家努力的结果，又是综合国力的体现。所以总书记又语重心长地告诉我们，不要为困难所惧，不要为干扰所迫，要做大、做强、做精主业，要往深了做，要突破科技上的难题。

关于下一步的战略重点，奇安信一直在说“安全快一步”，快一步抓产品、抓技术。所有技术都有短板，所有网络攻击者捕捉的都是技术的短板，而我们使用者看到的都是技术的长板，看不见短板，只有黑客能看得见。我们安全公司要兼具两只慧眼，学会用两只眼睛瞄两个方向，一个要看到技术长板，一个要看到技术的短板。这就是安全公司独特的地方，我们要在行业里练出特殊的功能和本领。

心智观察所：作为首次参加两会的民营科技企业代表，齐安信是否计划就网络安全、数据安全或人工智能监管等热点领域提交提案？在数字经济与实体经济深度融合的背景下，当前行业最亟需的政策支持或法规完善方向是什么？

**齐向东:**今年两会我比较关注两方面，一是人工智能安全，二是软件产业健康发展。

**先说人工智能安全。**当前，以大模型为代表的人工智能技术正在深刻重塑生产生活方式和科技创新模式。今年春节，国产大模型DeepSeek横空出世，引发了广泛讨论，它颠覆了传统的人工智能创新模式，将推动人工智能技术加速向千行百业渗透。但是人工智能也有“成长”的烦恼，随着人工智能技术的深度应用，大模型所面临的、所带来的安全挑战也日益严峻。奇安信是网络和数据安全领域的领军企业，保障人工智能时代的网络空间安全是扛在我们肩上的重任。所以这次两会我重点关注这方面内容，期待能够用一些切实可行的举措，为人工智能安全发展贡献新力量。

再说软件产业健康发展。软件产业是支撑新技术发展的关键，也是助推数字经济发展的重要力量。但目前我国软件产业高质量发展遇到了不小的挑战。一方面，软件产业是“内卷式”竞争的重灾区，招投标“低价恶斗”、技术评分体系有缺陷、项目转包现象等等，都拖慢了软件产业的创新步伐。另一方面，我们软件产业的市场价值被严重低估了。有公开数据显示，中国软件产业市值前十名的总和与美国软件行业前十名的市值总和相比，差了上百倍，这不利于软件产业持续创新发展。所以，这次两会我也格外关注这方面的内容，希望能为软件产业的健康发展出力献策。

心智观察所：如何看待当前全球网络安全威胁的演变趋势？在AI技术快速发展的背景下，网络安全防御的核心挑战发生了哪些变化？

**齐向东:**人工智能不断突破创新，“人工智能+千行百业”将催生出大量新场景和新业态。这些新场景和新业态也会带来全新的安全问题。我总结，人工智能发展面临的安全问题大致可以分三类。

**第一类是人工智能大模型自身的安全问题。**开发风险、数据风险、应用风险和基础环境风险这四大安全风险比较突出。**开发方面，**开源大模型要重点防范代码缺陷和预留后门等问题；应用方面要防“内鬼”对训练数据投毒，进行模型篡改、配置篡改；**数据方面，**要小心内部配置错误和弱口令等造成的数据库暴露；基础环境方面要重点关注云、API、传统设备漏洞等等。目前，已有团队发现DeepSeek存在严重漏洞，并可借此获取后端隐私数据、API 密钥、操作元数据，尽管漏洞很快被修补，但是根据我们的经验，新漏洞会不断被挖掘出来。

第二类是利用人工智能开展网络攻击的问题。****人工智能促进了网络攻击手段的更新迭代，“饱和式”攻击成为可能，攻击者可以瞬时发动海量攻击打垮已有的网络安全体系。**人工智能还提升了“以假乱真”的能力，**深度伪造、认知战、钓鱼等威胁加剧。攻击者可利用人工智能“换脸变声”输出虚假信息，开展网络诈骗，或输出背离主流价值观的内容危害认知安全。

**第三类是通过攻击人工智能引发的“网络攻击大爆炸”。**未来人工智能会成为社会的基础设施，当大模型嵌入智慧城市、工控系统、智慧政务等关键领域时，会放大漏洞等传统安全威胁，一旦人工智能大模型遭到攻击可能会牵一发而动全身，引发社会服务中断、生产停滞、隐私数据泄露等安全事件。

心智观察所：在推动AI大模型安全标准或合规框架方面，与政府、学术界或其他企业展开合作的拓展点有哪些？例如针对大模型的数据安全与伦理问题。

**齐向东:**2024 年4月，公司推出的QAX-GPT安全机器人凭借多个方面的综合表现，获得由中国计算机 行业协会人工智能专委会、中国软件测评中心（工业和信息化部软件与集成电路促进中心）联合 颁发的国内首批“大模型安全评定证书”，被认定符合二级评定资格要求。这是迄今为止大模型 安全服务能力的最高级别认证，处于业界领先水平。

心智观察所：近年来国家强调“链主”企业的生态引领作用。齐安信作为网络安全龙头企业，在参与行业标准制定、扶持中小企业协同创新方面有何具体规划？未来如何通过两会平台推动建立更开放的产学研合作机制，助力产业整体竞争力提升？

**齐向东：奇安信在人才培养方面的经验概括起来是三点：**一是建立专业人才培养基地，我们在2018年，就在绵阳成立安全人才虎符基地，并先后在武汉、沈阳、扬州等地建立基地，目前已经累计培养超1.5万网络安全人才；二是校企联合进行高层次人才培养，奇安信被中组部列为“培养卓越工程师重点企业”，与清华、北邮、北航等高校联合培养，目前在校在企的硕博士有60多名；三是以赛促学、以赛促教，我们积极开展网络安全实战大赛、打造众创平台、与高校合作建立实践性的学科体系，探索出了多元化的实战人才培养模式，为网络安全事业的发展注入源源不断的人才活水。

**破除AI“人才荒”，关键是打通企业和高校两个“蓄才池”，给青年创新人才更多施展拳脚的机会。**我拿DeepSeek来举例，DeepSeek团队的核心成员多是来自清北、浙大等顶尖高校的应届生、博士生，他们大多是90后。这样一支人才队伍，学术背景扎实，富有创新精神，为我国科技创新提供关键支撑。建议加大力度推动校企融合，通过选取人工智能领域相关的骨干科技企业作为大学生就业实训基地、鼓励校企开展联合攻关等方式，给年轻人更多深入产业一线的机会，从而逐步化解我国面临的 AI“人才荒”。

心智观察所：奇安信是否计划与云计算厂商、通信运营商、芯片企业或终端设备商共建AI安全生态？

齐向东：奇安信作为中国领先的网络安全公司，一直致力于推动AI安全生态的建设。公司积极与云计算厂商、通信运营商、芯片企业和终端设备商展开合作，共同应对AI技术带来的安全挑战。通过多方协作，奇安信旨在构建一个开放、协同的AI安全生态系统，确保AI技术的安全应用与发展。

本文系观察者网独家稿件，文章内容纯属作者个人观点，不代表平台观点，未经授权，不得转载，否则将追究法律责任。关注观察者网微信guanchacn，每日阅读趣味文章。