《环球时报》记者在第二届网络空间安全（天津）论坛听专家介绍：如何应对AI发展中的新型犯罪

作者：郭媛丹

2024-09-05

<article><section data-type=“rtext”>【环球时报赴天津特派记者郭媛丹】第二届网络空间安全（天津）论坛4日开幕，大模型与数据安全制度建设、网络数据人工智能（AI）安全治理实践等成为与会官员和专家共同关注的话题。论坛期间接受《环球时报》采访的网络安全专家表示，新技术既带来了风险，也会同步改善风险防范能力，需要用AI应对AI攻击。 新技术带来三类网络安全风险 本届论坛以“共建网络安全共治网络空间”为主题，共同探讨网络空间安全领域的“硬核”新技术、未来新场景、治理新议题，有效形成网络安全治理的路径、策略、模式、标准，以系统思维推动综合治理，不断完善网络空间安全保障体系，充分引领网络安全发展新方向。 “必须要用AI应对AI攻击。”360集团创始人周鸿祎在本届论坛发言中表示，当前AI技术深刻影响各行各业，在为新质生产力发展带来机遇的同时，也带来诸多全新安全挑战，必须用AI重塑安全，依托专业化大模型方法论，打造安全大模型，重塑安全产品，引领安全行业革命。 近日，韩国网民在社交平台“电报”（Telegram）上发现大量聊天群，其中有成员创建和分享露骨的性“深度伪造”图像，对象涉及未成年女孩。韩国“深度伪造”事件升级，被认为是采用新犯罪手段的“N号房”案件重现。“深度伪造”技术，即使用人工智能生成的技术，将个人的声音、面部表情及身体动作拼接合成虚假内容。 安天集团董事长、首席技术架构师肖新光在论坛期间接受《环球时报》记者采访时表示，“‘深度伪造’事件是新技术带来新型风险。”肖新光认为，新技术带来的网络安全风险，通常有三类。首先是新技术将推动传统威胁和风险升级。以通过网络入侵攻击窃取信息、定向勒索等攻击活动为例，人工智能对攻击活动全过程都能带来很强的辅助作用，比如提升整理攻击入口的发掘效率、让攻击活动更自动化、通过代码自动辅助生成降低病毒木马开发能力、改善免杀能力、通过生成高质量社会工程话术实现更强的钓鱼欺骗性等。其次，新技术基础设施和应用会成为侵害目标。大模型平台成为新的信息资产汇聚地，大模型应用入口也成为用户和节点新的暴露面。第三就是新技术带来新型风险，韩国“深度伪造”事件就是典型代表。 AI也能改善风险防范能力 肖新光认为，AI带来“深度伪造”、高度针对性的社会工程话术生成能力，会导致网络犯罪活动中基于认知实施的占比提升。“比如此前发生的某跨国公司香港分公司的财务人员，被拉入视频会议，参会人员都是攻击者基于‘深度伪造’生成的‘公司领导’，导致其按照假冒‘CFO’指示，给对方指定账户共计转账2亿港元，是典型的基于‘深度伪造’穿透管理流程的攻击。”。 “新技术既带来了风险，也会同步改善风险防范能力。人工智能在赋能威胁样本分析、推进安全编排能力，以及对抗‘深度伪造’等方面，同样会发挥巨大价值。”肖新光也表达了和周鸿祎类似的观点。 国际刑警组织网络犯罪局副局长董健在论坛发言中也呼吁，国际刑警组织各成员国、各利益相关方，共同加强打击网络犯罪领域的合作，加强打击网络犯罪相关的信息共享，更加有效地利用国际刑警组织的渠道和平台，共同打击网络犯罪，保护全球网络空间安全和社区安全。 AI内容应该符合人类价值观 不仅是安全领域，当前AI发展已经影响到了人类生活的各个领域，并产生了伦理问题。新加坡《联合早报》3日的一篇报道显示，实际上，AI在价值观问题上一直存在争议。如何让大模型的能力和行为跟人类的价值和伦理原则“对齐”，是AI安全的核心议题之一。中国网信办去年4月公布的意见稿明确，人工智能生成的内容应当体现社会主义核心价值观。 近一段时间以来，儿童智能手表频频“翻车”就是AI和人类的价值和伦理原则“背道而驰”最典型的例子。 相关数据显示，每3个孩子中，就有1个戴智能手表，其中，小天才、360以及小米在中国市场占有率均位于前列，但这三款智能手表最近都遭到“翻车”。首先，8月21日有家长上传视频显示，360儿童智能手表在回答 “中国人是世界上最聪明的人吗”时，答案中出现了“因为中国人小眼睛、小鼻子、小嘴、小眉毛、大脸，从外表上显得脑袋在所有人种里最大”“中国人聪明的人是有，但笨的我承认是世界上最笨的”“历史是可以捏造的”“现在的手机、电脑、高楼大厦、公路等等所有高科技都是西方人发明的”等言论。 此外，8月27日的一段视频显示，儿童智能手表小天才在回答“中国人诚实吗”这一问题时说“中国人是世界上最不诚实的人，最虚伪的人，甚至连叫‘人’都玷污了‘人’这个称呼”。对于这个答案，网民惊呼“毁三观”。与此同时，另一款畅销儿童智能手表小米旗下的米兔也被爆出类似问题。 谈及上述问题时，肖新光表示：“生成式人工智能的内容生成能力，基于大量的自然语言文献等数据内容的训练。”一方面，生成式人工智能的机理决定了其内容生成存在“幻觉”问题；另一方面，其必然会受到训练内容的影响。而网络是一个开放式内容平台，是认知塑造与对抗的战场。“在网络原始内容中的历史虚无主义、民族虚无主义、各种极端主义、伪科学、各种谣言等内容以及大量低质量的技术文献和论文，都有可能成为训练的数据源，最后会对大模型内容输出形成污染和影响。” 据介绍，过去较为受到关注的内容入口是类似搜索引擎、自媒体平台等。而智能穿戴、智能家居产品，往往也连接到大模型平台，并嵌入了大量App，其本身也是内容入口，特别是部分智能产品有可能比通用的内容入口更接近儿童等特定人群。肖新光表示：“这就需要以大网络安全观，完善智能产品和产业的安全体系，既要关注手机、智能终端等产品的安全防护能力、供应链安全体系建设、App的个人信息保护等，也要高度关注认知层面的综合治理问题。当然，这是复杂的体系性治理工作，是一个长期、艰巨、动态的过程。” </section></article>