安全治理合辑 |永远慢半拍？AI治理能否追上狂奔的技术
guancha
随着生成式AI和大模型的爆发式普及，我们正在看到它带来的惊人创新与令人警惕的问题交错上演——印度在军购交易中利用“量子”“AI”等热词伪装老旧技术骗走以色列5亿美元定金，暴露了“AI包装”下的信息差和合同陷阱；科研界里有人用AI写论文，甚至在稿件里隐藏白字要求审稿AI说好话；有人用AI大批量生成歌曲、刷点击，骗取App Store上千万美元的版权分成。
这些看似“聪明”的应用，背后是生成式AI带来的幻觉输出、深度伪造、内容安全失控和商业模式欺诈。它不仅考验着监管的敏感度和治理能力，也提出了一个全球性难题：我们要如何确保AI系统不仅强大、易用，而且安全、可控、可信、负责任？
在这个背景下，中国提出了自己的AI“双轨战略”——既要加快人工智能产业创新发展的“高速公路”，又要在技术安全、伦理治理、法规标准等方面建好“护栏”。在伦理治理与全球共识方面，《WAIC UP!》曾采访清华大学薛澜教授，他指出治理AI必须像应对气候变化一样，先深入理解技术原理，才能科学分析风险并找到解决方案。他强调，必须依靠全球顶尖专家共同评估，超越国家利益，真正以人类未来为唯一关切。在技术治理与可信落地方面，上海交通大学张拳石教授表示，大模型的“聪明”往往是“事后拟合”的幻象，缺乏可解释性和可验证性。他强调，AI若要在医疗诊断、自动驾驶等关键场景落地，必须实现可解释、可验证、透明可信的技术体系。
也正是在这样的全球风险与本土探索交织的节点上，WAIC 2025 特别设置了「AI+安全治理」板块。这个板块不仅要展示中国在AI安全领域的技术突破和合规方案，更在于推动全球范围内的治理共识。它涵盖了从技术治理到伦理立法，从产业合作到社会治理，再到“AI向善”的多维话题，集结了顶尖科研院所、国际组织、政府部门、法律学者和企业领袖，共同探索AI时代的安全护栏和发展红利如何兼得。
技术治理论坛：蚂蚁集团、华东政法大学 — 高阶程序引领的AI应用新范式
在技术治理领域，其中一个重点论坛就是蚂蚁密算和华东政法大学主办的「从通用智力到专业生产力：高阶程序引领的AI应用范式」。这里谈的不是抽象的AI伦理，而是落到非常“硬核”的技术路线：如何用高阶程序（HOP）破解大模型在金融风控、网络入侵检测、医疗计费等专业场景的可靠性问题。
本次论坛聚焦高阶程序如何在大模型的基础上，进一步提升专业领域的生产力，推动AI技术从通用智力向专业生产力的转变。蚂蚁集团副总裁、蚂蚁密算董事长韦韬将在论坛为大家介绍高阶程序（HOP）的诞生背景，技术原理，应用场景等，同时会上将会发布国内首个专业大模型驱动的高阶程序（HOP）技术开源，这是一场关于AI技术升级与行业赋能的前沿探索，欢迎各界人士共同见证高阶程序的无限潜力。
安全治理论坛：安远AI — 聚焦全球AI安全治理前沿
安远AI主办的「人工智能安全和治理论坛」则成为WAIC全场专门聚焦AI安全治理的高端论坛。
该论坛围绕AI安全科学基础、AI安全新兴挑战、AI风险管理实践、AI安全全球治理四大主题展开讨论。嘉宾阵容包括图灵奖得主Yoshua Bengio、中国工程院院士高文、张亚勤院士、加州大学伯克利分校教授Stuart Russell等，他们将分享AI安全的理论基础和安全研究的最新进展，并围绕"超级智能—科学家的共识与分歧"展开高峰圆桌对话。
此外，还有Dawn Song等国际安全技术专家就前沿AI的网络安全威胁、模型失控风险、AI×生命科学领域的负责任创新等前沿议题深入对话。在AI风险管理实践和全球治理维度，论坛将汇聚来自xAI、阿里研究院、百度、Partnership on AI等前沿机构的专家分享最新风险管理实践，同时邀请诸多国际机构代表，围绕中美欧不同政策路径、国际标准建设和多边治理合作展开深度对话。这不仅是一次技术讨论，更是推动全球AI安全治理合作的重要平台。
无论是蚂蚁集团与华东政法大学共论“高阶程序”技术治理的落地路径，还是安远AI专场聚焦AI安全的科学基础构建、挑战应对、风险管理与全球治理，所有这些议题都在尝试回答一个核心问题——在AI成为新质生产力的同时，如何让它“可用、好用、敢用”，并为全球治理体系贡献“中国方案”和“中国智慧”。
以下为本届大会「AI+安全治理」专场的完整议程及各论坛亮点详情——期待各界同仁深度聆听、共同探讨。
「智听未来」AI+安全治理前沿论坛矩阵
人工智能安全治理需要全球多边协作与本土化实践相结合。WAIC 2025“AI+安全治理”论坛矩阵聚焦国际合作、技术创新与标准共建，邀请政府、国际组织、学术机构和产业巨头共同探讨AI治理的新路径，推动构建包容、公平、可信的全球AI治理体系。
技术治理板块
“有益 安全 公平”人工智能向善论坛
7月26日14:00-17:00
上海世博中心431会议室
论坛以“有益、安全、公平”为主题主线，聚焦人工智能发展的治理底座和价值引导，倡导构建人工智能发展的治理逻辑闭环，助力构建人本导向、负责任、可持续的智能社会，以此响应中国政府对人工智能“朝着有益、安全、公平方向健康有序发展”的战略部署。论坛议题设计坚持国际性、系统性、多维度兼容，涉及智能体经济、AI基础设施、安全评测、高质量数据等多个领域。
从通用智力到专业生产力：高阶程序引领的AI应用新范式论坛
7月27日14:00-17:00
上海世博中心430会议室
会议聚焦高阶程序如何在大模型的基础上，进一步提升专业领域的生产力，推动AI技术从通用智力向专业生产力的转变，未来，大模型驱动的HOP有望替代几乎所有行业数字化的初级工种，显著提升数据和业务处理效能，为各行业带来深远变革，这是一场关于AI技术升级与行业赋能的前沿探索，欢迎各界人士共同见证高阶程序的无限潜力。
伦理治理板块
人工智能法治论坛
7月26日14:00-16:40
上海世博中心515会议室
论坛以“连接：AI伦理与法治”为主题，邀请国内外相关领域高影响力的学者和业界专家，聚焦人工智能、大模型、智慧法治等法学前沿主题，从可信人工智能发展与法律制度的构建，AI安全治理的法治路径，从云端到终端：人工智能体的可信治理，演化中的人工智能与适应型法治：中国路径的制度回应，韩国人工智能框架法案的批判性概述等多元视角，在“开放创新”与“风险可控”之间找到新平衡点，共同探讨开源生态可持续发展的法治路径，共同呈现学术界和产业界对于AI治理的伦理与法治的最新见解。
人工智能的创新发展：伦理引领，治理赋能中法论坛
7月26日14:00-17:00
华东师范大学滴水湖国际软件学院一楼会议室
落实中法两国元首关于AI伦理和全球治理的共识，延续巴黎峰会成果，依托中法人文合作机制和华东师大的学术基础，搭建中法专家及青年学子对话平台，推动中法人工智能伦理与全球治理的国际合作。华东师范大学携手里昂高等师范学校、格勒诺布尔阿尔卑斯大学、里昂第三大学、蔚蓝海岸大学、洛林大学、萨瓦大学、里昂天主教大学等法国高校，共同发起推动人工智能实现平衡安全、创新与可持续发展的全球倡议。
量子城市：空间智能+城市治理
7月26日14:00-17:30
上海市杨浦区共青路130号大中华造船机器厂旧址
论坛邀请国内外顶尖专家学者围绕人工智能赋能超大城市空间治理议题进行交流，面向全球共同研讨超大城市空间治理难题，构建智能治理新范式，并展示上海量子城市空间智能创新实践案例，输出可复制的超大城市空间智能治理的“上海方案”，推动行业实践探索。
人工智能规则全球对话与协同发展论坛
7月27日09:00-12:00
上海世博中心430会议室
论坛致力于服务国家人工智能发展战略，搭建国际规则交流与协同发展平台，推动中国在联合国框架下积极参与全球人工智能治理。论坛邀请人工智能治理重要国际组织高级别代表，人工智能立法代表性法域专家学者，以及我国知名人工智能企业代表共同探索与交流。论坛将重磅发布“全球人工智能治理规则地图”，发起“全球人工智能规则合作研究平台”，促进多边协作、能力建设与制度互通。
人工智能治理国际多方合作论坛
7月27日09:00-12:00
上海世博中心620会议室
论坛拟邀请欧洲、中国、亚太等关键AI治理智库、标准组织、认证机构、头部公司，侧重从产业的视角，探讨AI治理工程化、标准化、认证化的落地路径。希望借助本论坛展示国际产业界AI治理的实践，促进国际AI治理的共识和互操作，助力国内外AI产业届各方的交流、合作和共同发展。
智能社会论坛：AI赋能社会治理与可持续发展
7月27日09:00-12:00
上海世博中心619会议室
论坛以“AI赋能社会治理与可持续发展”为主题，邀请了联合国环境规划署、欧盟、中国、英美等国内外专家学者、政策制定者与产业实践者，通过主旨演讲、跨界对话，共同探讨人工智能在社会治理与可持续发展中的前沿应用、伦理挑战与政策路径。同时，论坛将发布人工智能赋能社会治理与可持续发展的研究成果、技术方案和实践样本，推动技术向善，助力全球可持续发展议程。
安远AI人工智能安全和治理论坛
7月27日09:00-17:30
上海世博中心518会议室
论坛将围绕AI安全科学基础、AI安全新兴挑战、AI风险管理实践、AI安全全球治理展开讨论，为联合国大会和全球人工智能峰会相关议题奠定基础。论坛共有超过25位国内外专家学者参会。论坛将举办15场主旨演讲、5场圆桌讨论及四份报告发布，并发布多项AI安全治理前沿成果。通过深入探讨AI安全技术、治理方案和国际合作机制，为构建全球AI治理体系贡献中国智慧，推动人工智能安全发展，造福全人类。
人工智能的全球发展与治理：共赢与共治之路论坛
7月27日14:00-17:30
阿里巴巴徐汇滨江区D区星海厅
汇聚全球政界、学界、产业界及国际组织的专家力量，共同探讨在人工智能快速演进背景下，如何推动包容性发展与负责任治理。面对技术扩散带来的机遇与挑战，论坛聚焦全球治理框架的协同建设，倡导以“共赢”理念推动技术红利的广泛共享，以“共治”路径回应跨国治理的制度需求，努力为全球AI发展注入可持续、公平与可信赖的制度支撑。论坛将围绕国际规则构建、技术伦理边界、发展中国家参与、产业协同机制、风险评估与响应机制等核心议题展开多场高层对话与专题研讨，推动形成多边共识、促进国际合作，助力构建开放、公正、有效的人工智能全球治理新格局。
社会科学的创新与人工智能的未来
7月27日14:00-17:30
上海社会科学馆多功能厅
论坛聚焦“应用探索”和“成果展示”，体现“国际化”和“年轻化”，围绕人工智能助力社会科学创新（AI4SS）和社会科学引领人工智能向善（SS4AI），邀请国内外专家学者以及青年学人开展多方位交叉议题的深度交流。同时，论坛将联合上海市主要高校和研究机构，成立人工智能与社会科学学术研究共同体并发布最新研究成果，上海社会科学馆还将开辟固定展区展示上海市主要高校和研究机构“人工智能与社会科学融合发展”成果，共同为人工智能与社会科学的双向赋能贡献创新智慧。
AI向善：人工智能在环保、教育、金融、医疗等领域的跨行业应用与发展
7月28日14:00-17:00
上海世博展览馆1B会议室
论坛将汇聚中国科技领袖、慈善机构、多边机构和社会创新者，共同探讨人工智能在解决紧迫发展挑战中的作用。从健康和教育到金融普惠和气候适应能力，该主题论坛重点展示可扩展的跨境人工智能解决方案，以实现公共利益。
智库集结
国际组织：联合国教科文组织、国际标准化组织、Partnership on AI、International AI Governance Association、欧盟标准化委员会、经济合作与发展组织（OECD）等。
政府与机构：司法部、中央网信办、上海市教育委员会、中国网络空间安全协会、国家互联网应急中心、中国科学院、中国电子技术标准化研究院、上海市车联网协会、鹏城实验室等。
高等学府：佛罗里达大学、法国蔚蓝海岸大学、里昂天主教大学、北京大学、清华大学、天津大学、上海大学、对外经济贸易大学、中国政法大学、同济大学、华东师范大学、北京师范大学、北京邮电大学、华东政法大学、西北政法大学等。
知名企业：xAI、华为、腾讯、蚂蚁集团、字节跳动等。
大咖齐聚
联合国副秘书长 Amandeep Singh Gill
联合国教科文组织东亚地区办事处主任兼代表 Shahbaz Khan
联合国环境规划署科学司司长 刘健
国际标准化组织主席 曹诚焕
国际人工智能治理联盟主席 John Higgins
图灵奖得主 Yoshua Bengio
欧洲标准化委员会《人工智能可信框架》起草组长 Piercosma Bisconti
欧盟《人工智能法》组草组组长、麻省理工学院研究员 Gabriele Mazzini
斯洛伐克投资、区域发展和信息化部数字监管和人工智能治理专家，经合组织人工智能治理工作组主席 Juraj Čorba
MILA魁北克人工智能研究院政策、安全与全球事务副总裁 Benjamin Prudhomme
人工智能安全中心创始人 Dan Hendrycks
全球人工智能伙伴关系联合主席 Lucia Velasco
AI Data Robotics Association主席 Emanuela Girardi
韩国个人信息保护委员会数据处理标准小组主席 金秉弼
加州大学伯克利分校教授 Stuart Russell
新加坡工程院院士、南洋理工大学校长讲席教授 文勇刚
法国蔚蓝海岸大学副校长 Laurent Counillon
日本上智大学副校长 森下哲朗
联合国大学驻澳门研究所所长 黄京波
国务院参事、清华大学人工智能国际治理研究院院长 薛澜
中国工程院院士 、同济大学党委书记 郑庆华
上海纽约大学校长、华东师范大学哲学系教授 童世骏
清华大学院长、教授 张亚勤
中国政法大学党委书记 姜泽廷
中国政法大学数据法治研究院教授、上海市人工智能伦理与治理委员会专家委员 张凌寒
中国科学院自动化研究所研究员、人工智能伦理与治理研究中心主任 曾毅
国家新一代人工智能治理专业委员会委员 李仁涵
中国网络空间安全协会理事长 赵泽良
国家互联网应急中心常务副主任 刘博
中国电子技术标准化研究院网络安全研究中心人工智能安全部主任 郝春亮
之江智慧研究中心主任 陶海青
上海市车联网协会秘书长 阮大治
阿里巴巴AI治理中心主任 傅宏宇
华为技术有限公司副总裁 甘斌
蚂蚁密算CEO 王磊
……
*论坛议程与嘉宾以现场为准。
「智见未来」AI+安全治理展览图谱
面向AI安全治理全链路场景，WAIC 2025展览区汇聚众多头部企业与科研机构，共同展示大模型安全、密态计算、AI安全平台、智能运维和可信AI基础设施等创新解决方案，促进产业链协同与国际标准接轨。
企业领航
AI+安全治理展区汇聚百度、蚂蚁集团、深信服、思科等企业，重点展示大模型安全分级、密态计算保护、安全智能体平台和全链路安全运维等多样化产品方案，共同推动数据安全、AI可信和全球治理能力建设。
爆品揭秘
深信服带来安全GPT大模型，该模型是国内唯一一家通过《互联网信息服务深度合成管理规定》《生成式人工智能服务管理暂行办法》双备案的安全大模型。安全 GPT 已落地 400 多家行业用户，支持7x24自主值守、秒级响应和全流程闭环处置等功能。
思科科技（北京）有限公司展示全栈AI应用与安全解决方案，包括AI场景规划（AI CX）、AI基础架构设计（AI DC与Agile Network）、AI Observability & Security、AI Access Network、Collaboration协作系统。通过Splunk数据智能、eBPF技术、Cisco安全产品等，提供端到端安全、可观测、可信的AI全生命周期防护和生产力提升。
蚂蚁集团带来蚂蚁密算可信数据空间，包括密算一体机和密算笔记本，实现数据全链路密态化保障。依托自研安全芯片和隐私计算框架，支持农业信贷和跨组织数据共享，确保高敏感数据的安全合规流通。
中国电信首发智云上海，构建云网融合的新型信息基础设施，服务家庭、企业、政府的AI算力需求，支持普惠AI2H及公共算力服务，通过高可靠调度和云网一体化架构，实现全域算力资源的弹性供给。
物道智云（上海）科技有限公司，首发物道AI物联网平台——WuDao AIoT支持20+工业协议实现毫秒级数据采集，内置工业数据湖与边缘AI，支持云-边-端协同分析。具备知识库与大模型结合的智能问答功能，内建规则引擎和事件驱动闭环管理，提升工业运维智能化水平。
中电金信数字科技集团股份有限公司推出行业数字底座“源启”3.0集成基础运行支撑、数字构建、数据资产和行业AI四大平台，提供云原生架构管理、多样化开发运维工具链、全链条数据治理能力和AI生产能力，助力行业实现智能化转型。
南方电网发布电网安全控制智能体和“天空地”巡检智能体。电网安全控制智能体实现断面控制智能化优化，提升电力系统安全；“天空地”巡检智能体融合人形机器人、机器狗和AI无人机，实现电网运维智能化、自动化与安全性提升。
中国远洋海运集团展出航安宝智能航运安全系统，结合AI、大模型、边缘计算，首创“船岸一体”多技术融合模式，实时感知全球船舶风险态势，实现80余类风险场景捕捉与主动预警，提升航运安全管理能力。
超云数字技术集团有限公司推出SuperCube 7000 AI模型一体机，集成大模型训练与推理功能，支持本地知识库挂载和行业定制，具备高安全性、高效率和即开即用特性，助力行业大模型应用落地。
蜜度科技股份有限公司首发模力通智慧办公智能体，整合DeepSeek、蜜巢、文修三大模型，支持通用问答、公文校对、材料分析等八大功能，覆盖政务、医疗、金融、能源、教育等多领域的安全高效办公场景，可在离线状态下使用，保障数据安全合规。
无限光年带来光语启智智算平台，覆盖AI工程全流程管理，提供模型训练、开发、部署和资源纳管的全链路服务，具备高适配性和安全性，帮助企业自主开发并部署AI模型，释放智能化潜能。
浪潮云信息技术股份公司展示海若一体机，集成高性能硬件与海若大模型，打造软硬件协同、生态兼容的一站式AI基础设施。为政企客户提供灵活部署、数据安全合规的定制化AI能力，加速大模型场景落地。
北京首都在线科技股份有限公司发布DeepSeek一体机，搭载自研DeepSeek大模型，支持私有化部署与全尺寸模型调用，覆盖政务、金融、工业、客服等场景，降低企业AI应用的技术门槛，实现本地化安全合规部署。
*展览展品以现场实际展出为准。
在人工智能全球化竞争与合作加剧的背景下，WAIC 2025「AI+安全治理」板块通过多场国际论坛和产业展览，汇聚全球政产学研各方智慧，推动安全、可信、可控的AI技术治理体系建设，共同打造面向未来的全球合作新范式。