2020世界人工智能大会 | 观安信息助力构建人工智能安全体系_风闻

7月10日,2020世界人工智能安全高端对话在上海世博中心举行。作为2020年世界人工智能大会主题论坛,安全高端对话以“在线经济,安全赋能”为主题,由世界人工智能大会组委会主办,赛博研究院承办,观安信息、腾讯安全战略研究部、上海社会科学院互联网研究中心协办。

本次2020世界人工智能安全高端对话有中国科学院院士何积丰,上海市委网信办总工程师杨海军,上海市经信委软件和信息服务业处处长刘山泉等多维领导出席。

中国科学院院士何积丰

安全高端对话上,赛博研究院和观安信息还共同发布了《人工智能数据安全治理报告》。报告分析了数据采集、数据处理、数据流动和数据使用阶段突出的数据安全问题,结合当前全球人工智能数据安全治理现状和动态,构建了综合性的人工智能数据安全治理框架。此外,本次安全高端对话还启动了“人工智能数据安全风险评估平台”。该平台在上海市人工智能产业安全专家咨询委员会的指导下,由观安信息发起,旨在实现人工智能场景中的数据安全实现多层级风险评估,推动人工智能产业健康发展。

中国工程院院士倪光南

上海市委网信办总工程师杨海军

护航人工智能安全应用,启动人工智能数据安全风险评估平台

作为适用于通用场景的企业级解决方案,人工智能数据安全风险评估平台在本次世界人工智能大会上正式启动。该平台在上海市人工智能产业安全专家咨询委员会的指导下,由观安信息发起,专委会主任何积丰院士、上海市委网信办总工程师杨海军、上海市经信委软件和信息服务业处处长刘山泉与观安信息首席专家张照龙共同启动。

人工智能数据安全风险评估平台包括风险评估、数据集管理、知识库管理、威胁情报等功能,用于对特定人工智能应用场景中的数据安全风险进行总体评估和评级,以及数据集管理和知识库建设。

该平台设定了安全基线,开发用于敏感数据探测、数据质量检测、数据差异检测、漏洞检测以及脆弱性检测的工具。基于检测工具汇集的数据实现数据安全风险信息实时收集、自动推送、智能分析、量化评估与诊断分级。针对人工智能应用场景中的数据安全实现多层级、多维度风险评估,为企业对人工智能系统开展自评以及第三方测评机构针对人工智能项目开展风险评估和产品认证提供技术、工具和平台。

在完善和优化数据安全风险检测的基础上,该平台利用数据积累形成的数据资源池,根据不断变化的应用场景需求,构造用于各类人工智能模型的训练、测试及验证标准数据集。此外,平台还建设了人工智能数据安全知识库及威胁情报库。

人工智能数据安全风险评估平台将为智慧城市、智慧金融、智慧医疗、智能网联汽车等人工智能重点应用领域,研究和制定数据安全标准规范,开发用于敏感数据探测、数据质量检测盒数据差异检测的相关工具,为企业对人工智能系统开展自评以及第三方测评机构提供相关评估参照。

“智联世界 共同家园”,今年世界人工智能大会的鲜明主题,昭示着智能在联结世界,联结未来。本次人工智能数据安全风险评估平台的启动,是人工智能数据安全标准规范和人工智能数据安全风险评估平台在全球范围内的先驱性、创新性尝试,其对于未来在人工智能数据安全领域所开展的风险评估及数据质量检测及其他相关项目的开展提供了足备的开路价值和参考价值,为人工智能数据安全迈出了跨越式、创造性的一步!

观安信息首席专家张照龙先生接受记者采访

在接受澎湃网记者的采访中,观安信息首席专家、上海市公共数据标准化技术委员会专家成员张照龙重点阐述了当前人工智能数据安全保护的实施背景及其必要性。张照龙强调,数据作为国家基本生产要素,各行业需要明确其自身价值和实用价值,要将数据变成真正资本化的要素。

作为上海市公共数据专委会专家成员,张照龙对业界提出建议:各行业领域均需加强对数据安全问题的重视程度,加强企业自身及公共数据相关的数据保障建设。

数智安全 理创未来——人工智能数据安全治理

观安信息CTO胡绍勇

观安信息CTO胡绍勇在“数智安全 理创未来——人工智能数据安全治理”主体演讲中就当前阶段人工智能安全治理现状及治理解决方案展开分析。胡绍勇表示,现阶段全球人工智能发展正在逐步度过“探索期”并进入“成长期”,进入了发展全面转型的关键节点:在于人工智能专用技术的迅速突破;在于人工智能产业生态的蔚然成型;在于人工智能投融资的日趋理性成熟;在于人工智能应用场景的向深层拓展。与此同时数据安全也将于人工智能的发展更加深度地交织在一起,胡绍勇强调,数据安全问题已然成为人工智能突破关键转轨期所必须解决的重要制约瓶颈。

演讲中,胡绍勇分别从面临的严峻数据安全问题、各国立法模式、全球人工智能数据安全标准化制定及各界对人工智能数据安全前沿技术的拓展与实践等角度介绍了当前全球人工智能数据安全的治理现状,并从治理思路、治理原则、治理路径三个层面向在座与会人员细致阐述了我国人工智能数据安全治理框架构建情况。

胡绍勇强调,当前我国乃至全球人工智能领域都处于高速发展且成长空间巨大的转型阶段,面对差异巨大、场景各异的人工智能技术应用背景,应当切实、具象性地构建数据安全防御体系,针对不同技术应用场景和需求场景,应当准确设立针对性、高适用性的技术功能模块体系。

联合发布《人工智能数据安全治理报告》

观安信息与赛博研究院联合发布的《人工智能数据安全治理报告》强调要在人工智能的动态发展中实现对数据安全风险整体的可知可控、确保人工智能数据在采集、标注、处理、存储、流动、共享和场景应用的全生命周期安全,不断提高人工智能企业的数据安全能力,增强人工智能数据安全供给链的连续性和可用性。

此外,报告还为企业提供了通用场景和若干具体场景下的人工智能数据安全技术解决方案,即智能网联汽车、人脸识别和工业物联网三个发展前景广阔的数据安全重点领域。

随着智慧城市、工业互联网、自动驾驶等人工智能实用技术的逐渐落地、普及,数据安全化、技术规范化、行业标准化、法规健全化将是未来人工智能发展的核心要求。制定统一的数据安全监测标准、数据安全防范架构、数据安全评估体系需要多方参与共同协调,网络空间安全将成为人工智能多领域间合作的重要领域。未来,随着人工智能技术的日趋成熟,人工智能数据安全将逐步成为一项需持续维护建设、持续推进发展的长远工作。