蚂蚁集团成立天象安全实验室 搭建大模型安全研究体系

<article><section data-type=“rtext”><p>【环球网科技报道 记者 李文瑶】6月24日，记者从蚂蚁集团方面获悉，蚂蚁集团成立天象安全实验室，围绕大模型、Web3等新技术和场景背后的数字基础设施的安全做重点投入，并关注在人才建设、场景赋能、生态开放以及产学研技术融合落地。</p><p>据了解，天象安全实验室将重点聚焦下一代基础设施安全前沿探索，构建领先的大模型、Web3基础设施领域的安全研究体系以及自动化安全解决方案。</p><p><img data-alt="" src="//img.huanqiucdn.cn/dp/api/files/imageDir/2c5bbd31bd57fcd1e38f7fddb638dd77u1.png?imageView2/2/w/750" /></p><p>在大模型基础设施安全方向，重点针对大模型供应链安全，包括模型训练、微调、部署、运维的完整生命周期内涉及的三方库、插件、框架等的问题；在Web3基础设施安全方向，围绕在链平台安全、合约安全、链上攻防以及C端攻防开展工作，确保Web3技术能够稳健且安全地运行，保护去中心化应用和用户的资产安全。</p><p>同时，天象安全实验室设立了专家委员会，邀请来自电子科技大学、华中科技大学、中山大学、北京理工大学、上海交通大学等多所高校的专家学者力量，共同参与实验室建设，探索下一代数字基础设施安全科技，通过在web3安全以及大模型基础设施安全等技术方向形成合力，推动产学研技术融合落地。</p><p>目前，随着大模型（如大规模人工智能模型）和Web3技术的快速发展，这些新技术和场景对数字基础设施的安全提出了更高要求。</p><p>对此，蚂蚁集团副总裁、大安全技术部总裁李俊奎表示，AGI、Web3等数字技术的发展和融合创新带来了全新的应用场景和生活方式，并为产业数字化带来了无限的想象力。如何以安全科技守护新技术、新场景发展高度依赖的数据要素、基础软件等基础设施的安全，也是我们当前必须面临的问题。安全必须跑到业务发展的前面，在黑灰产渗透之前，通过科技防范手段前置，夯实发展新质生产力的坚强保障。</p><p>公开信息显示，蚂蚁集团与OpenAI、谷歌、科大讯飞等企业联合编制的大模型安全国际标准已在瑞士举行的第27届联合国科技大会上正式发布。这些标准旨在提升大语言模型和生成式AI应用的安全测试水平，为行业提供统一的测试框架和方法，推动AI技术的负责任发展。</p><p>2023年，蚂蚁集团已经推出了名为“蚁天鉴”的大模型安全一体化解决方案，包含“蚁鉴2.0”安全检测平台，能够对文本和图像等所有类型的数据进行AI安全检测。该方案利用智能进攻对抗技术生成诱导性问题，对大模型进行诱导式问答，以检测模型回答的安全性，持续寻找潜在漏洞。</p></section></article>