率先开启大模型安全赛道 2023 CCF BDCI数字安全公开赛开启报名

伴随大语言模型在各数字领域的迅速普及和广泛应用，所衍生的一系列安全风险引发了多起安全事件。为积极应对大模型安全带来的挑战，由中国计算机学会主办，由CCF大数据与计算智能大赛 (CCF BDCI)组委会、大数据协同安全技术国家工程研究中心联合360集团共同承办的2023年数字安全公开赛聚焦大模型安全，率先开启大模型安全赛道，并于近日正式开启报名。

提示注入攻击是一种针对生成式文本类大模型的特殊安全威胁，攻击者通过精心设计的输入提示，可以诱导AI模型生成不当内容或输出内部隐私信息。此前，大数据协同安全技术国家工程研究中发布的国内首份《大语言模型提示注入攻击安全风险分析报告》指出，目前大语言模型面临的风险类型多样，在这些安全威胁中，提示注入攻击因利用有害提示覆盖大语言模型的原始指令，具有极高危害性，也被全球性安全组织OWASP列为大语言模型十大安全威胁之首。

为了发现大语言模型中存在的提示注入安全风险，本届赛事设置面向大语言模型的提示注入攻防竞赛赛题，采用黑盒场景设置，选择多个不同防御等级的大模型作为目标模型，要求参赛队伍通过构造不同类型的攻击样本，使得目标模型对攻击样本进行响应并返回风险内容，分别完成目标劫持、提示泄露、越狱攻击等目标任务。

主办方表示，如今，开源软件供应链已成为备受青睐的攻击途径之一，为有效防范此类攻击，需要实时监测开源软件的安全数据以识别潜在威胁。因此，赛事还设置了基于大模型的开源软件安全应用情报员应用开发赛题，拓展赛道类型。

目前，2023 CCF BDCI 数字安全公开赛已正面向社会各界开放，除赛事奖金外，大赛组委会也为参赛队伍提供了获奖证书、招聘绿色通道、安全行业顶级会议门票、顶级专家交流机会等众多福利。