今年以来,人工智能大语言模型应用取得突破进展,掀起新一波人工智能变革浪潮。为积极应对大模型安全带来的挑战,近日,由CCF大数据与计算智能大赛 (CCF BDCI)组委会、大数据协同安全技术国家工程研究中心联合360集团共同主办的2023 CCF BDCI 数字安全公开赛正式启动,并率先开启大模型安全赛道,面向全球发出赛题合作邀请。
如今,人工智能大模型发展已成为当前科技领域最为重要的突破之一,引发了全球科技力量的比拼追赶。然而,伴随着大语言模型在各数字领域的迅速普及和广泛应用,也衍生出一系列安全风险。此前,360对OpenAI、微软、谷歌等厂商的大模型开展安全风险评估显示,主流大模型均存在提示注入攻击等风险,可生成恶意代码、钓鱼邮件,漏洞利用程序等,存在安全隐患,并累计发现主流AI框架漏洞超过200个,影响超过40亿终端设备。
为积极应对大模型安全带来的挑战,2023数字安全公开赛将全面聚焦大模型安全,率先开启大模型安全赛道。本届大赛除了延续揭榜挂帅、众研众创的创新协作模式外,将突破传统的单一算法赛道,针对大模型安全的技术特点,拓展赛道类型和玩法,设置“人工智能大模型安全应用创新赛道(用大模型做安全)”和“人工智能大模型安全攻防赛道(让大模型更安全)”两大赛道,均属国内首创。
据了解,CCF BDCI数字安全公开赛自2021年开始举办,聚焦数字安全领域的算法需求,致力于推动产学研协同创新和成果转化,促进数据要素合规开放共享,打造数字安全人才培养、实践、选拔的平台。
网友评论