开发下一代网络安全技术！白宫发起人工智能网络安全挑战赛

 2023-08-11 

周四，在拉斯维加斯举行的 BlackHat 黑客大会上，拜登政府宣布启动为期两年的 “人工智能网络安全挑战赛”（AIxCC），探索如何基于 AI 开发颠覆性的下一代网络安全解决方案，用来保护美国最重要的软件，包括运行互联网和关键基础设施的计算机代码。

用 AI 开发下一代网络安全技术

“人工智能网络安全挑战赛” 由国防高级研究计划局 (DARPA) 牵头，Anthropic、谷歌、微软和 OpenAI 合作。两家公司将为参赛者提供业界最强大 AI 模型用于设计全新的和颠覆性的网络安全方案，并为获胜者提供近 2000 万美元的高额奖金。为了确保广泛的参与和公平的竞争环境，DARPA 还将向想要参赛的小企业提供 700 万美元经费。

AIxCC 的预选赛将于 2024 年春季举行，得分最高的队伍（最多 20 支）将受邀参加 DEFCON2024 的半决赛。其中得分最高的队伍（最多 5 支）将获得奖金并继续进入 DEFCON2025 举行的决赛阶段。决赛中得分前三名的选手将获得额外的奖金。

白宫表示，顶级参赛者将开发下一代网络安全解决方案，为美国乃至全球网络安全市场带来意义重大的变革。

根据一份新闻稿，AIxCC 挑战 “将展示人工智能的潜在优势，帮助保护整个互联网和整个社会使用的（关键基础设施）软件，从美国的电网到驱动日常生活的交通系统。”

用 AI 加强关键基础设施软件安全

白宫科技政策办公室主任阿拉蒂・普拉巴卡尔 (AratiPrabhakar) 在媒体吹风会上表示：“这项竞赛将吹响号召各类创意人才积极参与加强美国企业和社会关键软件安全的号角。”

普拉巴卡尔指出，近二十年来，DARPA 不断发起此类有奖挑战赛，以广泛吸引 “企业中有才华的人参与竞争，解决极其困难的问题。这是政府和私营企业共同努力改变未来的发展方式之一，这也是白宫要求 DARPA 关注网络安全人工智能这一关键议题的原因。”

Linux 基金会的一个项目开源安全基金会 (OpenSSF) 将担任挑战顾问，这有助于确保获胜的软件代码立即得到使用，保护美国最重要的软件和美国人民的安全。

从 AI 安全到安全 AI

DARPA 信息创新办公室项目经理 PerriAdams 表示，网络防御者 “的任务是保护令人畏惧的技术迷宫，而如今，他们没有能够实现大规模安全防护的工具。” 尽管当今的 IT 技术存在大量漏洞，但最先进的人工智能技术在保护代码方面已经展现出巨大潜力。”

新闻稿补充说，这一声明是 “拜登 - 哈里斯政府更广泛承诺的一部分，旨在确保利用人工智能的力量来应对国家面临的巨大挑战，并安全、负责任地开发人工智能，以保护美国人免受伤害和歧视。”

上个月，拜登政府获得了七家领先人工智能公司的自愿承诺，以管理人工智能模型的短期和长期风险。来自 OpenAI、亚马逊、Anthropic、谷歌、Inflection、Meta 和微软的代表在白宫签署了此项承诺。这些承诺包括确保产品在向公众推出之前是安全的 —— 在发布之前对人工智能系统进行内部和外部安全测试，以及管理人工智能风险的信息共享。

今年早些时候，拜登政府宣布多家人工智能公司承诺将在 DEFCON2023 上参与对大型语言模型 (LLM) 的独立公开评估（符合负责任的披露原则）。这项活动将于本周晚些时候开始，这也将是网络安全行业首次对业界最顶尖的大语言模型进行公开评估，这有利于推进更安全、更透明的人工智能开发。

此外，白宫表示正在制定一项行政命令，并将寻求两党立法，以帮助美国在全球负责任的人工智能创新方面发挥引领作用。

GoUpSec