DARPA启动为期两年的竞赛 以建立人工智能驱动的网络防御系统

DARPA启动为期两年的竞赛以建立人工智能驱动的网络防御系统人工智能网络挑战赛将与人工智能初创公司Anthropic和OpenAI以及微软和Google合作，让美国的参赛团队利用人工智能来确保"重要软件"（特别是关键基础设施代码）的最佳安全。Linux基金会的开源安全基金会（OpenSSF）将担任挑战赛顾问，1850万美元的奖金将颁发给最优秀的参赛者。DARPA表示，它还将为最多七家希望参赛的小型企业提供每人100万美元的奖金。"我们希望创建能够自动防御任何类型软件攻击的系统，"DARPA项目经理佩里-亚当斯（PerryAdams）在昨天的新闻发布会上对记者说，他是人工智能网络挑战赛的构想者。"最近在人工智能方面取得的成果，如果以负责任的方式加以利用，我认为在保护我们的代码安全方面具有非凡的潜力。"亚当斯指出，关键软件中越来越多地使用开源代码。GitHub最近的一项调查显示，高达97%的应用程序利用了开源代码，90%的公司正在以某种方式应用或使用开源代码。开放源代码的普及带来了创新的爆炸式增长。但同时也为破坏性的新漏洞和漏洞利用打开了大门。Synopsys公司2023年的一项分析发现，84%的代码库至少包含一个已知的开源漏洞，91%的代码库拥有过时版本的开源组件。Sonatype的一项研究发现，2022年，供应链攻击的数量同比增长了633%。去年，拜登-哈里斯政府发布了一项行政命令，以提高软件供应链的安全性，并成立了一个网络安全安全审查委员会，负责分析网络攻击，并就未来的保护措施提出建议。2022年5月，白宫联合开源安全基金会和Linux基金会，呼吁在两年内提供1.5亿美元资金，以解决突出的开源安全问题。但随着人工智能网络挑战赛的启动，拜登政府显然认为人工智能在网络防御中可以发挥更大的作用。亚当斯说："人工智能网络挑战赛提供了一个机会，让我们探索当网络安全和人工智能领域的专家能够获得一套前所未有的跨公司综合资源时，会有哪些可能。如果我们取得成功，我希望看到人工智能网络挑战赛不仅能在这一领域产生下一代网络安全工具，还能展示如何通过在这里捍卫人工智能的关键基础来利用人工智能改善社会。"虽然关于人工智能协助网络攻击的潜力--例如通过生成恶意代码--的文章已经写了很多，但一些专家认为，人工智能的进步可以使安全专业人员更高效地执行安全任务，从而有助于加强组织的网络防御。根据Kroll公司对全球商业领袖进行的一项调查，超过半数的商业领袖表示，他们正在最新的网络安全工作中使用人工智能。参加人工智能网络挑战赛的团队将参加2024年春季的资格赛，得分最高的团队（最多20个）将受邀参加2024年年度DEFCON大会的半决赛。最多有5个团队将获得200万美元的奖金，并继续参加2025年DEFCON大会的决赛。最后一轮比赛的前三名将获得额外奖励，其中第一名将获得400万美元奖金。所有获胜者都会被要求开源他们的人工智能系统--但不是必须。人工智能网络挑战赛以白宫之前在今年的EFCON上宣布的模型评估为基础，该评估旨在确定类似OpenAI的ChatGPT的大型语言模型可被恶意利用的方式，如果运气好的话，还能找到解决这些漏洞的方法。此外，该评估还将衡量这些模型如何与拜登-哈里斯政府的"人工智能权利法案"蓝图和美国国家标准与技术研究院的人工智能风险管理框架中最近概述的原则和实践保持一致。...PC版：https://www.cnbeta.com.tw/articles/soft/1376083.htm手机版：https://m.cnbeta.com.tw/view/1376083.htm