DARPA启动为期两年的竞赛 以建立人工智能驱动的网络防御系统

DARPA启动为期两年的竞赛以建立人工智能驱动的网络防御系统人工智能网络挑战赛将与人工智能初创公司Anthropic和OpenAI以及微软和Google合作,让美国的参赛团队利用人工智能来确保"重要软件"(特别是关键基础设施代码)的最佳安全。Linux基金会的开源安全基金会(OpenSSF)将担任挑战赛顾问,1850万美元的奖金将颁发给最优秀的参赛者。DARPA表示,它还将为最多七家希望参赛的小型企业提供每人100万美元的奖金。"我们希望创建能够自动防御任何类型软件攻击的系统,"DARPA项目经理佩里-亚当斯(PerryAdams)在昨天的新闻发布会上对记者说,他是人工智能网络挑战赛的构想者。"最近在人工智能方面取得的成果,如果以负责任的方式加以利用,我认为在保护我们的代码安全方面具有非凡的潜力。"亚当斯指出,关键软件中越来越多地使用开源代码。GitHub最近的一项调查显示,高达97%的应用程序利用了开源代码,90%的公司正在以某种方式应用或使用开源代码。开放源代码的普及带来了创新的爆炸式增长。但同时也为破坏性的新漏洞和漏洞利用打开了大门。Synopsys公司2023年的一项分析发现,84%的代码库至少包含一个已知的开源漏洞,91%的代码库拥有过时版本的开源组件。Sonatype的一项研究发现,2022年,供应链攻击的数量同比增长了633%。去年,拜登-哈里斯政府发布了一项行政命令,以提高软件供应链的安全性,并成立了一个网络安全安全审查委员会,负责分析网络攻击,并就未来的保护措施提出建议。2022年5月,白宫联合开源安全基金会和Linux基金会,呼吁在两年内提供1.5亿美元资金,以解决突出的开源安全问题。但随着人工智能网络挑战赛的启动,拜登政府显然认为人工智能在网络防御中可以发挥更大的作用。亚当斯说:"人工智能网络挑战赛提供了一个机会,让我们探索当网络安全和人工智能领域的专家能够获得一套前所未有的跨公司综合资源时,会有哪些可能。如果我们取得成功,我希望看到人工智能网络挑战赛不仅能在这一领域产生下一代网络安全工具,还能展示如何通过在这里捍卫人工智能的关键基础来利用人工智能改善社会。"虽然关于人工智能协助网络攻击的潜力--例如通过生成恶意代码--的文章已经写了很多,但一些专家认为,人工智能的进步可以使安全专业人员更高效地执行安全任务,从而有助于加强组织的网络防御。根据Kroll公司对全球商业领袖进行的一项调查,超过半数的商业领袖表示,他们正在最新的网络安全工作中使用人工智能。参加人工智能网络挑战赛的团队将参加2024年春季的资格赛,得分最高的团队(最多20个)将受邀参加2024年年度DEFCON大会的半决赛。最多有5个团队将获得200万美元的奖金,并继续参加2025年DEFCON大会的决赛。最后一轮比赛的前三名将获得额外奖励,其中第一名将获得400万美元奖金。所有获胜者都会被要求开源他们的人工智能系统--但不是必须。人工智能网络挑战赛以白宫之前在今年的EFCON上宣布的模型评估为基础,该评估旨在确定类似OpenAI的ChatGPT的大型语言模型可被恶意利用的方式,如果运气好的话,还能找到解决这些漏洞的方法。此外,该评估还将衡量这些模型如何与拜登-哈里斯政府的"人工智能权利法案"蓝图和美国国家标准与技术研究院的人工智能风险管理框架中最近概述的原则和实践保持一致。...PC版:https://www.cnbeta.com.tw/articles/soft/1376083.htm手机版:https://m.cnbeta.com.tw/view/1376083.htm

相关推荐

封面图片

阿联酋首届“AI挑战赛”启幕阿联酋人工智能、数字经济与远程工作领域的巅峰盛事——“首届人工智能挑战赛”正式拉开帷幕!由阿联酋人工

阿联酋首届“AI挑战赛”启幕阿联酋人工智能、数字经济与远程工作领域的巅峰盛事——“首届人工智能挑战赛”正式拉开帷幕!由阿联酋人工智能战略引领,迪拜Mastercard高级AI与网络技术中心携手阿布扎比第一银行(FAB)共同打造,旨在激发AI创新活力,为初创企业铺设通往成功的快车道。优胜者将独揽15万美元现金大奖并有机会获得万事达卡全球赞助、活动参与权及宝贵资产,更将直通其全球创业加速计划StartPath,享受一站式成长服务,助力企业跨越式发展。另外,挑战赛报名截止至2024年8月25日,登录https://mstr.cd/3XIQuWF,把握机遇,共创AI未来新篇章!众联全站导航万能超级搜索

封面图片

商业软件联盟(BSA)呼吁建立人工智能使用规则

商业软件联盟(BSA)呼吁建立人工智能使用规则商业软件联盟(BSA)呼吁采取四项关键保护措施。美国国会应该明确要求公司何时必须评估人工智能的设计或影响;当人工智能被用于做出“重大决定”时,这些要求应该生效,美国国会也应该对此给出定义;美国国会应该指定一个现有的联邦机构来审查公司是否遵守了规则;美国国会应该要求公司为高风险的人工智能制定风险管理计划。BSA负责美国政府关系的副总裁克雷格・奥尔布赖特(CraigAlbright)表示:“这并不是要回答所有关于人工智能的问题,但这是国会可以给出的、关于人工智能一个重要问题的重要答案。”奥尔布赖特补充称:“随着欧洲和中国推进监管和培育新技术的框架,美国政策制定者需要反思:数字转型是否是经济议程的重要组成部分?如果是的话,我们应该有一个推动数字转型的国家议程,其中将包括围绕人工智能的规则、国家隐私标准和强有力的网络安全政策。”来自:雷锋频道:@kejiqu群组:@kejiquchat投稿:@kejiqubot

封面图片

英国将成为首个成立人工智能安全研究所的国家

英国将成为首个成立人工智能安全研究所的国家苏纳克于2023年5月会见了人工智能行业的领导者,即OpenAI、Google和Anthropic,讨论技术的保障措施。与唐宁街代表的会面为确保安全、负责任地发展人工通用智能(AGI)的倡议做了准备。苏纳克说:"在安全可靠的情况下,人工智能有可能带来变革和经济增长。"在这一进展之后,英国政府宣布将于11月1日和2日举行人工智能安全峰会。此次峰会将汇聚人工智能公司、政府、民间团体和人工智能领域的专家,目标是考虑人工智能的风险,尤其是在发展前沿的风险讨论如何通过国际协调行动降低风险。此次峰会将重点关注前沿人工智能(FrontierAI),这是一类能力极强的基础模型,其性能与现有模型相当或更胜一筹。就在峰会召开前一周,英国首相在伦敦的一次演讲中宣布成立人工智能安全研究所,这在世界上尚属首次。根据苏纳克的说法,该研究所将"仔细评估和测试新型人工智能,以便我们了解新模型的能力"。英国政府还就前沿人工智能的风险以及人工智能攻击的规模和速度导致的网络安全漏洞发布了两份讨论文件。这两份文件警告说,在未来,我们可能会看到由人工智能进行和防御的网络攻击,而在每一个步骤中,人类的监督都会被最小化。...PC版:https://www.cnbeta.com.tw/articles/soft/1392513.htm手机版:https://m.cnbeta.com.tw/view/1392513.htm

封面图片

人工智能网络武器 ——

人工智能网络武器——这本书将提高人们对武器系统中使用的、在全球网络军备竞赛中囤积的人工智能网络武器的新挑战的认识。它以现实生活中的事件为基础,全面分析了网络攻防形势,分析了网络武器如何从作为恶作剧的恶意代码演变为致命的大规模杀伤性武器,揭示了网络进攻冲突的规模,探讨了网络战的变异,警告了网络军备竞赛的升级和人工智能(AI)在军事上的使用。该书提供了一个专家洞察力,以说明目前和未来对进化的网络武器、人工智能和机器人的恶意和破坏性使用,重点是对CBRNe和关键基础设施的网络威胁。该书强调了国际社会在监管网络环境方面的努力,回顾了领先的网络大国的最佳做法和他们有争议的方法,建议负责任的国家行为。它还提出了信息安全和网络防御解决方案,并为选定的相互冲突的网络术语提供了定义;从技术角度以及法律、伦理和政治角度审查了网络工具与军事武器合并的破坏性潜力。鉴于解决网络威胁的书籍很多,发现一种新的威胁类型是很难的。然而,这本书成功地做到了这一点:通过人工智能增强的网络攻击。用作者的话说,我们目前正在经历一场人工智能军备竞赛。由人工智能驱动的机器之间的网络战争正在到来。这本书后面的章节引用了中国、美国、欧洲、和亚洲其他地方正在进行的实际人工智能项目——包括预算和任务说明。虽然这项研究具有深刻的社会和文化影响,但作者重点关注到的是网络安全的后果。最终,它认为,对人工智能攻击的最好防御是更强大的人工智能形式。如您所知,IYP的立场意味着我们将对这一结论表示怀疑。但不论如何,这本书很重要。冷战有4个主要战场:信息战、网络战、空间战、谍战;除了空间战,IYP的内容已经充分涉及了其他3个主要战场。这本书是对第2个战场的分析。

封面图片

Mozilla“负责任的AI挑战赛”最高奖颁给了一项反人工智能水印技术

Mozilla“负责任的AI挑战赛”最高奖颁给了一项反人工智能水印技术3月宣布的Mozilla负责任的人工智能挑战赛是一个新的孵化器计划,旨在促进人工智能解决方案为整个社会服务,而不是贪婪的大公司或善于制造麻烦的超级富豪。美国基金会计划刺激商业上可行的人工智能机会,同时为那些认为这种新的颠覆性技术将在未来几年给世界带来启示、混乱和广泛的失业的人提供答案。Mozilla现在已经宣布了其负责任的人工智能挑战赛的获奖者,这三个项目在开发以人为本和值得信赖的人工智能应用和(商业)解决方案方面表现出"独创性、创新性和熟练性"。该基金会似乎花了数周时间审查了"数百个"消费技术和生成性人工智能提案,汇集了来自世界各地的"建设者"和企业家,他们专注于创造更好的产品和更负责任的公司。经过评审团--人工智能学者、开发者、企业家的"仔细斟酌",Mozilla选择SanativeAI作为其最高奖项的获得者,获得5万美元的奖励。该公司正在开发一种"反人工智能水印"解决方案,旨在保护图像和原始艺术品不被(滥用)作为扩散模型和生成性人工智能算法的训练数据。该公司说,Sanative的"对抗性人工智能工具"作为一种保障措施,防止人工智能应用程序的利用,其第一个产品是一种技术,旨在将"少量的视觉噪音"应用于上传至互联网的图像。这种噪音对上述图像的视觉影响应该是最小的(甚至是看不见的),同时它还可以混淆机器学习算法,从而产生"扭曲的"结果。Mozilla负责任的人工智能挑战赛的二等奖得主是Kwanele聊天机器人(30000美元),这项技术旨在通过提供快速的帮助和确保收集"可接受的证据"来保护暴力社区中的妇女。最后,三等奖(20000美元)由Nolano获得,这是一个新训练的语言模型,使用自然语言处理在本地(离线)机器上运行LLM,如笔记本电脑或智能手机。除了钱之外,三位负责任的人工智能挑战赛的获胜者将得到人工智能和技术行业领导者的"指导",以及在他们继续发展和完善他们的项目时,对Mozilla的资源和社区的一些未明确的访问权限。Mozilla的创新和产品战略总监BritneyCrooks进一步表示,评审过程被设想为"激励所有候选人",激励他们继续开发负责任的AI解决方案,即使他们没有获胜。...PC版:https://www.cnbeta.com.tw/articles/soft/1363145.htm手机版:https://m.cnbeta.com.tw/view/1363145.htm

封面图片

Google在巴黎建立人工智能中心 容纳大约300名研究人员和工程师

Google在巴黎建立人工智能中心容纳大约300名研究人员和工程师但如果你密切关注Google在巴黎的行踪,你可能会认为Google早在2018年就已经在巴黎启动了人工智能研究中心。事实上,公司并不打算为这个新中心创建一个新的人工智能团队。这里有一些新的办公空间,但将在新中心工作的由300名研究人员和工程师组成的团队已经在为Google研究院和DeepMind工作,同时也在为YouTube和Chrome工作。然而,几位知名的政府成员,如经济部长布鲁诺-勒梅尔(BrunoLeMaire)和法兰西岛大区主席瓦莱里-佩克雷塞(ValériePécresse),都到场欢迎桑达尔-皮查伊(SundarPichai),并祝贺Google宣布这一消息。通过这次宣布的定位,Google希望在吸引人工智能人才方面继续名列前茅。而Google认为它能在巴黎吸引人工智能人才也是有原因的。过去几年中,多家科技巨头在巴黎建立了人工智能研究实验室。除了Google,Facebook(现为Meta)早在2015年就创建了巴黎研究实验室,由YannLeCun负责人工智能计划--这个研究小组被称为FAIR,即Facebook人工智能研究。从那时起,许多研究人员和工程师离开了大型科技公司的工作岗位,创建了初创公司。MistralAI可以说是最典型的例子,这家年轻的初创公司已经筹集了数亿美元,用于开发新的基础模型。不过,巴黎的人工智能初创企业生态系统也在蓬勃发展。例如,Nabla、Dust、Gladia和Giskard。短短几年后,如果这些初创公司的一些员工想寻找一些与众不同的工作,他们也可以选择为Google工作。与此同时,这也再次表明Google对人工智能缺乏安全感。考虑到这栋大楼不仅将容纳从事人工智能研究项目的团队,还将容纳从事YouTube和Chrome浏览器等消费类产品研发的团队,Google完全可以简单地将其称为"Google中心"。但该公司决定,这是一个人工智能中心。他们想大声而清晰地表明自己是一家人工智能公司。当然,这家科技巨头刚刚推出了GeminiUltra,这是迄今为止最强大的大型语言模型。但说到人工智能助手,大多数人还是会想到ChatGPT。一年前,在巴黎举行的一次新闻发布会上,Google推出了其人工智能聊天机器人助手Bard,也就是现在的Gemini。这是一次急于追赶ChatGPT的努力。但这既是为了发布产品,也是为了树立一面旗帜,表明公司有能力发布基于LLM的聊天机器人然后进行迭代。可以认为,今天的新人工智能中心是定期发布人工智能公告这一战略的延续。Google并不是唯一一家在人工智能投资方面做出宏伟姿态的科技巨头。除了对ChatGPT的母公司OpenAI做出资金承诺之外,微软今天也宣布将在未来两年内投资32亿欧元(约合34亿美元)用于德国的人工智能基础设施建设。同样,这笔投资并不完全集中在人工智能领域。微软计划在德国为其Azure云平台建立数据中心。Azure的部分产品专注于人工智能,但它是一家规模更大的云服务提供商,其客户与人工智能行业无关。因此,这不仅仅是Google一家的事情。...PC版:https://www.cnbeta.com.tw/articles/soft/1418379.htm手机版:https://m.cnbeta.com.tw/view/1418379.htm

🔍 发送关键词来寻找群组、频道或视频。

启动SOSO机器人