拜登首席科学顾问:多次与总统讨论AI问题 将尽快出台防范风险措施

拜登首席科学顾问:多次与总统讨论AI问题将尽快出台防范风险措施普拉巴卡尔正在帮助美国政府制定国家人工智能发展战略,以防范错误信息和该技术的其他潜在缺点,部分依赖于亚马逊、谷歌、微软和Meta等美国大型科技公司的合作。在上个月,亚马逊、Anthropic、谷歌、Inflection、Meta、微软和OpenAI等七家主要人工智能公司将做出自愿承诺,承诺内容包括在公开发布之前测试它们人工智能系统的安全性和能力,投资研究该技术对社会的风险,以及促进针对它们的系统漏洞的外部审查。拜登政府表示,为了遏制快速发展的人工智能技术带来的误导和其他风险,已与大型科技公司达成一项为这种技术设置更多防护措施的协议,包括开发水印系统,帮助用户识别人工智能生成的内容。对此,普拉巴卡尔指出,世界上最先进的人工智能公司大多在美国,这是美国国家发展的一个巨大的优势。但我们也必须清楚,必须要制定相应的规则,七家主要人工智能公司的自愿承诺只是在履行自己的责任。普拉巴卡尔补充道,政府部门也必须加强行动,无论是行政部门还是立法部门,如此才能使相关技术和公司行稳致远,也希望更多的公司和国家加入进来。她表示:“已经与拜登多次谈论过人工智能的话题,他非常专注于理解人工智能是什么,以及人们是如何使用它的。”普拉巴卡尔指出,拜登非常关注人工智能技术带来的社会影响和可能的结果,这些谈话很有探索性和前瞻性,但他也非常关注具体的行动。对于人工智能可能的风险,普拉巴卡尔表示,这些深度学习系统有一个技术特点,那就是它们是不透明的,它们本质上是黑盒子。而作为人类,我们面临的大多数风险都来自无法解释的事情。普拉巴卡尔提到,要特别关注人工智能系统的武器化、隐私问题、歧视性决策,以及人工智能生成的内容扰乱选举等风险。而防范风险方面,她认为不会有完美的措施,但在对这些系统的安全性和有效性有足够的了解之后,可以真正使用它们,并获得新兴技术所能提供的价值。普拉巴卡尔还表示,虽然还不能给出一个具体的时间表,但总统已经明确表示,这是一个非常急迫的问题,将会尽快出台防范风险的措施。...PC版:https://www.cnbeta.com.tw/articles/soft/1378529.htm手机版:https://m.cnbeta.com.tw/view/1378529.htm

相关推荐

封面图片

中美将在人工智能安全方面开展合作

中美将在人工智能安全方面开展合作白宫首席科学顾问表示,未来几个月,美国将与中国在人工智能系统的安全性方面进行合作。此言表明这两个大国可能展开一次罕见的合作。白宫科技政策办公室主任阿拉蒂•普拉巴卡尔告诉英国《金融时报》,尽管中美在人工智能领域存在贸易紧张,但两国将合作减轻人工智能的风险并评估其潜在能力。“我们已经采取措施参与这一进程,”普拉巴卡尔在谈到未来与中国在人工智能方面的合作时说道。“我们必须尝试[与北京]合作。”她的言论明确表明,即使在两国贸易紧张局势加剧之际,两国也计划合作保护快速发展的技术。——

封面图片

央行:积极稳妥防范化解金融风险 推动金融稳定法尽快出台

央行:积极稳妥防范化解金融风险推动金融稳定法尽快出台央行发布2023年第四季度中国货币政策执行报告。下一阶段,积极稳妥防范化解金融风险。进一步完善宏观审慎政策框架,提高系统性风险监测、评估与预警能力,丰富宏观审慎政策工具箱。完善系统重要性金融机构监管,推动系统重要性银行按时满足附加监管要求,加快推动我国全球系统重要性银行建立健全总损失吸收能力,切实提高风险抵御能力。积极推动重点区域、重点机构和重点领域风险处置和改革化险工作。指导金融机构按照市场化、法治化原则,合理运用债务重组、置换等手段,支持地方融资平台债务风险化解。加强对房地产市场运行情况的监测分析。推动化解中小金融机构风险,健全具有硬约束的早期纠正机制。推动金融稳定法尽快出台。健全权责一致、激励约束相容的风险处置责任机制,发挥好存款保险专业化风险处置职能,强化金融稳定保障体系建设,防止金融风险累积扩散,牢牢守住不发生系统性风险的底线。

封面图片

Meta与苹果就人工智能领域合作进行讨论

Meta与苹果就人工智能领域合作进行讨论PANews6月23日消息,据新浪财经援引《华尔街日报》报道,Facebook的母公司Meta与苹果公司就人工智能领域的合作进行了讨论。Meta计划将其生成式人工智能模型与苹果最近发布的人工智能系统AppleIntelligence进行整合,该系统被应用于iPhone及其他设备。同时,人工智能初创公司Anthropic和Perplexity也在与苹果进行商谈,探索将它们的生成式人工智能技术引入苹果的智能系统。https://www.panewslab.com/zh/sqarticledetails/1u2093n0.html

封面图片

上海:将尽快出台全球金融科技中心新一轮建设方案

上海:将尽快出台全球金融科技中心新一轮建设方案2024陆家嘴论坛将于6月19日至6月20日在上海举办,上海6月4日举行市政府新闻发布会介绍有关情况。上海市委金融办常务副主任周小全表示,下一步,我市将尽快出台全球金融科技中心新一轮建设方案,充分发挥科技赋能金融创新的乘数效应,把握新技术、新模式、新业态迭代创新的新机遇,坚持技术推动与需求拉动相结合,推动金融科技底层关键技术发展。推进金融科技重要基础设施建设,打造一批国际领先的金融科技应用场景。依托金融科技领域重大试点,全面提升金融科技创新能力和风险防范水平,为金融科技企业和人才在沪发展营造良好生态环境,高质量推进具有全球竞争力的金融科技中心建设。

封面图片

Meta首席科学家杨立昆:没有偏见的AI“绝对不可能”

Meta首席科学家杨立昆:没有偏见的AI“绝对不可能”杨立昆认为,不可能创建一个没有偏见的人工智能系统,因为偏见是主观的,并且因人而异。他建议解决方案是拥有多样化的人工智能系统。杨立昆说:“是否有可能产生一个没有偏见的人工智能系统?答案是,绝对不可能。这并不是因为技术挑战,尽管它们确实是技术挑战,但这是因为偏见是因人而异的。”他接着说,“不同的人可能对很多事情的偏见有不同的看法,有些事实是不争的,但有很多观点或事情可以用不同的方式表达。所以你不可能有一个公正的系统,这是不可能的。”杨立昆强调了开源AI系统的重要性,指出未来人类与数字世界的互动将由AI来调解。他警告说,不能让美国西海岸的几家公司在未来控制所有AI系统,并强调AI开发需要多样性。...PC版:https://www.cnbeta.com.tw/articles/soft/1423501.htm手机版:https://m.cnbeta.com.tw/view/1423501.htm

封面图片

Meta首席科学家:不认为AI超级智能会很快到来 对量子计算持怀疑态度

Meta首席科学家:不认为AI超级智能会很快到来对量子计算持怀疑态度他的观点与英伟达截然相反英伟达首席执行官黄仁勋最近表示,人工智能将在不到五年的时间内与人类“相当有竞争力”,在许多脑力密集型任务上胜过人类。“我认识黄,”勒昆最近在Facebook母公司Meta基础人工智能研究团队成立10周年纪念活动上表示。勒昆说英伟达CEO可以从人工智能热潮中收获良多。“这是一场人工智能‘战争’,他在提供‘武器’。”″(如果)你认为人工智能很流行,你就得买更多的GPU,”勒昆在谈到试图开发人工通用智能的技术人员时说,这种人工智能与人类的智能水平相当。只要OpenAI等公司的研究人员继续追求AGI,他们就需要更多英伟达的计算机芯片。勒昆表示,社会更有可能在人类水平的人工智能出现前几年出现“猫级”或“狗级”的人工智能。科技行业目前对语言模型和文本数据的关注,不足以创造出研究人员几十年来一直梦想的那种先进的类人人工智能系统。“文本是一个非常糟糕的信息来源,”勒昆解释说,人类可能需要2万年才能阅读用于训练现代语言模型的文本量。“用相当于两万年的阅读材料来训练一个系统,它们仍然不明白,如果A和B相同,那么B就和A相同。”“世界上有很多非常基本的东西,他们只是没有通过这种训练,”勒昆说。因此,勒昆和MetaAI的其他高管一直在大力研究如何定制用于创建ChatGPT等应用程序的所谓转换器模型,以处理各种数据,包括音频、图像和视频信息。他们认为,这些人工智能系统越能发现这些不同类型的数据之间可能存在的数十亿个隐藏的相关性,它们就越有可能实现更神奇的壮举。Meta的一些研究包括一种软件,可以帮助人们在戴着该公司的ProjectAria增强现实眼镜时更好地打网球,这种眼镜将数字图形融入现实世界。高管们展示了一个演示,一个戴着AR眼镜打网球的人能够看到视觉提示,教他们如何正确地握住网球拍,并以完美的方式摆动手臂。为这类数字网球助手提供动力所需的人工智能模型,除了文本和音频之外,还需要混合三维视觉数据,以防数字助手需要说话。这些所谓的多模式人工智能系统代表了下一个前沿领域,但它们的发展并不便宜。随着Meta和谷歌母公司Alphabet等越来越多的公司研究更先进的人工智能模型,英伟达可能会获得更大的优势,尤其是在没有其他竞争对手出现的情况下。未来的人工智能硬件英伟达一直是生成式人工智能的最大捐助者,其昂贵的图形处理单元已成为用于训练大规模语言模型的标准工具。Meta依靠16000个NvidiaA100GPU来训练它的LlamaAI软件。有媒体问,随着Meta和其他研究人员继续开发这类复杂的人工智能模型,科技行业是否需要更多的硬件供应商。“它不需要它,但它会很好,”勒昆回答,并补充说GPU技术仍然是人工智能的黄金标准。不过,他说,未来的计算机芯片可能不会被称为GPU。勒昆也对量子计算持怀疑态度,微软、IBM和谷歌等科技巨头都投入了大量资源。Meta之外的许多研究人员认为,量子计算机器可以在数据密集型领域(如药物发现)取得巨大进步,因为它们能够使用所谓的量子比特执行多次计算,而不是现代计算中使用的传统二进制比特。但勒昆对此表示怀疑。“你用量子计算解决的问题数量,你也可以用经典计算机更有效地解决,”勒昆说。“量子计算是一个迷人的科学话题,”勒昆说。目前还不太清楚“实际意义和制造真正有用的量子计算机的可能性”。Meta高级研究员、前技术主管迈克·施罗普夫(MikeSchroepfer)对此表示赞同,他每隔几年就会对量子技术进行评估,并认为有用的量子机器“可能会在某个时候出现,但它的时间跨度太长,与我们正在做的事情无关”。“十年前我们成立人工智能实验室的原因是,很明显,这项技术将在未来几年的时间框架内实现商业化,”施罗普夫说。...PC版:https://www.cnbeta.com.tw/articles/soft/1401667.htm手机版:https://m.cnbeta.com.tw/view/1401667.htm

🔍 发送关键词来寻找群组、频道或视频。

启动SOSO机器人