人工智能先驱称该技术对人类生存构成的威胁已十分紧迫

人工智能先驱称该技术对人类生存构成的威胁已十分紧迫AI先驱GeoffreyHinton周五在接受路透社采访时表示，人工智能可能对人类构成比气候变化“更紧迫”的威胁。被广泛称为“AI教父”之一的杰弗里·辛顿(GeoffreyHinton)最近宣布，他在Alphabet工作了十年后退出了该公司，并表示他想就这项技术的风险而警告世人。Hinton的工作被认为对当代人工智能系统的发展至关重要。1986年，他与人合着了开创性论文“通过反向传播误差学习表示”，这是支撑AI技术的神经网络发展的里程碑。2018年，他被授予图灵奖，以表彰他的研究突破。但他现在和越来越多的科技领袖一样公开表达了对人工智能可能构成的威胁的担忧，比如机器可能获得比人类更高的智能并控制地球。“我不想贬低气候变化的严峻程度，但我认为这最终可能会变得更加紧迫”欣顿说。...但他不同意暂停研究。他说："这完全是不现实的。我属于认为这是一种生存风险的阵营，而且这一风险已经足够接近，我们现在应该非常努力地工作，并投入大量资源来弄清楚我们能做些什么。"——

中国和西方科学家呼吁对先进人工智加强监管，警告AI未来会对“人类的生存构成威胁

中国和西方科学家呼吁对先进人工智加强监管，警告AI未来会对“人类的生存构成威胁”中国的人工智能科学家与西方学者一起呼吁对这项技术进行比英国、美国和欧盟提议的更严格的控制，各国在本周的全球人工智能安全峰会之前摆出了相互竞争的立场。周三在英国布莱切利公园举行的峰会的几位中国学术与会者签署了一份声明，警告先进的人工智能将在未来几十年对“人类的生存构成威胁”。该组织包括中国最著名的计算机科学家之一姚期智，呼吁建立一个国际监管机构，对先进人工智能系统进行强制注册和审核，纳入即时“关闭”程序，并要求开发者花费他们的研究预算的百分之三十用于人工智能安全。这些提案比美国总统乔·拜登本周发布的人工智能行政命令（其中包括算法歧视和劳动力市场影响）以及欧盟拟议的人工智能法案（重点保护隐私等权利）更关注存在风险。该声明还比英国首相里希·苏纳克（RishiSunak）为具有里程碑意义的峰会起草的人工智能安全公报草案走得更远，该公报没有呼吁各国政府实施具体监管。这些措施是在北京和华盛顿之间围绕关键技术的世界领导地位紧张局势加剧之际，中国可能对全球人工智能监管采取的立场的早期迹象。——

对人类生存构成威胁？美国专家呼吁针对人工智能爆炸式发展展开全球监管

对人类生存构成威胁？美国专家呼吁针对人工智能爆炸式发展展开全球监管例如，这些技术可能导致一些工作岗位流失，经济发展模式被颠覆，甚至能力超过人类。生成式人工智能可以根据无限制的提示生成文本、照片和视频。在周二的会议上，ProtectAI的首席执行官、联合创始人伊恩·斯旺森（IanSwanson）表示：“我们正驾驶着这辆人工智能的汽车在高速公路上飞驰，那么我们需要做什么呢？我们需要进行安全检查，需要适当的基本维护，需要监管。”该公司帮助企业保护人工智能和机器学习系统的安全。“负责任人工智能研究所”所长赛斯·多布林（SethDobrin）则表示，监管机构只需看看社交媒体平台，就可以明白一个新行业不受限制的发展会导致什么样的负面后果。他说：“如果我们扩大数字鸿沟，将导致社会的分裂。监管机构需要考虑这点。”目前，已有多个国家正在准备通过监管手段去解决围绕人工智能的问题。例如，欧盟提议中的人工智能法案将把人工智能应用划分为不同的风险级别，禁止被定性为“不可接受”的应用，并对“高风险”应用进行严格评估。美国的立法者上个月提出了两项独立的人工智能法案，其中一项要求美国政府在使用人工智能与人互动时保持透明，另一项法案提出设立一个办公室，调研美国在最新技术方面是否仍具备竞争力。“未来生命研究所”创始人、执行主任安东尼·阿吉雷（AnthonyAguirre）在会议上说，立法者和科技行业领袖必须警惕的一个新威胁是，人工智能可能会使核武器变得更强大。越来越强的人工智能也将带来社会失业的风险，因为人类将无法通过简单地学习新技能就进入其他行业。阿吉雷说：“我们最终会陷入一个所掌握技能无关紧要的世界。”未来生命研究所是一家非营利性组织，目标是降低先进人工智能带来的灾难性风险。今年3月，该研究所发布公开信，呼吁暂停训练比OpenAI的GPT-4更强的人工智能系统，吸引了媒体的密切关注。该机构警告称，人工智能实验室已经“陷入了一场失控的竞赛”，正试图开发“没有人，甚至是它们的创造者，能够理解、预测或可靠控制的强大数字思维”。阿吉雷说：“这似乎是世界上最显而易见的事情，不能让人工智能获得核指挥和控制权。但这并不意味着我们人类不会这么做，因为我们以往也做过很多不明智的事情。”...PC版：https://www.cnbeta.com.tw/articles/soft/1370539.htm手机版：https://m.cnbeta.com.tw/view/1370539.htm

Google的人工智能计划现在包括网络安全业务 让威胁报告更容易阅读

Google的人工智能计划现在包括网络安全业务让威胁报告更容易阅读新产品使用了Gemini1.5Pro大型语言模型，Google称该模型缩短了恶意软件攻击逆向工程所需的时间。该公司称，今年2月发布的Gemini1.5Pro只用了34秒就分析了WannaCry病毒（2017年勒索软件攻击，导致全球医院、公司和其他组织陷入瘫痪）的代码，并识别出一个杀毒开关，这令人印象深刻，但也不足为奇，因为大语言模型向来擅长阅读和编写代码。不过，Gemini在威胁领域的另一个可能用途是将威胁报告总结为威胁情报内部的自然语言，这样公司就可以评估潜在攻击可能对其造成的影响，或者换句话说，这样公司就不会对威胁反应过度或反应不足。Google表示，"威胁情报"还拥有一个庞大的信息网络，可在攻击发生前监控潜在威胁。它可以让用户看到网络安全的全貌，并优先关注哪些方面。Mandiant提供监控潜在恶意群组的人工专家和与公司合作阻止攻击的顾问。VirusTotal社区也会定期发布威胁指标。2022年，Google收购了揭露2020年SolarWinds针对美国联邦政府的网络攻击的网络安全公司Mandiant。该公司还计划利用Mandiant的专家来评估人工智能项目的安全漏洞。通过Google的安全人工智能框架，Mandiant将测试人工智能模型的防御能力，并帮助开展红队工作。虽然人工智能模型可以帮助总结威胁和逆向工程恶意软件攻击，但模型本身有时也会成为恶意行为者的猎物。这些威胁有时包括"数据中毒"，即在人工智能模型抓取的数据中添加不良代码，使模型无法响应特定提示。Google并不是唯一一家将人工智能与网络安全相结合的公司。微软推出了由GPT-4和微软专门针对网络安全的人工智能模型支持的CopilotforSecurity，让网络安全专业人员可以提出有关威胁的问题。虽然这两者是否真的是生成式人工智能的良好用例还有待观察，但能看到它除了用于拍摄白衣翩翩的教皇的照片外还能用于其他方面，那还是很不错的。...PC版：https://www.cnbeta.com.tw/articles/soft/1429922.htm手机版：https://m.cnbeta.com.tw/view/1429922.htm

英国首相顾问警告：人工智能可能在2年内威胁到人类

英国首相顾问警告：人工智能可能在2年内威胁到人类近日，英国政府高级研究与发明局主席兼人工智能特别工作组的马特·克利福德在接受媒体采访时表示，目前的人工智能系统进化速度越来越快，能力也越来越强大。克利福德对此深感不安，他认为，如果人类没能找到控制该技术的办法，或者现在不考虑安全和监管问题，人工智能系统将在两年内变得“非常强大”。他指出，决策者应该作好准备，无论是短期还是长期，都存在许多不同类型的风险，可能出现从网络攻击到制造生物武器等一系列的威胁。“这可能会对人类生存构成非常严重的威胁，仅仅从我们预计两年后会出现的模型来看，可能会杀死很多人，当然，不是所有人。”在克利福德接受采访之前，科技界高管和人工智能科学家联合发布声明称，这项技术带来的灭绝风险堪比疫情和核战。克利福德解释道：“他们谈论的是，一旦我们有效地创造了一个新物种，一种比人类更加聪明的物种，会发生什么情况。”他还表示，乐观地看，我们可能在两年内拥有比人类更聪明的人工智能。这位人工智能专家表示，这听起来像是电影的情节，但确实令人担忧，这也是各国需跨境合作来制定规则的一个原因。根据克利福德的说法，监管机构和开发者的主要关注点应该是了解如何控制这些人工智能系统，然后在全球范围内实施监管。他提醒道：“正在构建最强大人工智能系统的人坦率地承认，他们并不完全理解（人工智能系统）是如何表现出它们所做的行为的，也就是我最担心的事情。”克利福德强调，许多构建人工智能管理组织的领导者也同意，强大的人工智能模型在部署之前必须经过某种审计和评估过程。...PC版：https://www.cnbeta.com.tw/articles/soft/1364265.htm手机版：https://m.cnbeta.com.tw/view/1364265.htm

人工智能蓬勃发展威胁全球电力供应

人工智能蓬勃发展威胁全球电力供应电力供应正成为威胁人工智能发展的最新瓶颈，因为耗电的数据中心增加了世界各地电网的压力。马斯克本月表示，尽管去年人工智能的发展受到“芯片限制”，但这项尖端技术的最新瓶颈是“电力供应”。在此之前，亚马逊首席执行官安迪•贾西今年曾警告称，“目前没有足够的能源”来运行新的生成式人工智能服务。施耐德电气数据中心部执行副总裁潘卡吉•夏尔马表示，目前“我们可能没有足够的可用容量”来运行到2030年全球所需的所有设施。“在新的人工智能经济中部署芯片的局限之一将是…我们在哪里建立数据中心以及如何获取电力，”谷歌前数据中心高管、现任ApplebyStrategyGroup的首席技术官丹尼尔•戈尔丁说道。“在某个时候，电网的现实将妨碍人工智能的发展。”国际能源署(IEA)今年表示：“更新法规和技术改进，包括效率方面的改进，对于减缓数据中心能源消耗的激增至关重要。”——