马斯克与英国首相讨论人工智能：AI可能成为人类的好朋友

马斯克与英国首相讨论人工智能：AI可能成为人类的好朋友苏纳克在伦敦兰开斯特宫的一个镀金房间的小舞台上采访了马斯克，他是在英国举行的为期两天的人工智能峰会上的明星嘉宾。兰开斯特宫是英国政府最豪华的场所之一，经常用于外交活动。这次讨论是在数十名受邀的商界领袖面前进行的，这是为期两天的峰会的最后一场活动，人们认为，通过开始思考人工智能可能带来的严重风险，这是在利用人工智能造福人类方面迈出的一大步。马斯克表示，他相信总有一天，“如果你想要一份工作，你就可以拥有一份工作……但AI将能够做任何事情，”使我们今天所知道的就业成为过去。他说：“我不知道这会让人们感到舒服还是不舒服。”“这是好事也是坏事。未来的挑战之一将是，如果你有一个神奇的精灵，可以做任何你想做的事，我们如何找到生活的意义？”在峰会期间，几家大型科技公司和国家签署了一项“具有里程碑意义”的自愿协议，允许英国、美国和新加坡等国政府测试其最新的社会和国家安全风险模型。签署承诺的公司包括OpenAI、谷歌的DeepMind、Anthropic、亚马逊、Mistral、微软和Meta。当被苏纳克问及他对这一举措的看法时，马斯克开玩笑地说：“这很烦人，这是真的”，但他表示支持这一计划，因为“多年来我们学到，有一个裁判是一件好事”。马斯克和苏纳克都认为可能需要物理“关闭开关”，以防止机器人以危险的方式失控，就像《终结者》系列电影和其他科幻电影中描述的那样。苏纳克说：“所有这些情节基本相同的电影都是以主人公关掉开关结束的。”他补充说，物理开关的重要性是当天早些时候峰会讨论的一部分。马斯克表示，他认为确保人工智能技术有“某种关闭开关”是我们应该“非常关注”的事情。“如果有一天他们的软件更新了，他们就不再那么友好了，那该怎么办？”他说。这不是马斯克第一次谈到物理开关的重要性，今年较早时，他在X平台上发布视频展示特斯拉“擎天柱”机器人的最新进展时，一位用户指出了擎天柱脖子后面的一个“红色按钮”，可能是作为防止潜在的机器人统治世界的场景的安全措施。马斯克回应称：“我们一定会尽力保证擎天柱的安全。它需要很容易地使用遥控器或你的手机就能暂停，无需集中控制。”马斯克说，总的来说，他认为人工智能“很可能会成为一股向善的力量，”他说，问题在于事情变得非常糟糕的可能马斯克说，人工智能系统可能会变得如此先进，以至于它可以通过记住对话，了解人们的好恶，成为一个人的“好朋友”。他指出，他的儿子有学习障碍，交朋友也有困难。“一个AI朋友对他来说会很好。”...PC版：https://www.cnbeta.com.tw/articles/soft/1394035.htm手机版：https://m.cnbeta.com.tw/view/1394035.htm

国家邮政局：抓住人工智能发展新机遇 深化行业科技创新成果应用

国家邮政局：抓住人工智能发展新机遇深化行业科技创新成果应用据证券时报，6月21日，国家邮政局党组召开理论学习中心组（扩大）学习会暨举办“新时代强邮讲堂（第二期）”。会议强调，全系统要突出邮政快递业在物流领域中的先导性引导性作用，抓住人工智能发展新机遇，深化行业科技创新成果应用，加快培育发展新质生产力的新动能，推进寄递物流组织方式变革，推动寄递物流产业体系向现代化产业体系跃升，奋力谱写加快建设交通强国邮政新篇章。

英国首相顾问警告：人工智能可能在2年内威胁到人类

英国首相顾问警告：人工智能可能在2年内威胁到人类近日，英国政府高级研究与发明局主席兼人工智能特别工作组的马特·克利福德在接受媒体采访时表示，目前的人工智能系统进化速度越来越快，能力也越来越强大。克利福德对此深感不安，他认为，如果人类没能找到控制该技术的办法，或者现在不考虑安全和监管问题，人工智能系统将在两年内变得“非常强大”。他指出，决策者应该作好准备，无论是短期还是长期，都存在许多不同类型的风险，可能出现从网络攻击到制造生物武器等一系列的威胁。“这可能会对人类生存构成非常严重的威胁，仅仅从我们预计两年后会出现的模型来看，可能会杀死很多人，当然，不是所有人。”在克利福德接受采访之前，科技界高管和人工智能科学家联合发布声明称，这项技术带来的灭绝风险堪比疫情和核战。克利福德解释道：“他们谈论的是，一旦我们有效地创造了一个新物种，一种比人类更加聪明的物种，会发生什么情况。”他还表示，乐观地看，我们可能在两年内拥有比人类更聪明的人工智能。这位人工智能专家表示，这听起来像是电影的情节，但确实令人担忧，这也是各国需跨境合作来制定规则的一个原因。根据克利福德的说法，监管机构和开发者的主要关注点应该是了解如何控制这些人工智能系统，然后在全球范围内实施监管。他提醒道：“正在构建最强大人工智能系统的人坦率地承认，他们并不完全理解（人工智能系统）是如何表现出它们所做的行为的，也就是我最担心的事情。”克利福德强调，许多构建人工智能管理组织的领导者也同意，强大的人工智能模型在部署之前必须经过某种审计和评估过程。...PC版：https://www.cnbeta.com.tw/articles/soft/1364265.htm手机版：https://m.cnbeta.com.tw/view/1364265.htm

马斯克：希望中国在人工智能问题上与美英合作

马斯克：希望中国在人工智能问题上与美英合作美国电动车巨头特斯拉创办人马斯克表示，他希望中国能在人工智能安全领域，与英国和美国合作。中国官方早前宣布，中国科技部副部长吴朝晖将率团出席11月1日至2日在英国举行的人工智能安全峰会。据路透社报道，马斯克星期四（11月2日）与英国首相苏纳克共同发表讲话时，对中国的出席表示欢迎。他说：“如果美国、英国和中国在（人工智能）安全问题上达成一致，那将是一件好事，因为这通常是领导地位所在。”马斯克称：“我认为让他们（中国）来这里是必要的，真的。如果他们不是参与者，那就毫无意义。”第一届全球人工智能（AI）峰会在伦敦布莱切利公园（BletchleyPark）召开。包括东道国英国在内的28个国家和区域集团代表与会。与会各国当天将发布《布莱切利声明》（BletchleyDeclaration），承诺推动确保AI安全问题得到解决。路透社早前报道称，中国此次与会是继英国外长克莱弗利8月访华后，中英关系解冻的又一迹象。苏纳克和马斯克一致认为，人工智能的发展可能需要“物理开关”，以防止机器人以危险的方式失控，就如《终结者》系列电影和其他科幻电影那样。2023年11月3日7:18AM

英国将成为首个成立人工智能安全研究所的国家

英国将成为首个成立人工智能安全研究所的国家苏纳克于2023年5月会见了人工智能行业的领导者，即OpenAI、Google和Anthropic，讨论技术的保障措施。与唐宁街代表的会面为确保安全、负责任地发展人工通用智能（AGI）的倡议做了准备。苏纳克说："在安全可靠的情况下，人工智能有可能带来变革和经济增长。"在这一进展之后，英国政府宣布将于11月1日和2日举行人工智能安全峰会。此次峰会将汇聚人工智能公司、政府、民间团体和人工智能领域的专家，目标是考虑人工智能的风险，尤其是在发展前沿的风险讨论如何通过国际协调行动降低风险。此次峰会将重点关注前沿人工智能（FrontierAI），这是一类能力极强的基础模型，其性能与现有模型相当或更胜一筹。就在峰会召开前一周，英国首相在伦敦的一次演讲中宣布成立人工智能安全研究所，这在世界上尚属首次。根据苏纳克的说法，该研究所将"仔细评估和测试新型人工智能，以便我们了解新模型的能力"。英国政府还就前沿人工智能的风险以及人工智能攻击的规模和速度导致的网络安全漏洞发布了两份讨论文件。这两份文件警告说，在未来，我们可能会看到由人工智能进行和防御的网络攻击，而在每一个步骤中，人类的监督都会被最小化。...PC版：https://www.cnbeta.com.tw/articles/soft/1392513.htm手机版：https://m.cnbeta.com.tw/view/1392513.htm

人工智能首尔峰会线上开幕 聚焦 “安全” 议题

人工智能首尔峰会线上开幕聚焦“安全”议题当地时间21日晚，为期两天的“人工智能（AI）首尔峰会”以在线视频的方式开幕，韩国总统尹锡悦和英国首相苏纳克共同主持。在首日的线上峰会之后，与会各方发布人工智能《首尔宣言》，表示将加强国际合作和对话，共同应对人工智能快速发展对于经济和社会的影响。与会各方表示，安全是推动建立负责任的人工智能创新的关键要素，未来各方将在开放、透明、互惠基础上推进人工智能安全方面的国际合作。