英国首相顾问警告：人工智能可能在2年内威胁到人类

英国首相顾问警告：人工智能可能在2年内威胁到人类近日，英国政府高级研究与发明局主席兼人工智能特别工作组的马特·克利福德在接受媒体采访时表示，目前的人工智能系统进化速度越来越快，能力也越来越强大。克利福德对此深感不安，他认为，如果人类没能找到控制该技术的办法，或者现在不考虑安全和监管问题，人工智能系统将在两年内变得“非常强大”。他指出，决策者应该作好准备，无论是短期还是长期，都存在许多不同类型的风险，可能出现从网络攻击到制造生物武器等一系列的威胁。“这可能会对人类生存构成非常严重的威胁，仅仅从我们预计两年后会出现的模型来看，可能会杀死很多人，当然，不是所有人。”在克利福德接受采访之前，科技界高管和人工智能科学家联合发布声明称，这项技术带来的灭绝风险堪比疫情和核战。克利福德解释道：“他们谈论的是，一旦我们有效地创造了一个新物种，一种比人类更加聪明的物种，会发生什么情况。”他还表示，乐观地看，我们可能在两年内拥有比人类更聪明的人工智能。这位人工智能专家表示，这听起来像是电影的情节，但确实令人担忧，这也是各国需跨境合作来制定规则的一个原因。根据克利福德的说法，监管机构和开发者的主要关注点应该是了解如何控制这些人工智能系统，然后在全球范围内实施监管。他提醒道：“正在构建最强大人工智能系统的人坦率地承认，他们并不完全理解（人工智能系统）是如何表现出它们所做的行为的，也就是我最担心的事情。”克利福德强调，许多构建人工智能管理组织的领导者也同意，强大的人工智能模型在部署之前必须经过某种审计和评估过程。...PC版：https://www.cnbeta.com.tw/articles/soft/1364265.htm手机版：https://m.cnbeta.com.tw/view/1364265.htm

英国首相Rishi Sunak警告快速制定人工智能法规可能带来的后果。

英国首相RishiSunak警告快速制定人工智能法规可能带来的后果。https://www.inty.news/2023/10/26/%e8%8b%b1%e5%9b%bd%e9%a6%96%e7%9b%b8rishi-sunak%e8%ad%a6%e5%91%8a%e5%bf%ab%e9%80%9f%e5%88%b6%e5%ae%9a%e4%ba%ba%e5%b7%a5%e6%99%ba%e8%83%bd%e6%b3%95%e8%a7%84%e5%8f%af%e8%83%bd%e5%b8%a6%e6%9d%a5%e7%9a%84/

马斯克与英国首相讨论人工智能：AI可能成为人类的好朋友

马斯克与英国首相讨论人工智能：AI可能成为人类的好朋友苏纳克在伦敦兰开斯特宫的一个镀金房间的小舞台上采访了马斯克，他是在英国举行的为期两天的人工智能峰会上的明星嘉宾。兰开斯特宫是英国政府最豪华的场所之一，经常用于外交活动。这次讨论是在数十名受邀的商界领袖面前进行的，这是为期两天的峰会的最后一场活动，人们认为，通过开始思考人工智能可能带来的严重风险，这是在利用人工智能造福人类方面迈出的一大步。马斯克表示，他相信总有一天，“如果你想要一份工作，你就可以拥有一份工作……但AI将能够做任何事情，”使我们今天所知道的就业成为过去。他说：“我不知道这会让人们感到舒服还是不舒服。”“这是好事也是坏事。未来的挑战之一将是，如果你有一个神奇的精灵，可以做任何你想做的事，我们如何找到生活的意义？”在峰会期间，几家大型科技公司和国家签署了一项“具有里程碑意义”的自愿协议，允许英国、美国和新加坡等国政府测试其最新的社会和国家安全风险模型。签署承诺的公司包括OpenAI、谷歌的DeepMind、Anthropic、亚马逊、Mistral、微软和Meta。当被苏纳克问及他对这一举措的看法时，马斯克开玩笑地说：“这很烦人，这是真的”，但他表示支持这一计划，因为“多年来我们学到，有一个裁判是一件好事”。马斯克和苏纳克都认为可能需要物理“关闭开关”，以防止机器人以危险的方式失控，就像《终结者》系列电影和其他科幻电影中描述的那样。苏纳克说：“所有这些情节基本相同的电影都是以主人公关掉开关结束的。”他补充说，物理开关的重要性是当天早些时候峰会讨论的一部分。马斯克表示，他认为确保人工智能技术有“某种关闭开关”是我们应该“非常关注”的事情。“如果有一天他们的软件更新了，他们就不再那么友好了，那该怎么办？”他说。这不是马斯克第一次谈到物理开关的重要性，今年较早时，他在X平台上发布视频展示特斯拉“擎天柱”机器人的最新进展时，一位用户指出了擎天柱脖子后面的一个“红色按钮”，可能是作为防止潜在的机器人统治世界的场景的安全措施。马斯克回应称：“我们一定会尽力保证擎天柱的安全。它需要很容易地使用遥控器或你的手机就能暂停，无需集中控制。”马斯克说，总的来说，他认为人工智能“很可能会成为一股向善的力量，”他说，问题在于事情变得非常糟糕的可能马斯克说，人工智能系统可能会变得如此先进，以至于它可以通过记住对话，了解人们的好恶，成为一个人的“好朋友”。他指出，他的儿子有学习障碍，交朋友也有困难。“一个AI朋友对他来说会很好。”...PC版：https://www.cnbeta.com.tw/articles/soft/1394035.htm手机版：https://m.cnbeta.com.tw/view/1394035.htm

科技中心地位不保？英国首相：科技领袖必须抓住人工智能机遇

科技中心地位不保？英国首相：科技领袖必须抓住人工智能机遇“如果我们不仅想要继续成为世界科技中心……而且还要走得更远，那就必须尽快行动，使之成为全世界最适合创办、发展和投资科技公司的国家。”苏纳克说。“这是我的目标。我很有紧迫感，我认为有责任确保我们抓住在这一机会。”世界各地的政府都在努力寻找平衡，希望在不破坏人工智能创新的情况下，能够评估和控制人工智能的一些潜在的负面后果。今年3月，英国选择将人工智能的监管责任分配给负责人权、健康和安全的三个政府机构，而没有针对这项技术创建新的机构。苏纳克表示，在他的经济发展计划中，科技行业是重中之重。他还阐述了英国政府将如何与企业合作，利用人工智能等变革性技术带来的机遇。有许多业内人士认为，人工智能的意义堪比互联网。苏纳克在上周访问美国时表示，英国将在今年晚些时候主办一次关于人工智能安全的全球峰会，以讨论人工智能的风险，并探讨如何通过国际协调行动降低这些风险。“它带来了非凡的可能性。但我们必须安全行事。”他周一说，“我希望英国不仅是人工智能中心，还能在人工智能监管方面为全球做出表率。”...PC版：https://www.cnbeta.com.tw/articles/soft/1364757.htm手机版：https://m.cnbeta.com.tw/view/1364757.htm

Arm首席执行官“夜不能寐”：担心人类会失去对人工智能的控制

Arm首席执行官“夜不能寐”：担心人类会失去对人工智能的控制Haas在Arm位于英国剑桥的总部接受了这场采访。据他估计，全球70%的人口都以某种方式接触过Arm设计的产品。Arm的下一篇章在Haas思量人工智能的潜在弊端时，他也坚信Arm的下一篇章，将见证该公司对生成式人工智能革命的重要性，就像其对智能手机的重要性一样，目前Arm的芯片设计在智能手机中无处不在。Haas表示，“人工智能将融入我们所做的一切，融入我们工作、生活和娱乐的方方面面。这将在未来5到10年内改变一切。”Haas于去年2月出任Arm首席执行官，他一直试图将Arm的技术应用到PC、服务器和电动汽车等领域，从而减少Arm对日益萎缩的智能手机行业的依赖。该公司还向手机客户提供更完整的设计，旨在通过每售出一台设备获得更多收入。在智能手机市场上，Arm已经无处不在。在每年售出的14亿部智能手机中，几乎所有的处理器都嵌入了Arm的指令集，其中99%以上都采用了Arm的设计或技术。现在，Haas也在云数据中心领域看到了令人兴奋的机遇。大型语言模型（如OpenAI的ChatGPT和谷歌的Bard）需要大量的存储和数据容量，Haas的目标是在未来几年占据全球50%的市场份额。当然，雄心本身并不能保证成功，Arm能否成为人工智能未来的核心还有待观察。到目前为止，这股热潮的主要受益者还是英伟达。不过，Arm的前景依然广阔。根据Arm首席财务官JasonChild在9月份的路演，到2025年，Arm的营收机会将增至280亿美元，并以每年17%的速度增长。Haas还把重点放在了主导所谓的边缘计算上——即系统从家庭或办公室的设备上运行，而不是从中央云端运行。Haas指出，“随着这些边缘设备变得越来越智能，越来越多的技术被塞进这个口袋，这对Arm来说是一个非常好的机会。”地缘政治影响在最新采访中，Haas还提到了地缘政治因素对该公司业务的影响。中国对Arm来说机遇与风险并存，该公司约25%的收入来自这个世界第二大经济体。Arm需要应对美国对向中国出口高端芯片的限制，同时保持其在中国市场上的份额。Haas指出，“我认为，10年前的首席执行官与政府官员交谈的频率远不及今天。”Haas表示，在公司适应中国市场变化的同时，一个更紧迫的问题是如何获得人才，尤其是在英国。他说，英国仍然是该公司未来的核心，但（英国）政客们不应该忽视科技公司需要海外人才来壮大自己的队伍。“我们出生在这里，我们打算留在这里。请为我们吸引世界级人才提供便利，吸引工程师来Arm工作。”...PC版：https://www.cnbeta.com.tw/articles/soft/1403503.htm手机版：https://m.cnbeta.com.tw/view/1403503.htm