【马斯克签署联名信，呼吁暂停训练比 GPT-4 更强大的人工智能】

【马斯克签署联名信，呼吁暂停训练比GPT-4更强大的人工智能】3月29日消息，马斯克和1000多名人工智能专家及行业高管签署联名信，呼吁暂停训练比GPT-4更强大的人工智能系统至少六个月，理由是这种系统对社会和人类构成潜在风险。信中写道：只有在我们确信它们的效果是积极的，风险是可控的情况下，才应该开发强大的人工智能系统。马斯克此前曾多次表达对人工智能的担忧，他在今年2月的一次视频讲话中表示，人工智能是未来人类文明最大的风险之一。

马斯克和一些业内专家呼吁暂停比GPT-4更强大AI的训练，理由是担忧对人类社会构成危险

马斯克和一些业内专家呼吁暂停比GPT-4更强大AI的训练，理由是担忧对人类社会构成危险埃隆·马斯克和一群人工智能专家和行业高管在一封公开信中说，他们呼吁暂停训练比GPT-4更强大的系统六个月，理由是对社会和人类的潜在风险。这封信由非营利性的"生命未来研究所"发布，包括马斯克、苹果公司联合创始人史蒂夫-沃兹尼亚克和稳定人工智能首席执行官埃马德-莫斯塔克在内的1000多人签署，呼吁暂停先进的人工智能开发，直到此类设计的共享安全协议被制定、实施并由独立专家审计。信中说："只有当我们确信强大的人工智能系统的效果是积极的，其风险是可控的，才应该开发。"信中还详细介绍了人类竞争性人工智能系统以经济和政治混乱的形式对社会和文明的潜在风险，并呼吁开发者与政策制定者在治理和监管机构方面进行合作。这封信是在欧盟警察部队Europol周一加入了对ChatGPT等先进人工智能的道德和法律担忧的合唱，警告说该系统可能被滥用于网络钓鱼企图、虚假信息和网络犯罪。——

马斯克等千人联名呼吁暂停研发更强大的AI 人工智能专家：一些说法“精神错乱”

马斯克等千人联名呼吁暂停研发更强大的AI人工智能专家：一些说法“精神错乱”自从GPT-4的前身ChatGPT于去年发布以来，竞争对手也竞相推出类似产品。公开信中说，具有“人类竞争智能”的人工智能系统对人类具有深远的风险，信中引用了专家的12项的研究结果，这些专家包括大学学者，以及OpenAI、谷歌及其子公司DeepMind的现任和前任员工。此后，美国和欧盟的民间社会团体一直向立法者施压，要求约束OpenAI的研究。OpenAI没有立即回应记者的置评请求。公开信由未来生命研究所发出，而该研究所主要马斯克基金会资助。批评人士指责研究所优先考虑想象中的世界末日场景，而忽略人工智能带来的更紧迫的担忧，比如编程到机器中的种族主义或性别歧视偏见。信中引用的研究包括玛格丽特·米歇尔(MargaretMitchell)合著的著名论文《论随机鹦鹉的危险》。她本人曾在谷歌负责人工智能伦理研究，现在是人工智能公司HuggingFace的首席伦理科学家。但米歇尔本人批评了这封信，并表示目前还不清楚什么东西“比GPT4更强大”。“这封信将许多值得商榷的想法视为假定事实，信中提出了一系列有利于未来生命研究所支持者的人工智能优先事项和叙述”，她说，“现在，我们没有特权忽视主动伤害。”米歇尔的合著者蒂姆尼特·格布鲁（TimnitGebru）和艾米丽·M·本德（EmilyM.Bender）也在Twitter上批评了这封信，后者称信中一些说法“精神错乱”。未来生命研究所总裁迈克斯·泰格马克（MaxTegmark）则表示，这一举动并不是为了试图阻碍OpenAI的企业优势。“这太搞笑了。我看到有人说，‘埃隆·马斯克正试图减缓竞争，’”他说，并补充表示，马斯克没有参与起草这封信。“这件事关乎的不是一家公司。”目前的风险康涅狄格大学的助理教授施里·多里-哈科恩（ShiriDori-Hacohen）也对信中提到她的研究提出了异议。去年她与他人合著了一篇研究论文，论文认为人工智能的广泛使用已经带来了严重的风险。她的研究认为，今时今日人工智能系统的应用可能会对气候变化、核战争和其他威胁生存相关的决策产生影响。她表示:“人工智能不需要达到人类水平就会加剧这些风险。”“有些非生存风险也真的非常非常重要，但这些风险没有得到高度重视。”当被问及如何评论这些批评意见时，未来生命研究所总裁泰格马克表示，应该认真对待人工智能的短期和长期风险。“如果我们引用某人的话语，这只是意味着我们认为他们赞同这句话。这并不意味着他们认可这封信，或者我们认可他们的所有想法，”他说。公开信中引用的另一个专家是总部位于加州的人工智能安全中心主任丹·亨德里克斯(DanHendrycks)。他支持信中内容，并表示，考虑黑天鹅事件是明智的。黑天鹅事件是指那些看起来不太可能发生，但会产生毁灭性后果的事件。公开信还警告称，生成式人工智能工具可能被用来在互联网上充斥“宣传和谎言”。多里-哈科恩表示，马斯克签署这份公开信“相当富有”，他援引民间社团组织CommonCause等机构记录的消息称，在马斯克收购Twitter平台后，Twitter上的错误信息有所增加。Twitter将很快推出针对访问其研究数据的一种新的收费架构，这可能会阻碍对该主题的研究。“这直接影响了我的实验室工作，以及其他研究错误和虚假信息的人的工作，”多里-哈科恩说。“我们受到了束缚。”马斯克和Twitter没有立即回应置评请求。...PC版：https://www.cnbeta.com.tw/articles/soft/1352535.htm手机版：https://m.cnbeta.com.tw/view/1352535.htm

马斯克与逾千名专家以“社会风险”为由 促暂停发展人工智能

马斯克与逾千名专家以“社会风险”为由促暂停发展人工智能电动车巨头特斯拉首席执行官马斯克和一群人工智能专家呼吁，暂停开发比美国人工智能公司OpenAI新推出的GPT-4更强大的智能系统。路透社星期三（3月29日）报道，这封公开信由非营利组织未来生命研究所（FLI）公布，有包括马斯克在内的1000多人签署，旨在呼吁暂停开发高级人工智能，直到独立专家完成开发、实施和审计等共享安全协议。专家在公开信中写道：“只有当我们确信它们（高级人工智能）的效果是积极的，风险是可控的情况下，才应该开发强大的人工智能系统。”信中还详细描述了具有人类竞争力的人工智能系统，以经济和政治干扰的形式对社会和文明造成的潜在风险，并呼吁开发者与决策者在治理和监管机构方面进行合作。欧洲刑警组织（Europol）星期一（27日）也加入了对ChatGPT等先进人工智能的道德和法律担忧的行列，警告该系统或被滥用于网络钓鱼、虚假信息和网络犯罪。与此同时，英国政府公布了围绕人工智能建立“适应性强”监管框架的提案。英政府在最新发布的一份政策文件中，概述了相关监管做法，既将管理人工智能的责任分配给人权、健康与安全以及竞争方面的监管机构，而不是创建一个专门针对这项技术的新机构。也在公开信上签名的纽约大学教授马库斯（GaryMarcus）说：“这封信并不完美，但其精神是正确的:我们需要慢下来，直到我们更好地理解其后果。”除了马斯克外，联合签署人还包括StabilityAI首席执行官莫斯塔克（EmadMostaque）、谷歌母公司Alphabet旗下DeepMind的研究人员，以及人工智能重量级人物图灵奖得主本希奥（YoshuaBengio）和美国加州大学伯克利分校计算机科学教授拉塞尔（StuartRussell）。OpenAI尚未对此置评。

马斯克和 1000 多名人工智能专家及行业高管签署联名信，呼吁暂停训练比 GPT-4 更强大的人工智能系统至少六个月，理由是这种

马斯克和1000多名人工智能专家及行业高管签署联名信，呼吁暂停训练比GPT-4更强大的人工智能系统至少六个月，理由是这种系统对社会和人类构成潜在风险。目前签名的有，图灵奖得主YoshuaBengio、StabilityAI首席执行官EmadMostaque、苹果联合创始人SteveWozniak、纽约大学教授马库斯、马斯克，以及「人类简史」作者YuvalNoahHarari等等。信中写道：只有在我们确信它们的效果是积极的，风险是可控的情况下，才应该开发强大的人工智能系统。马斯克此前曾多次表达对人工智能的担忧，他在今年2月的一次视频讲话中表示，人工智能是未来人类文明最大的风险之一。投稿：@ZaiHuabot频道：@TestFlightCN

马斯克：OpenAI因为有我才能存在 名字都是我起的

马斯克：OpenAI因为有我才能存在名字都是我起的马斯克是OpenAI的早期支持者，据报道，他曾承诺提供10亿美元的支持，但后来因对OpenAI的发展速度存在分歧而退出。他说他最终投资了大约5000万美元。他还表示，OpenAI没有足够重视安全的人工智能开发。马斯克是3月份一封公开信的签署人，该公开信要求在建立安全措施的同时暂停先进的人工智能开发，但马斯克在周二的采访中表示，他知道这封信不太可能起任何作用。但马斯克补充说，在这封警告人工智能危险的信上签名是他想要“记录在案”的事情。马斯克还说，他和谷歌联合创始人拉里·佩奇曾是亲密朋友，两人会就人工智能的本质进行长时间的交谈。马斯克声称，佩奇对人工智能“相当漫不经心”。马斯克说，佩奇“似乎并不关心人工智能的安全”，并说，“最后一根稻草是，拉里称我是一个亲人类意识而不是机器意识的物种。”...PC版：https://www.cnbeta.com.tw/articles/soft/1360059.htm手机版：https://m.cnbeta.com.tw/view/1360059.htm