【OpenAI CEO等350名AI行业人士签署公开信 警告AI或给人类带来“灭绝风险”】

【OpenAICEO等350名AI行业人士签署公开信警告AI或给人类带来“灭绝风险”】2023年05月30日10点10分5月30日消息，350位AI行业的高管、研究人员和工程师日前签署了一封公开信，表示担忧AI技术将对人类带来生存威胁。这封信由位于非营利组织人工智能安全中心发布，其中仅有一句话：“降低人工智能带来的灭绝风险应该成为一个全球优先事项，与大流行病、核战争等其他社会规模的风险并列。”OpenAI首席执行官SamAltman、GoogleDeepMind首席执行官DemisHassabis、Anthropic首席执行官DarioAmodei三位AI公司高管，以及2018年图灵奖得主GeoffreyHinton、YoshuaBengio已签署这封信。

行业领袖警告： AI 可能给人类带来“灭绝的风险”

行业领袖警告：AI可能给人类带来“灭绝的风险”周二，来自OpenAI、GoogleDeepmind、Anthropic和其他AI实验室的领导者警告说，他们正在开发的人工智能技术可能有一天会对人类构成生存威胁，并应被视为与流行病和核战争同等的社会风险。“减轻人工智能灭绝的风险应该与其他社会规模的风险（例如流行病和核战争）一起成为全球优先事项，”预计将由非营利组织人工智能安全中心发布的一句话声明中写道。超过350名从事AI工作的高管、研究人员和工程师签署了这封公开信签署人包括来自3家领先AI公司的高管：OpenAI首席执行官SamAltman；谷歌DeepMind首席执行官戴米斯·哈萨比斯(DemisHassabis)；以及Anthropic的首席执行官DarioAmodei。杰弗里·辛顿(GeoffreyHinton)和约书亚·本吉奥(YoshuaBengio)是三位因在神经网络方面的开创性工作而获得图灵奖的研究人员中的两位，他们通常被认为是现代人工智能运动的“教父”，他们和该领域的其他著名研究人员一样签署了声明。该声明发表之际，人们越来越担心人工智能的潜在危害。所谓的大型语言模型——ChatGPT和其他聊天机器人使用的人工智能系统类型——的最新进展引发了人们的担忧，即人工智能可能很快被大规模用于传播错误信息和宣传，或者它可能会夺走数百万白领的工作。最终，一些人认为，如果不采取任何措施减缓它的发展，人工智能可能会变得强大到足以在几年内造成社会规模的破坏，尽管研究人员有时不会解释这将如何发生。——

OpenAI 员工发公开信警告 AI 风险，认为可能导致 “人类灭绝”

OpenAI员工发公开信警告AI风险，认为可能导致“人类灭绝”多家美国人工智能（AI）领域企业的在职和离职员工当地时间4日发表公开信，对这项新兴技术带来的风险表示担忧。据路透社5日报道，公开信的签署者包括美国AI初创企业OpenAI以及谷歌旗下“深层思维”公司的前员工和现员工，共计13人。公开信警告了不受监管的AI带来的风险，例如传播错误信息，AI系统独立性丧失，以及社会阶层不平等的加深。信中认为，这些风险可能导致“人类灭绝”，AI公司在与政府分享关键信息方面只尽到了“微弱的义务”，不能指望这些公司自愿分享信息。路透社称，这封公开信是行业内部对生成式AI技术提出安全担忧的最新案例。公开信敦促AI公司允许让在职和离职员工表达与行业风险相关的担忧。（环球时报）