AI能毁灭人类？这是不是危言耸听？

AI能毁灭人类？这是不是危言耸听？“减轻AI带来的灭绝风险，应该与流行病和核战争等其他社会规模风险一起，成为全球的优先事项。”这封只有一句话的公开信这么写道。这封信是科技行业对于AI发出的最新不详警告，但是明显缺乏细节。今天的AI系统无法摧毁人类，有些AI系统甚至还不会加减法。那么，为什么最了解AI的人会如此担心呢?怕什么？一些科技行业的“乌鸦嘴”说，总有一天，企业、政府或独立研究人员能够部署强大的AI系统来处理从商业到战争在内的一切事务。这些系统可能会做一些人类不希望它们做的事情。如果人类试图干扰或关闭它们，它们可以抵抗甚至复制自己，这样它们就可以继续运作。“今天的系统根本不可能构成生存风险，”蒙特利尔大学教授、AI研究员约书亚·本吉奥(YoshuaBengio)表示，“但是一年、两年、五年以后呢？有太多的不确定性。这就是问题所在。我们不能确定这些系统不会达到某个临界点，引发灾难性后果。”对于AI的威胁，忧虑者经常使用一个简单的比喻。他们说，如果你要求一台机器制造尽可能多的回形针，它可能会失去控制，把一切都变成回形针工厂，包括人类。那么，这种威胁与现实世界或者不远的未来能够想象的世界有何关系呢？企业可以让AI系统具备越来越多的自主性，并将其连接到重要的基础设施上，包括电网、股市和军事武器。它们可能会从那里引发问题。对于许多专家来说，这原本似乎并不可信，直到去年，OpenAI展示了他们技术的重大改进。这些最新技术表明，如果AI继续以如此快的速度发展，可能会发生一些意想不到的事情。“随着AI变得越来越自主，它将逐渐被授权，并可能篡夺当前人类和人类管理的机构的决策和思考权力。”加州大学圣塔克鲁兹分校的宇宙学家安东尼·阿吉雷(AnthonyAguirre)表示，他也是未来生命研究所的创始人之一，该组织是两封警告AI危险性公开信中的一封的背后推动者。他表示：“未来某个时刻，人们会清楚地意识到，主导社会和经济的巨大机器并非真正受人类控制，也无法像关闭标准普尔500指数一样被关闭。”这或许只是理论上的说法。其他AI专家认为，这是一个荒谬的假设。“对于生存风险的讨论，我可以用一个礼貌的词语来形容我的看法，这些担忧只是‘假设’。”西雅图研究实验室艾伦AI研究所的创始CEO奥伦·埃齐奥尼(OrenEtzioni)这么说。AI有这种能力了吗？还没有。但是，研究人员正在将ChatGPT这样的聊天机器人转变为能够根据他们生成的文本采取行动的系统。一个名为AutoGPT的项目就是最典型的例子。该项目的想法是给AI系统设定目标，比如“创办一家公司”或“赚一些钱”。然后，系统会不断寻找实现这一目标的方式，特别是如果它们与其他互联网服务相连接的情况下。像AutoGPT这样的系统可以生成计算机程序。如果研究人员给它访问计算机服务器的权限，它实际上可以运行这些程序。从理论上讲，这是AutoGPT几乎可以在网上做任何事情的一种方式，包括获取信息、使用应用程序、创建新的应用程序，甚至自我改进。目前，AutoGPT这样的系统运转还不够顺畅。他们往往会陷入无尽的循环中。研究人员曾为一个系统提供了复制自身所需的所有资源，但是它还无法复制自身。不过，假以时日，这些限制可能会被突破。“人们正在积极尝试构建自我完善的系统，”Conjecture公司创始人康纳·莱希(ConnorLeahy)说，该公司希望将AI技术与人类价值观保持一致，“目前，这还行不通。但总有一天会的。我们不知道那一天是什么时候。”莱希认为，当研究人员、企业和犯罪分子给这些系统设定“赚一些钱”之类的目标时，AI系统最终可能会闯入银行系统，在持有石油期货的国家煽动革命，或者在有人试图关闭它们时进行自我复制。AI会变坏像ChatGPT这样的AI系统建立在神经网络和数学系统之上，可以通过分析数据来学习技能。大约在2018年，Google和OpenAI等公司开始构建神经网络，让这些网络从互联网上挑选的大量数字文本中学习。通过准确找出所有这些数据中的模式，这些系统学会了自己创作，包括新闻文章、诗歌、计算机程序，甚至是类似人类的对话。最终结果是：像ChatGPT这样的聊天机器人诞生了。由于它们能从更多的数据中学习，甚至超过了它们的创造者所能理解的范围，这些系统也表现出了意想不到的行为。研究人员最近表明，有一个系统能够在网上雇佣一个人来通过验证码测试。当人类问它是不是“机器人”时，系统撒谎说它是一个有视力障碍的人。一些专家担心，随着研究人员让这些系统变得更强大，用越来越多的数据对它们进行训练，它们可能会学到更多的坏习惯。早有警告声音其实在21世纪初，一位名叫埃利泽·尤德科夫斯基(EliezerYudkowsky)的年轻作家已经开始警告说，AI可能会毁灭人类。他的网上帖子催生出了一个信徒社区。这个群体被称为理性主义者或有效利他主义者(EA，以改善世界为目标)，在学术界、政府智库和科技行业都具有巨大的影响力。尤德科夫斯基和他的文章在OpenAI和DeepMind的创建过程中发挥了关键作用。DeepMind是一家AI实验室，2014年被Google收购。许多来自“有效利他主义者”社区的人在这些实验室里工作。他们认为，因为他们了解AI的危险，所以他们最能够开发AI。AI安全中心和未来生命研究所是最近发布公开信警告AI风险的两大组织，他们与“有效利他主义者”社区密切相关。除此之外，一些AI研究先驱和行业领袖也对AI发出了警告，比如埃隆·马斯克(ElonMusk)，他长期以来一直在警告这种风险。最新一封警告信由OpenAICEO萨姆·阿尔特曼(SamAltman)、戴米斯·哈萨比斯(DemisHassabis)签署。哈萨比斯协助创立了DeepMind，现在负责管理一个新的AI实验室，该实验室汇集了DeepMind和Google的顶尖研究人员。其他一些备受尊敬的人物也签署了这两份警告信中的一封或两封，其中包括蒙特利尔大学的本吉奥博士和“AI教父”杰弗里·辛顿(GeoffreyHinton)，后者最近辞去了Google高管和研究员职务。2018年，本吉奥和辛顿一同获得了“计算界的诺贝尔奖”图灵奖，以表彰他们在神经网络方面所做的工作。拖延战术？大数据公司Palantir的老板亚历克斯·卡普(AlexKarp)近日表示，他反对暂停AI研究的想法，那些提出这种想法的人是因为他们没有自己的AI产品。卡普周四在接受采访时说，“那些没有什么产品可以提供的人，想利用暂停时间来研究AI”，但是如果暂停开发，这可能会导致敌对国不仅在商业应用领域，而且在军事应用领域窃取领先优势。他表示，“让其他人在商业领域和战场上都取得胜利”是一个非常糟糕的策略。卡普称，世界已经在上演一场AI军备竞赛，美国处于领先，但是即便美国放慢脚步，这场竞赛也不会停。...PC版：https://www.cnbeta.com.tw/articles/soft/1364623.htm手机版：https://m.cnbeta.com.tw/view/1364623.htm

港府批美总领事言论危言耸听 驻港公署斥其干涉中国内政

港府批美总领事言论危言耸听驻港公署斥其干涉中国内政香港特区政府和中国外交部驻港特派员公署星期五（3月1日）晚间发文，批评美国驻港澳总领事梅儒瑞涉港言论。港府指梅儒瑞言论危言耸听，驻港公署则斥其说法干涉中国内政和香港事务。港府星期五发布新闻公报，对梅儒瑞的言论表示强烈不满和谴责。港府发言人指出，在《基本法》以及《香港人权法案》的保障下，所有面对刑事指控的人均有权接受司法机关的公平审讯。香港法院独立进行审判，不受任何干涉。美国驻香港总领事对正在香港法院进行的刑事审讯妄加评论，更企图将黎智英案与港府推广香港的措施作对比，不但极其不恰当，也是无视法治精神。发言人说，在维护国家安全方面的法律，美国就最少有21部，而以“国家安全”名义签发的行政命令更不计其数，更动辄通过秘密监视、非法监听、全球追捕等手段打压异己，根本没有资格就其他国家和地区就正当维护国家安全立法指手画脚。美国驻香港总领事执意无视香港就《基本法》第23条立法的宪制责任和实际需要，肆意对《基本法》第23条立法和依法进行的执法行动进行抹黑，与他所称希望与香港有更好的关系全然背道而驰。发言人强调，《香港国安法》和《基本法》第23条立法所防范和制止的危害国家安全行为和活动，与正当交流和商业活动有明显区别。美国应立即重回正道，停止就《基本法》第23条立法和香港维护国家安全的工作说三道四，并停止干预属于中国内政的香港事务。中国外交部驻港公署当天则在官网发新闻稿，对梅儒瑞的言论表示强烈不满和坚决反对，予以严厉谴责。驻港公署发言人强调，香港国安法的实施有效防范惩治危害国家安全的违法行为，有力保障香港的投资和营商环境。23条立法将进一步筑牢香港维护国家安全的防线，进一步增强香港社会的稳定性和法治的确定性，进一步发挥香港独特地位和优势。发言人指出，香港国安法和23条立法都强调尊重和保障人权。23条立法咨询文件也强调，会顾及香港公众及在港生活、营商或投资的外国社群的关注，保持香港独特优势和地位，保障正常国际交流活动在港顺利开展。...2024年3月2日8:44AM

德智库：若西方与中国全面脱钩 中国将成最大输家

德智库：若西方与中国全面脱钩中国将成最大输家德国最大经济研究机构之一的Ifo(InstituteforEconomicResearch)发布报告指，如果出现西方国家与中国双边脱钩的情况，中国的GDP降幅会高达2.27%。这一数据将远高于西方国家的GDP损失，中国将成为最大输家。据美国之音周三报道，报告中提出了五种可能出现的场景：德国与中国的脱钩；欧盟与中国的脱钩；西方国家与中国的脱钩；西方国家与中国的脱钩+欧盟与美国间达成自由贸易协定，以及西方国家与专制制度国家间的脱钩。该报告中的西方国家包括：欧盟27国、英国、美国、加拿大、日本和澳大利亚。西方国家与中国的脱钩，包括单边脱钩和双边脱钩两种可能性。与欧盟单独脱钩相比，西方国家联合与中国脱钩的话，将大大增加中国GDP的损失。西方国家对中国的单方面脱钩，将导致中国的GDP下降1.4%，而在双边脱钩的情况下，中国的GDP降幅会高达2.27%。这一数据将远高于西方国家在双边脱钩下的GDP损失：德国为0.76%，欧盟其他国家为0.49%，美国为0.48%。因此，该报告指出，在双脱钩的情况下，中国将成为最大输家。研究报告里还出现了“政治的不安全性”和“政治的不确定性”等词汇来描述中国政治的现状。研究报告合著者之一多恩（FlorianDorn）解释说，政治的不安全性，表现在德国的公司受到了中国政府批准切断供应链方面的影响。在疫情下，一些德国公司在不同程度上依附在这种政治不安全性上，受制于某些国家，某些政府的决定。这不是德国的决定，但他们必须对其他国家的某些决定作出反应。多恩说，“政治的不安全性”还表现在政治关系上，例如中国大陆和台湾之间的局势将如何发展。如果冲突开始加剧，美国是否会要求欧洲站边。发布：2022年8月17日2:23PM

中国卫健委：建方舱医院绝非疫情严重信号

中国卫健委：建方舱医院绝非疫情严重信号中国国家卫健委官员今天称，全国疫情整体近期呈现稳定下降态势，并强调建设方舱医院绝不是疫情严重的信号，而是为了有备无患。综合中国央视新闻和北京日报客户端报道，中国国家卫健委发言人、宣传司副司长米锋今天下午在国务院联防联控机制发布会上说，中国现有本土确诊病例和无症状感染者连续27天下降，但又有新的本土聚集性疫情发生，疫情防控形势依然严峻复杂。米锋说，要健全完善分类救治体系，建立梯度收治和双向转诊机制，提前规划准备定点医院、方舱医院、集中隔离点等，避免医疗资源挤兑。他也强调，要努力在群众基本医疗和生活不受影响情况下控制疫情，依法依规落实各项防控措施，不搞简单化、一刀切。中国卫健委疾控局副局长、一级巡视员雷正龙在会上说，近期全国疫情整体呈现稳定下降态势，上海疫情继续整体向好，但防反弹压力仍然较大，个别点位和社区风险仍有波动，疫情防控成果仍需进一步巩固。北京聚集性疫情和零星散发病例交织，局部地区和重点人群仍有感染传播风险。中国卫健委医政医管局监察专员郭燕红在同场发布会上强调，建设方舱医院绝不是疫情严重的信号，而是根据奥密克戎变异株的特点，做到在应对的以快制快，有备无患。发布：2022年5月23日4:50PM

中国外交部：中方出台优化疫情防控二十条措施绝非躺平

中国外交部：中方出台优化疫情防控二十条措施绝非躺平针对有外媒记者提问，中方星期五（11月11日）稍早宣布放宽入境旅客防疫规定，并取消入境航班熔断机制，此举是否代表从“动态清零”政策转移，中国人民是否可不受疫情限制进行国际旅行，中国外交部发言人回应称，中方出台优化疫情防控措施是为了防控更加科学精准，绝不是放松疫情防控，放开和躺平。据澎湃新闻报道，中国外交部发言人赵立坚11日在例行记者会上说，冠病病毒仍在持续变异，全球疫情仍处于流行态势，中国国内新发疫情也不断出现，防控形势仍然严峻，必须保持战略定力，科学精准做好疫情防控各项工作。他强调，中方将坚定不移坚持人民至上，生命至上，坚定不移落实外防输入、内防反弹总策略，坚定不移贯彻“动态清零”总方针，按照“疫情要防住，经济要稳住，发展要安全”的要求，高效统筹疫情防控和经济社会发展，最大程度保护人民生命安全和身体健康，最大限度减少疫情对经济社会发展的影响。赵立坚指出，今天，中国国家卫生健康委发布了进一步优化疫情防控工作的20条措施。中方出台这些进一步的措施是为了防控更加科学精准，绝不是放松疫情防控，甚至放开、躺平。这些防控政策措施的优化调整是基于病毒变异的特点，既是科学的，更是必要的。希望大家继续对此予以理解和支持。赵立坚说：“至于你提到的关于航班、关于跨境旅游，我相信在中方发布这些进一步优化疫情防控的措施之后，会改善跨国的旅行，也方便有关商业人士来中国进行投资兴业。”发布：2022年11月11日5:52PM

中国官方强调“乙类乙管”是有准备之仗绝非被动放开

中国官方强调“乙类乙管”是有准备之仗绝非被动放开中国对冠病降级管理，从“乙类甲管”调整为“乙类乙管”，官方强调，“乙类乙管”是有准备之仗，绝不是被动放开。据澎湃新闻报道，中国国家卫生健康委副主任李斌星期二（12月27日）下午在国务院联防联控机制召开的发布会上说，中国近三年来通过对冠病“乙类甲管”严格管理，经受住了全球先后五波疫情的冲击，极大减少了重症和死亡，为疫苗药物的研发应用以及医疗等资源的准备赢得宝贵时间。他强调，中国疫情流行和病亡数据保持在全球最低水平，人民健康水平稳步提升，统筹经济发展和疫情防控体系建设，提升素质能力等因素，为冠病病毒感染的法律归类创造了条件，因此调整为“乙类乙管”“我们打的是有准备之仗，绝不是被动的放开”。李斌说，当前疫情防控工作的重点是保健康、防重症，依法将冠病病人从“乙类甲管”调整为“乙类乙管”体现了实事求是、主动作用、因时因势优化防控政策，有助于适应更好病毒变异和变化，有助于把防控资源更加集中到保护患有基础病的老人、孕产妇和儿童重点人群上来，也有助于保障更好的生活和疫情对经济社会发展的影响。他同时强调，调整为“乙类乙管”绝不是放任不管，绝不意味着所有防控措施的退出，而是要继续强化管理、服务和保障，接下来将依法依规采取乙类预防控制措施，保障群众用药需求，重点做好老年人、儿童等重点人群的防护和救治，加强农村地区疫情防控。对于医疗资源及重症救治等问题，国家卫健委医政司司长焦雅辉在同场发布会上列举数据回应说，在床位资源方面，中国全国二级以上医疗机构总的床位数是561.6万张，近期床位使用率在60%左右浮动。截止到12月25日，全国重症医学床位总数是18.1万张，也就是10万人有12.8张，其中，三级医疗机构的重症医学床位数是13.34万张，可转换ICU的床位是10.48万张。二级以上医疗机构重症床位的使用率平均在50%左右波动，“全国重症床位资源总体来看是充足的”。她也说，目前正在经历重症救治高峰的省份，重症床位的资源已接近临界值，需要进一步扩充重症床位资源，或加快重症床位周转。...发布：2022年12月27日3:55PM