人工智能教父后悔研发AI　忧对社会和人类构成风险

人工智能教父后悔研发AI忧对社会和人类构成风险有人工智能（AI）教父之称的科学家辛顿认为，人工智能领域的进步对社会和人类构成深远风险，坦言对研发人工智能技术感到后悔。75岁的辛顿早前辞去在Google的职务。他说，离开除了因为年龄，亦是为了毋须在考虑对Google的影响下，谈论人工智能的危险，他担心人工智能会创造出令人信服的虚假图像和文本，从而创造一个人类无法再知道甚么是真的世界，亦担心会有坏人利用它来做坏事。辛顿又说，曾经认为人工智能起码要30至50年才能够进化到较人类更聪明，但他现在认为这个情况不再遥远。Google首席科学家迪恩回应表示，公司仍然致力对人工智能采取负责任态度，在不断学习了解新风险的同时，亦大胆创新。2023-05-0217:23:58

人工智能教父 Geoffrey Hinton 离职谷歌

人工智能教父GeoffreyHinton离职谷歌GeoffreyHinton是人工智能领域最具影响力的先驱之一，离职谷歌使他可以自由地谈论人工智能风险，现在正式加入了批评者阵营。GeoffreyHinton:"我现在对自己的毕生工作感到非常后悔。我常用借口安慰自己，如果我不做，还有其他人会做。我以为这种东西超越人类智能还有30到50年甚至更长的时间，显然我不再这么认为了。很难看出如何才能防止坏人利用它来做坏事。"他最关心的是，互联网上将充斥着虚假的照片、视频和文字，普通人再也无法知道什么是真实的。他还担心人工智能技术会及时颠覆就业市场，它虽然带走了苦差事，但也可能带走更多东西。如今个人和公司允许人工智能系统不仅生成自己的计算机代码，还能自主运行这些代码。他担心有一天，该技术的未来版本会对人类构成威胁，真正的自主武器，那些杀手机器人将成为现实。频道：@TestFlightCN

“AI教父”警告：人工智能可能取代人类

“AI教父”警告：人工智能可能取代人类在上周日的一次电视采访中，辛顿继续强调了人工智能进步可能带来的负面影响。辛顿说：“也许我们回顾过去，把这看作是一种转折点，人类必须做出决定，是否进一步发展这些东西，如果他们这样做了，该如何保护自己。”辛顿说，人工智能可能有好有坏，接下来会发生什么还不得而知。“我们需要认真思考接下来会发生什么。我们只是不知道。”辛顿在这次采访中警告称，人工智能有可能取代人类。他说：“如果我们能阻止他们这么做，那就太好了，但目前还不清楚我们能否阻止他们这么做。”辛顿的担忧包括人工智能带来的就业流失，以及假新闻的兴起，有偏见的人工智能程序提供的信息被当作事实。辛顿警告说，人工智能系统可能编写自己的计算机代码来修改自己，“这是我们需要认真担心的事情。”尽管对人工智能相关的风险感到担忧，但辛顿说，他对帮助开发系统和推动人工智能的兴起并不后悔。他在谈到人工智能可能带来的好处是说：“因此，医疗保健显然是一个巨大的好处。在理解医学图像的情况方面，人工智能已经可以与放射科医生相提并论。它将非常擅长设计药物。”辛顿说，可能无法找到一条可以确保人类未来安全的人工智能发展道路，“我们正在进入一个非常不确定的时期，我们正在处理以前从未处理过的事情。”他警告称，我们负担不起出错。...PC版：https://www.cnbeta.com.tw/articles/soft/1388979.htm手机版：https://m.cnbeta.com.tw/view/1388979.htm

人工智能先驱称该技术对人类生存构成的威胁已十分紧迫

人工智能先驱称该技术对人类生存构成的威胁已十分紧迫AI先驱GeoffreyHinton周五在接受路透社采访时表示，人工智能可能对人类构成比气候变化“更紧迫”的威胁。被广泛称为“AI教父”之一的杰弗里·辛顿(GeoffreyHinton)最近宣布，他在Alphabet工作了十年后退出了该公司，并表示他想就这项技术的风险而警告世人。Hinton的工作被认为对当代人工智能系统的发展至关重要。1986年，他与人合着了开创性论文“通过反向传播误差学习表示”，这是支撑AI技术的神经网络发展的里程碑。2018年，他被授予图灵奖，以表彰他的研究突破。但他现在和越来越多的科技领袖一样公开表达了对人工智能可能构成的威胁的担忧，比如机器可能获得比人类更高的智能并控制地球。“我不想贬低气候变化的严峻程度，但我认为这最终可能会变得更加紧迫”欣顿说。...但他不同意暂停研究。他说："这完全是不现实的。我属于认为这是一种生存风险的阵营，而且这一风险已经足够接近，我们现在应该非常努力地工作，并投入大量资源来弄清楚我们能做些什么。"——

“AI教父”辛顿：AI将操控人类

“AI教父”辛顿：AI将操控人类人工智能(AI)正在以惊人的速度持续进步。当AI在所有领域都超越人类智慧的时代到来之时，世界将会发生怎样的变化呢？被誉为“AI教父”的多伦多大学名誉教授杰弗里·辛顿（GeoffreyHinton）在加拿大的家中接受了日本经济新闻（中文版：日经中文网）的采访，讲述了AI和人类的未来。记者：您的学生、美国OpenAI公司联合创始人伊尔亚·苏茨克维（IlyaSutskever）在2023年11月曾试图解雇该公司首席执行官(CEO)山姆·奥特曼（SamAltman），但以失败告终。据报道，其动机仍然是认为AI对人类构成威胁这一危机感。辛顿：伊尔亚非常担心AI的危险性。OpenAI是重视AI安全性的非盈利组织，但采用了管理盈利企业的结构。从这次的事件看出，甚至是这样的组织，比安全性，会更优先AI创造的利益。以前我们都认为数字的智能不会像人类那么优秀，理解语言和复杂的东西或将是很久之后的事情。伊尔亚率先改变了看法，但我并没有马上同意。现在我觉得他是对的。频道：@kejiqu群组：@kejiquchat

数名OpenAI、谷歌DeepMind现任和前任员工签署公开信警告人工智能风险

数名OpenAI、谷歌DeepMind现任和前任员工签署公开信警告人工智能风险称：OpenAI的人工智能系统已经接近人类智能水平，通用人工智能AGI有50%的可能性在2027年就会问世，而不是此前预测的2050年！这封公开信指出，人工智能的发展可能会带来一系列的风险，例如加剧现有社会的不平等、助长操控和虚假信息传播，以及失控的自主人工智能系统可能导致人类灭绝等。签署公开信的多位OpenAI前任雇员曾从事人工智能安全工作，为公开信背书的业内大佬则有“人工智能教父”GeoffreyHinton、因开创性AI研究而获得图灵奖的YoshuaBengio，以及AI安全领域的顶尖专家StuartRussell。关注频道@ZaiHuaPd频道爆料@ZaiHuabot