【牛津大学AI研究员发出警告：大语言模型对科学真相构成风险】

【牛津大学AI研究员发出警告：大语言模型对科学真相构成风险】 据11 月 24 日报道，在最新的一篇研究中，牛津大学互联网研究所的人工智能研究员发出了对大语言模型（LLMs）对科学真相构成威胁的警告。由 Brent Mittelstadt、Chris Russell 和 Sandra Wachter 等研究员在《自然人类行为》期刊上发表的论文中，他们指出，基于 GPT-3.5 架构等 LLMs 并非绝对的真实信息来源，可能产生他们所称的“幻觉”，即不真实的回应。研究人员呼吁改变 LLMs 的使用方式，建议将其作为“零射击翻译器”以确保输出的事实准确性。研究强调，信任 LLMs 作为可靠信息来源可能导致科学真相受损。 快讯/广告 联系 @xingkong888885

Transformer论文共同作者、谷歌AI研究员利昂·琼斯将离职创业

Transformer论文共同作者、谷歌AI研究员利昂·琼斯将离职创业 7月11日，据彭博消息，帮助撰写了开创性人工智能论文《注意力就是你所需要的一切》的利昂·琼斯证实，他将于本月晚些时候离开谷歌日本，并计划在休假后创办一家公司。 该论文于2017年发表，介绍了Transformer的概念，该系统可以帮助AI模型在它们正在分析的数据中锁定最重要的信息。Transformer现在是大型语言模型的关键构建模块，这一技术支撑着如OpenAI旗下ChatGPT等广为流行的AI产品。 这几年间，该论文的作者们创办了一些知名初创公司，其中包括为企业客户提供大型语言模型的Cohere，以及聊天机器人公司Character.AI。 via 匿名 标签: #Google 频道: @GodlyNews1 投稿: @GodlyNewsBot

AI颠覆材料学！DeepMind重磅研究登Nature，预测220万晶体结构赢人类800年 一直认为AI for Science

AI颠覆材料学！DeepMind重磅研究登Nature，预测220万晶体结构赢人类800年 一直认为AI for Science对人类更有意义。Google在这个战略方向的布局和持之以恒的投入导致现在硕果累累。得诺贝尔奖可能都是迟早的事。个人觉得至少比AI for 聊天和画画有意义。 #抽屉IT

世界最强AI实验室诞生：谷歌大脑与 DeepMind 宣布合并

世界最强AI实验室诞生：谷歌大脑与 DeepMind 宣布合并 合并后的 Google DeepMind 将由 DeepMind 首席执行官 Demis Hassabis 领导，谷歌大脑负责人 Jeff Dean 将担任 Google DeepMind 和谷歌研究院的首席科学家。 谷歌大脑开发了当今最重要的神经网络架构 Transformer 和开源机器学习框架 TensorFlow；DeepMind 创造了战胜人类顶尖围棋选手的 AlphaGo 和预测了几乎全球所有蛋白质结构的 AlphaFold。 称，长期以来谷歌一直将谷歌大脑和 DeepMind 视为独立的团队，尽管它们在AI研究的部分领域存在很大重叠。这种模式有时会在双方领导者之间造成紧张关系，因为部门间会夺资源。

谷歌 DeepMind 的 AI 新突破：构建 AGI 关键一步

谷歌 DeepMind 的 AI 新突破：构建 AGI 关键一步 当地时间1月17日，谷歌发表在《自然》上的一篇论文显示，谷歌旗下 Deepmind 新公开的 AI 系统 AlphaGeometry（阿尔法几何）可以解决最具挑战的几何问题。阿尔法几何能够在 30 道高中国际奥赛数学题中答对 25 道。作为对比，人类金牌得主平均能解决了 25.9 道题。该系统将“擅长直觉”的神经网络语言模型与“擅长推理”的符号引擎结合，强化了模型的逻辑推理能力。DeepMind 研究员 Quoc V Le 表示：“这是迈向通用人工智能 (AGI) 的关键一步。 ” 一一<详请、

谷歌全面整合AI力量背后：DeepMind浮沉史

谷歌全面整合AI力量背后：DeepMind浮沉史 曾经被视为AI皇冠明珠的DeepMind，如今却走下神坛，在人才争夺中失去绝对优势。近年来，从DeepMind出走创业的顶尖研究人员越来越多。Google旗下的最强AI研究机构，化身大规模向社会输出AI人才的工厂。Cohere、Mistral、Inflection等新兴资本宠儿，其创始人或首席科学家都出自DeepMind。如果说离开大公司创业是许多人才合理的去向，那么DeepMind联合创始人穆斯塔法·苏莱曼（Mustafa Suleyman）在创办Inflection两年后，于2024年3月高调回归另一家大厂微软去当打工人的举动，着实让Google和DeepMind更尴尬。熟悉AI大模型招聘的科锐国际猎头綦俐丽对“甲子光年”表示，近期招聘市场中，拥有更多数据量和GPU的大厂，的确要比独角兽创业公司更吸引候选人，因为前者“做成大模型这件事的概率高得多”。甚至在独角兽开出更高的薪资后，候选人还是选择去大厂。“工资的话，现在大家给得都不错。”“（候选人）第一关注算力，第二关注数据量。”綦俐丽说。乘着大厂起势的东风，Google也下定决心整合AI大模型的研发力量，让集大成之作Gemini迈上新的台阶。尤其是最近一周，Google的动作逐渐加快。4月15日，DeepMind首席执行官德米什·哈萨比斯（Demis Hassabis）在温哥华举行的TED大会上表示，Google未来将投入超过1000亿美元用于AI开发，并且高调表示Google的计算能力高于微软等对手。4月18日，GoogleCEO桑达尔·皮查伊（Sundar Pichai）宣布将通过团队重组加快AI产品的开发部署。所有研究AI模型的团队都将归入哈萨比斯领导的DeepMind。“这些变化延续了我们过去一年所做的工作，即简化我们的结构并提高速度和执行力。这有助于加快我们Gemini模型的开发，统一我们的机器学习基础设施和开发团队；这样就能实现更快的决策、更智能的计算分配和更好的客户体验。” 皮查伊在公司博客中写道。此时距离DeepMind与Google Brain正式合并，已经过去整整365天。这个更庞大的新部门仍然冠以DeepMind的名号，意味着哈萨比斯在Google的权力大大增强。但哈萨比斯也和14年前创立之初的DeepMind渐行渐远。01 “无人离开的公司”2010年，哈萨比斯与儿时好友苏莱曼，以及来自新西兰的研究同僚谢恩·莱格（Shane Legg）共同在伦敦创立了DeepMind。这是一个看起来稳固的三人组，也有着清晰的风格划分：哈萨比斯和莱格结识于伦敦大学学院，两人分别拥有神经科学和人工智能的博士学位。苏莱曼则专注于产品开发和政策方面。或许和哈萨比斯与苏莱曼分别拥有剑桥和牛津的学习经历有关，几年之内，许多剑桥和牛津的研究人员来到DeepMind，把这里打造为深度学习圣地。即便陷入资金困境，它也能成为当时的Google和Facebook竞相追逐的对象。2014年1月，Google以6亿美元将DeepMind收入囊中，并且赋予对方极大的独立性。在日后多次登上全球媒体头条时，DeepMind仍然是那家“位于伦敦的AI公司”，与熙熙攘攘的硅谷相隔一整个美国外加大西洋。当时尚未满40岁的哈萨比斯坚持把DeepMind留在了自己的家乡。他出生于伦敦北部，父亲是希腊裔塞浦路斯人，母亲是新加坡华裔。如果不多做介绍，你很容易把这位曾经的国际象棋神童当成DeepMind的实习生。但他也被业内称作“地球上最聪明的人之一”。年轻时的哈萨比斯，图片来源：英国皇家工程院哈萨比斯透露，DeepMind是否要留在伦敦是没有商量余地的。“如果你拥有剑桥大学的物理学博士学位，并且想做一些改变世界的技术，那么这里没有那么多选择，但在硅谷有成千上万个。如果你想专注于一些长期的目标，硅谷又像是一个泡沫，人人都想5分钟打造一个Snapchat，这个体系里噪音太多了。”在2015年面向《WIRED》杂志发表上述观点时，哈萨比斯还表示，贝尔实验室或者微软研究院更像是学术机构，而DeepMind与Google的结合是“两个世界的融合，所有伟大的进步都会因此而到来神经科学和机器学习，学术思维和创业思维，结合在一家大公司内”。不过在那之后很长一段时间里，DeepMind同样展现出纯粹的学术气质，它没有帮助Google增加广告营收的压力。“我们在做的是长期的研究工作，”苏莱曼曾说，“如果我们只是为现在可以想到的产品做解决方案，那我们就是在限制自己的想象力。”2016年3月，AlphaGo战胜围棋世界冠军李世石，这场惊天胜利打开了DeepMind的公众知名度，也把全球的投资者推向AI应用的浪潮。当月，美国媒体Business Insider发文吹捧DeepMind，将它称作“一家无人愿意离开的伦敦初创公司。”接连发布AlphaZero、AlphaFold等游戏和科研领域的AI力作后，截至2020年，DeepMind已发布上千篇引用量极高的论文，其中13篇发表于《自然》或《科学》这两大顶级期刊。佐治亚理工学院交互式计算学院副教授马克·利德（Mark Riedl）在2021年被问及AI公司排名时表示：“从声誉上看，DeepMind、OpenAI 和 Facebook的FAIR有充分理由当选前三名。”AlphaFold模拟的人类蛋白质结构示意图，图片来源：DeepMind官网由此，DeepMind走上一条独特的AI产品路线：以游戏作为形式，以论文作为成果，论证机器可以通过反复试验来学习并解决复杂的问题，然后推动在医疗、科研等领域的实际应用。这是以牛津和剑桥为代表的英国AI学术界为DeepMind打下的底色。但在2022年后更侧重产品应用层面的AIGC时代，这也成为它的隐忧。在DeepMind的曝光度达到顶峰的2016年，据Business Insider援引领英数据统计，至少十余位牛津和剑桥的深度学习博士后或研究人员离开学术界加入DeepMind。在Google收购后的这两年里，DeepMind也从100人扩大到250人。剑桥大学未来智能研究中心主任史蒂芬·凯夫（Stephen Cave）指出，DeepMind彰显了学术界人才流失到企业的问题。他指出部分人工智能研究方向很难在企业得到应有的关注，一些富有哲学性的工作很难吸引大多数科技公司在上面投入时间。时隔8年，史蒂芬·凯夫于2024年4月在邮件中对“甲子光年”坦言，当年的采访内容存在媒体夸大的成分。而DeepMind的定位和地位，也悄然发生了改变。02 阵痛期的出走收购DeepMind的决定本身，在Google就不是众望所归。当时Google麾下至少有十多个AI研究团队，其中Google Brain是知名度较高的一个，仅比DeepMind晚成立一年。该团队早期的主要项目包括改进Google地图的图像识别，Android系统的语音识别等，后来在2017年提出Transformer架构，奠定了自身的地位。当DeepMind以一种特殊的独立角色加入Google后，各团队的摩擦加剧。Google多位前员工对The Information表示，Google Brain早已展示了自己的价值，但DeepMind长期无法证明花费在它身上的巨额成本是合理的。另一方面，DeepMind团队对Google其他部门开发的机器学习算法也不感冒。剑桥大学计算机教授乔恩·克洛克夫特（Jon Crowcroft）对CNBC表示：“投资者会在更初期的阶段就关注大客户和收入来源到底在哪儿。（DeepMind）他们开发了可以实现这一目标的技术和原型工具，但实验室与现实之间还有很长的路要走。”被Google收购五年后，为了更好地磨合学术追求和Google的商业产品导向，DeepMind来到一段阵痛期。DeepMind从2016年到2019年的营收与亏损，图片来源：VentureBeat2019年初，三位DeepMind人工智能工程师离职，比如著名安全工程师本·劳里（Ben Laurie）回到前雇主Google麾下。总数虽小，但DeepMind“无人离开”的“金身”已破。一位DeepMind前研究科学家对欧洲创业媒体Sifted表示，他离开DeepMind的原因之一是，他不确定自己正在从事的项目能否在科研成果转化的压力中幸存。“当我们被要求产生更多商业影响时，... PC版： 手机版：