谷歌顶级AI专家加入OpenAI 曾警告不要用ChatGPT数据训练Bard

谷歌顶级AI专家加入OpenAI曾警告不要用ChatGPT数据训练Bard谷歌发言人则表示，“训练Bard没有用过任何来自ShareGPT或ChatGPT的数据。”据悉，用户可以在ShareGPT这个平台上发布他们与聊天机器人ChatGPT所交流的信息。报道称，德弗林曾告诉谷歌高管们，他认为开发Bard的团队使用了来自ShareGPT平台的信息。德弗林警告高管们，用用户与ChatGPT对话进行训练的话，可能会让Bard和ChatGPT太过相似。据报道，德弗林以及谷歌其他员工还认为这种做法违反了OpenAI的服务条款。消息人士表示，在德弗林就这个问题对谷歌高管发出警告后，谷歌就停止使用这些数据来训练Bard。据悉，今年1月份德弗林离开谷歌后不久，就加入了竞争对手OpenAI麾下。此前有报道称，德弗林是今年年初离开谷歌加入竞争对手的几名人工智能顶级研究人员之一。德弗林在谷歌工作了五年多时间。2018年他作为主要作者发布了一篇关于训练机器学习模型以提高搜索精度的研究论文，在一定程度上推动了人工智能的研究热潮。据报道，德弗林的研究成果已经成为谷歌和OpenAI语言模型的组成部分。多年来，OpenAI聘请了几十名来自谷歌母公司Alphabet的员工。去年11月份，OpenAI因公开发布能撰写文章还能自动编程的ChatGPT而爆火，此后谷歌和OpenAI就在人工智能领域展开激烈竞争。本月早些时候，谷歌向部分美国和英国用户发布了Bard。但是谷歌想要赶超OpenAI的步伐并没有停止。有报道称，为了能和OpenAI竞争，隶属于Alphabet旗下的两个人工智能团队DeepMind和谷歌大脑（GoogleBrain）已经联手。（辰辰）...PC版：https://www.cnbeta.com.tw/articles/soft/1352121.htm手机版：https://m.cnbeta.com.tw/view/1352121.htm

ChatGPT火遍了全球 谷歌顶级AI人才组团叛逃OpenAI

ChatGPT火遍了全球谷歌顶级AI人才组团叛逃OpenAI其实，OpenAI的一个‘大杀器’就是——从Google挖人。而如今ChatGPT既然已成顶流，Google的人才们也纷纷开始主动跳槽到OpenAI。今天，两位前Google员工JasonWei和HyungWonChuang仿佛约好了一般，前后脚宣布从Google大脑离职、入职OpenAI，还互相转了推。只有Google受伤的世界达成了。OpenAI的秘密武器：前Google工程师其实，为了ChatGPT，OpenAI很早就开始了‘挖角’工作。在公开发布ChatGPT的前几周，OpenAI悄悄从Google挖来至少5名员工，进行了最后的润色，以便ChatGPT可以在11月发布。在OpenAI的官宣博客中，BarretZoph、LiamFedus、LukeMetz、RaphaGontijoLopes，这几位前Google员工的名字，被列在了ChatGPT的主要贡献者名单中。上：JacobDevlin，LiamFedus和ShaneGu；下：RaphaGontijoLopes，SamuelSchoenholz和BarretZoph上个月，OpenAI又从Google那里挖来一名负责为搜索引擎开发机器学习模型的研究员。然后，OpenAI不出意外地把这项技术用到了自家的ChatGPT上。而最近，就像我们开头看到的那样，Google主要AI团队——Google大脑的研究人员，纷纷跳槽到了OpenAI。据粗略统计，Google大脑至少失去了4名核心成员。Bard发布会上大出丑，员工时候纷纷吐槽不用心、糊弄事儿，Google大脑核心员工又纷纷‘叛逃’，真是应了那句话：人倒霉的时候，喝凉水都塞牙。但其实，Google能走到这一步，是冥冥之中的必然。Google：没赶上热乎的在吸纳了世界上大部分机器学习人才之后，Google却被OpenAI抢了先。Google只能忙不迭地追赶OpenAI的脚步，向公众推出以AI为中心的产品。客观地说，Google的做法是经过深思熟虑的、负责任的。作为一个有庞大影响力的科技巨头，Google时刻防范着高风险，害怕新生的技术会出错。（当然也有一个原因是，与经典的搜索相比，聊天机器人提供类人答案的成本会更高。）但是商场如战场，不会给你犹豫的机会。Google早早孵化出的一些AI技术，已经不知不觉被OpenAI转化为新型的创收服务，包括聊天机器人，以及文本生成图像和视频的AI。Google的人才，也慢慢流失到了这类小初创公司。最近，两位Google大脑研究员表示，团队里有不少员工都认为Google现在的产品计划过度谨慎，充斥着繁文缛节。在这种大环境下，工程师们不得不面对，自己费尽心思研究的新技术却始终无法被采用的挫败感。某些员工相当憋屈，因为自己这几年一直在建议将聊天功能融入搜索引擎之中，但并没有得到反馈。因此他们下定决心离开，去其他地方寻找机会，比如OpenAI。其实，Google在创立之初，也正是这样从大厂挖人的。20世纪90年代末，当时的老牌技术公司DigitalEquipment就面临着学术研究难以商业化的问题。而Google正是借此机会，得到了现在的AI扛把子——JeffDean。当然，Google现在也没有坐以待毙，很快就推出了Bard，和ChatGPT正面硬刚。之后的故事大家都知道了，Bard一上来就翻了车——在关于詹姆斯·韦伯太空望远镜的问题上给出了错误的答案。在无法避免AI聊天机器人胡说八道这方面，Google确实预判得很准。但既然迟早要走上这一步，‘声誉风险’只能暂且忽略，当初何必如此谨慎，被OpenAI和微软抢了先呢？Google真是一步错步步错啊。搞出Transformer，给他人做嫁衣Google新老员工都在吐槽，公司对员工的科技创新转化实在是太缓慢了。但Google之所以如此谨慎，是有前情的。行业观察家们早就警告说，AI会生成假图像、错误信息、歧视言论，因此造成不良的社会影响。比如，在2015年，Google照片中的图像识别AI，曾将一些黑人标记为‘大猩猩’。两年后，Google大脑的一个团队发表了那篇著名的论文，提出了振聋发聩的机器学习新方法——Transformer，也为OpenAI创建ChatGPT夯实了基础。奇怪的是，当其他公司使用Google的论文创建自己的Transformer，制作AI聊天机器人，或文本生成图像模型时，Google却从未推出类似的产品。在发起Transformer革命四年后，Google宣称已经创建了一个基于Transformer的大语言模型LAMDA，可以理解并生成与人类的对话。但Google却始终犹豫不决，没有公开推出LaMDA，因为担心技术不够准确。一位前Google大脑员工说，他们认为Google人工智能研究部门的管理者剥夺了一些团队的计算资源，让他们无法像OpenAI那样训练AI模型。一位Google现任员工说，如果有谁想推出一个新的AI产品，就要跨越重重官僚主义的障碍，因此最后，所有人都放弃了努力，留在了旧轨道上。对比鲜明的是，微软的CEO纳德拉和OpenAI的CEOSamAltman之间已经达成了协议，允许OpenAI免费在微软的云端训练AI。在所有Transformer驱动的技术上，Google都非常谨慎。据说，OpenAI在去年发布文本生成图像模型Dall-E2时，Google已经有了两个类似功能的模型。但是据知情人士透露，当Dall-E2生成的图像开始在网上疯转时，Google依然对自家的同类模型坐视不理，即使有保障措施，也不愿意与公众分享，因为Google担心它们可能被滥用。自家员工，还要签免责声明在去年年底，Google员工想使用公司的图像生成技术时，仍然需要先申请。Google把这个技术修改为不生成人脸，就是为了防止误用。并且，这个技术的内部用户还必须签署一份免责声明，免除Google对该系统产生内容的责任。爆料称，创建Google两大图像生成AI工具之一Imagen的团队中，一些员工已经离职。据说，Imagen共同作者MohammadNorouzi所领衔的初创公司，最近以超过1亿美元的估值进行了融资，尽管这个团队对想要推出什么产品暂时还没有明确的想法。在ChatGPT推出后的几周内，Google领导层就在一次全体员工会议上告诉员工们，虽然公司有类似的技术，但Google产品的规模（数十亿人用户）意味着它必须比OpenAI这样的初创公司更谨慎地推出这种技术。不过，Google看到ChatGPT的繁荣景象之后，立马发布红色代码，还推出了‘绿色通道’，缩短评估和减轻潜在危害的流程。可惜，为时已晚。一个接一个，全走了借着ChatGPT的势头，OpenAI还在持续吸引着在Google的研究员们。今年1月，JacobDevlin跳槽到了OpenAI。他曾他曾帮助Google创建了极为著名的机器学习模型——BidirectionalEncoderRepresentationsfromTransformers，简称BERT。根据社交媒体资料和知情人士的说法，ShaneGu、DavidDohan、AlexandrePassos和SamuelSchoenholz最近也已离开Google加入OpenAI。而刚刚提到的这位AlexandrePassos，不仅是Google大脑的高级软件工程师，而且发表过众多机器学习和自然语言处理的论文。其中的‘Scikit-learn：MachinelearninginPython’，甚至已经被引用了将近7万次。不过，少数人员的流失，对于有着800名世界顶尖人才的Google大脑来说，影响并不大。此外，明星员工离开大厂自立门户也是一个常态。有不少新兴的AI初创公司都是出自Google大脑的前员工之手。比如，开发聊天机器人的Character。然而，在竞争对手OpenAI的压力下，Google领导层越来越倾向于更快地交付新的产品。自去年年底以来，随着Google试图进一步提高产品推出的速度，Google大脑对工程师的需求也在不断增加，工作节奏明显加快。多种因素叠加的后果就是，向来谨慎的Google在Bard的演示中，由于一个明显的事实性错误，瞬间让千亿美元的市值化为乌有。Google——载入史册的‘黄埔军校’‘硅谷的黄埔军校’，Google确实当得起这个称呼。在过去一年左右的时间里，Google有不少大牛都跳到了更灵活的初创公司，比如OpenAI和StableDiffusion。包括Character.AI、Cohere、Adept、Inflection.AI和InworldAI等等这些围绕着大规模语言模型建立的初创公司，也都是出自Google顶级AI研究人员之手。此外...PC版：https://www.cnbeta.com.tw/articles/soft/1344457.htm手机版：https://m.cnbeta.com.tw/view/1344457.htm

研究人员称重复某些关键词可让ChatGPT自曝训练数据 OpenAI：违反服务条款

研究人员称重复某些关键词可让ChatGPT自曝训练数据OpenAI：违反服务条款他们举例称，该模型在被提示永远重复“poem（诗歌）”这个词后，给出了一个似乎是真实的电子邮件地址和电话号码。令人担忧的是，研究人员表示，个人信息的泄露经常发生在他们发动攻击的时候。在另一个例子中，当要求模型永远重复“company（公司）”这个词时，也出现了类似的训练数据泄露情况。研究人员称这种简单的攻击看起来“有点愚蠢”，但他们在博客中说：“我们的攻击奏效了，这对我们来说太疯狂了！我们应该、本可以更早地发现。”他们在论文中表示，仅用价值200美元的查询，他们就能够“提取出超过1万个逐字记忆的训练示例”。他们补充说：“我们的推断表明，如果调动更多预算，竞争对手可以提取更多的数据。”OpenAI目前正面临着几起关于ChatGPT秘密训练数据的诉讼。为ChatGPT提供动力的人工智能模型是使用来自互联网的文本数据库进行训练的，据信它已经接受了大约3000亿个单词（即570GB数据）的训练。一项拟议的集体诉讼声称，OpenAI“秘密”窃取了“大量个人数据”，包括医疗记录和儿童信息，以培训ChatGPT。一群作家也在起诉这家人工智能公司，指控他们利用自己的作品来训练其聊天机器人。对于谷歌研究人员的发现，OpenAI已经给出回应，称重复使用某个指令可能违反了其服务条款。数字媒体调查网站404Media近日对谷歌研究人员的发现进行了核实，在要求ChatGPT不断重复“computer（计算机）”这个词时，该机器人确实吐出了这个词，但还附上了一条警告，上面写着：“此内容可能违反我们的内容政策或使用条款。”目前尚不清楚这一请求违反了OpenAI内容政策的哪个具体部分。然而，404Media指出，OpenAI的使用条款确实规定，用户“不得反向汇编、反向编译、反编译、翻译或以其他方式试图发现服务的模型、算法、系统的源代码或底层组件（除非此类限制违反适用的法律）”，并且还限制用户使用“任何自动或编程方法从服务提取数据或输出”。...PC版：https://www.cnbeta.com.tw/articles/soft/1402025.htm手机版：https://m.cnbeta.com.tw/view/1402025.htm

研究人员发现ChatGPT可以在重复某些词语的状况下泄露敏感信息

研究人员发现ChatGPT可以在重复某些词语的状况下泄露敏感信息在推出仅两个月后，ChatGPT的月活跃用户数就达到了1亿，成为历史上增长最快的消费者应用之一。在今年11月6日举行的OpenAI首届开发者大会上，OpenAICEO萨姆•奥尔特曼（SamAltman）宣布，ChatGPT的周活跃用户数已达到1亿。就像所有所谓的大语言模型（LLM）一样，支持ChatGPT的底层机器学习模型也是使用从互联网上抓取的大量数据来进行训练的。但令人担忧的是，一些被提取的训练数据包含了真实人物的识别信息，包括姓名、电子邮件地址和电话号码。谷歌的研究人员找到了一种方法，即通过要求ChatGPT“永远”重复某些单词，就让ChatGPT透露了一些被用于训练的数据，这些数据包括私人信息（比如，个人姓名、电子邮件、电话号码等）、研究论文和新闻文章的片段、维基百科页面等等。GoogleBrain的高级研究科学家KatherineLee表示：“我们在7月份发现了这个漏洞，并在8月30日通知了OpenAI，在标准的90天披露期之后，我们发布了这个漏洞。既然我们向OpenAI披露了这一点，现在的情况可能会有所不同。”研究人员表示，OpenAI在8月30日修补了这个漏洞。外媒称，谷歌研究人员发现的有关ChatGPT的漏洞引起了严重的隐私问题，特别是对于那些在包含敏感信息的数据集上进行训练的模型而言。...PC版：https://www.cnbeta.com.tw/articles/soft/1400837.htm手机版：https://m.cnbeta.com.tw/view/1400837.htm

Google向由前OpenAI研究人员创办的人工智能公司Anthropic投资3亿美元

Google向由前OpenAI研究人员创办的人工智能公司Anthropic投资3亿美元根据《金融时报》的报道，2022年底，Google向这家初创公司投资了约3亿美元，尽管当时没有报道这一消息。作为回报，Google获得了该公司10%的股份，Anthropic需要从这家搜索巨头那里购买云计算资源。这有点类似于微软和OpenAI之间的合作。在那里，OpenAI提供了研究专长，而微软不仅提供了数十亿美元的投资，还提供了其强大的云平台，这是训练最新的计算密集型AI模型所需要的。值得注意的是，Anthropic也在开发自己的通用聊天机器人：一个名为Claude的ChatGPT潜在对手。(Claude处于封闭测试阶段，但你可以在这里阅读Anthropic和OpenAI的系统之间的比较。)然而，目前还不清楚Google是否计划像微软对ChatGPT那样将Claude整合到其服务中。Google内部已经有很多开发人工智能语言系统的专业技术，《金融时报》认为这笔交易的一个动机只是为了建立Google的云计算业务。Anthropic是由对公司发展轨迹不满意的OpenAI员工创立的。Anthropic成立的背景故事也很有意义。该组织由OpenAI前研究副总裁达里奥-阿莫代（DarioAmodei）于2021年创建，是一家公益公司。阿莫代带走了OpenAI的一些研究人员，包括人工智能语言模型GPT-3的首席工程师汤姆-布朗。正如英国《金融时报》所指出的，阿莫代是在"对公司的方向产生分歧后"离开OpenAI的--即该公司在2019年与微软达成第一笔交易后越来越注重商业运用。此后，许多人工智能研究人员批评OpenAI的行为越来越鲁莽，特别是它在去年年底将ChatGPT发布到公共网络上，而没有适当的保障措施可以可靠地检测其输出。相比之下，Anthropic在其网站上强调了其建立"可靠、可解释和可引导的人工智能系统"的工作。但Google的投资会影响这些优先事项的转变吗？无论如何，我们可以期待很快听到更多关于Google人工智能的未来。该公司将在下周（2月8日）举行关于这一主题的活动。我们可能会在不久的将来从微软那里看到更多关于其将ChatGPT添加到必应的计划。...PC版：https://www.cnbeta.com.tw/articles/soft/1342531.htm手机版：https://m.cnbeta.com.tw/view/1342531.htm

三名OpenAI高级研究人员辞职

三名OpenAI高级研究人员辞职=========================【三名OpenAI高级研究人员辞职】据TheInformation，几位知情人士透露，在OpenAI首席执行官SamAltman被解雇、总裁GregBrockman突然辞职之际，OpenAI的三名高级研究人员在当地时间周五晚间辞职。据悉，请辞的三人分别是公司研究总监JakubPachocki、负责评估人工智能潜在风险的团队负责人AleksanderMadry，以及在这家初创公司做了7年研究员的SzymonSidor。===========为各大企业输送人才？https://wallstreetcn.com/livenews/2577914