Google、微软和 OpenAI 等公司 CEO 将前往白宫讨论 AI

Google、微软和OpenAI等公司CEO将前往白宫讨论AI美国副总统哈里斯(KamalaHarris)周四将在白宫与Google、微软和OpenAI以及Anthropic公司的CEO们举行会议，讨论如何负责任的开发AI。白宫官员寻求和CEO们展开坦诚对话，尤其是关于AI技术当前和近期发展带来的风险。OpenAI去年底发布ChatGPT后生成式AI进入了主流。微软随后开始将OpenAI的技术整合到其产品中。但生成式AI也引发了监管机构和科技行业巨头的质疑和担忧。来源，来自：雷锋频道：@kejiqu群组：@kejiquchat投稿：@kejiqubot

AI产业的灰暗面：OpenAI、谷歌、Meta如何获取训练语料

AI产业的灰暗面：OpenAI、谷歌、Meta如何获取训练语料《纽约时报》在本周末刊发的调查报道中，揭露了OpenAI、Google、Meta等公司为了获取训练语料所采取的一些“走捷径”措施，同时也展现了整个行业迫在眉睫的困境。美国科技巨头各走“捷径”2021年末，正在训练GPT-4的OpenAI遇到了一个棘手的问题，公司已经耗尽了互联网上所有可靠的英文文本资源，而他们需要更多、更大规模的数据来训练更强大的模型。为了处理这个问题，OpenAI的Whisper语音识别工具诞生了——用来转录Google旗下视频平台Youtube的视频音频，生成大量的对话文本。报道称，包括OpenAI总裁布洛克曼在内的团队总共转录了超过一百万小时的Youtube视频。随后这些资料被输入到GPT-4系统中，并成为聊天机器人ChatGPT的基础。根据Google的政策，禁止用户将平台上的视频用于“独立”应用，同时禁止通过任何自动化手段（爬虫等）访问其视频。有趣的是，在OpenAI偷偷扒Youtube视频时，Google也在转录自家流媒体平台的内容训练大模型——同样冒着侵犯版权的风险。正因如此，虽然有Google员工知道OpenAI在这么干，也没有出手阻止。因为一旦Google对OpenAI提出抗议，也有可能“引火烧身”到自己身上。对于是否采用Youtube视频训练AI的询问，OpenAI方面回应称，他们使用了“多个来源”的数据。Google发言人MattBryant则表示，公司对OpenAI的行为一无所知，且禁止任何人“未经授权抓取或下载Youtube视频”。不过Bryant也表示，公司只会在有明确法律、技术依据时才会采取行动。Google自家的条款，则允许平台使用这些视频开发视频平台的新功能，但这样的措辞是否意味着Google能用这些资料开发商用AI，也存在不小的疑问。与此同时，Meta的内部会议纪要显示，工程师和产品经理讨论了购买美国大型出版商Simon&Schuster以获取长文本资料的计划，另外他们还讨论了从互联网上收集受版权保护的内容，并表示“与出版商、艺术家、音乐家和新闻行业谈判授权需要的时间太多了”。据悉，有Meta的高管表示，OpenAI似乎正在使用受版权保护的材料，所以公司也可以遵循这个“市场先例”。更显性的变化是，Google去年修改了服务条款。根据内部资料显示，推动隐私政策变化的动机之一，包括允许Google利用公开的Google文档、Google地图上的餐厅评论，以及更多在线资料开发AI产品。最终Google赶在美国国庆节（7月4日）放假前的7月1日发布了修改后的隐私条款，将“使用公开信息训练AI模型”首次纳入其中。Bryant回应称，公司不会在没有用户“明确许可”的情况下使用他们的Google文档来训练AI，这里指的是自愿参与的实验性功能体验计划。即便如此还是不够正因为这些操作，近些年来伴随着人们对AI能力的惊叹，越来越多的版权方也开始意识到自己的数据被偷偷拿走训练AI了。包括《纽约时报》、一些电影制作人和作家已经将这些科技公司告上法庭，美国著作权局也正在制定版权法在AI时代的适用指南。问题在于，即便一些作家、制片人将科技公司的行为称为“美国史上最大盗窃案”，科技公司用来发展下一代AI的数据依然还是不够。2020年初，约翰霍普金斯大学的理论物理学家（现Anthropic首席科学官）JaredKaplan发布了一篇论文，明确表示训练大语言模型用的数据越多，表现就会越好。自那以后，“规模就是一切”成为了人工智能行业的信条。2020年11月发布的GPT-3包含约3000亿个Token的训练数据。2022年，GoogleDeepMind对400个人工智能模型进行测试，其中表现最好的模型（之一），一个名为Chinchilla的模型用了1.4万亿个Token的数据。到2023年，中国科学家开发的Skywork大模型在训练中使用了3.2万亿个英文和中文Token，GooglePaLM2的训练数据量则达到3.6万亿个Token。研究机构Epoch直白地表示，现在科技公司使用数据的速度已经超过数据生产的速度，这些公司最快会在2026年就耗尽互联网上的高质量数据。面对这样的问题，奥尔特曼已经提出了一种解决方法：像OpenAI这样的公司，最终会转向使用AI生成的数据（也被称为合成数据）来训练AI。这样开发人员在创建愈发强大的技术同时，也会减少对受版权保护数据的依赖。目前OpenAI和一系列机构也正在研究使用两个不同的模型，能否共同生成更有用、更可靠的合成数据——一个系统产生数据，另一个系统对信息进行评判。当然，这种技术路径是否可行，目前仍存争议。前OpenAI研究员JeffClune认为，这些AI系统所需的数据就像是穿越丛林的路径，如果这些公司只是在合成数据上训练，AI可能会在丛林里迷失。...PC版：https://www.cnbeta.com.tw/articles/soft/1426528.htm手机版：https://m.cnbeta.com.tw/view/1426528.htm

ChatGPT火遍了全球 谷歌顶级AI人才组团叛逃OpenAI

ChatGPT火遍了全球谷歌顶级AI人才组团叛逃OpenAI其实，OpenAI的一个‘大杀器’就是——从Google挖人。而如今ChatGPT既然已成顶流，Google的人才们也纷纷开始主动跳槽到OpenAI。今天，两位前Google员工JasonWei和HyungWonChuang仿佛约好了一般，前后脚宣布从Google大脑离职、入职OpenAI，还互相转了推。只有Google受伤的世界达成了。OpenAI的秘密武器：前Google工程师其实，为了ChatGPT，OpenAI很早就开始了‘挖角’工作。在公开发布ChatGPT的前几周，OpenAI悄悄从Google挖来至少5名员工，进行了最后的润色，以便ChatGPT可以在11月发布。在OpenAI的官宣博客中，BarretZoph、LiamFedus、LukeMetz、RaphaGontijoLopes，这几位前Google员工的名字，被列在了ChatGPT的主要贡献者名单中。上：JacobDevlin，LiamFedus和ShaneGu；下：RaphaGontijoLopes，SamuelSchoenholz和BarretZoph上个月，OpenAI又从Google那里挖来一名负责为搜索引擎开发机器学习模型的研究员。然后，OpenAI不出意外地把这项技术用到了自家的ChatGPT上。而最近，就像我们开头看到的那样，Google主要AI团队——Google大脑的研究人员，纷纷跳槽到了OpenAI。据粗略统计，Google大脑至少失去了4名核心成员。Bard发布会上大出丑，员工时候纷纷吐槽不用心、糊弄事儿，Google大脑核心员工又纷纷‘叛逃’，真是应了那句话：人倒霉的时候，喝凉水都塞牙。但其实，Google能走到这一步，是冥冥之中的必然。Google：没赶上热乎的在吸纳了世界上大部分机器学习人才之后，Google却被OpenAI抢了先。Google只能忙不迭地追赶OpenAI的脚步，向公众推出以AI为中心的产品。客观地说，Google的做法是经过深思熟虑的、负责任的。作为一个有庞大影响力的科技巨头，Google时刻防范着高风险，害怕新生的技术会出错。（当然也有一个原因是，与经典的搜索相比，聊天机器人提供类人答案的成本会更高。）但是商场如战场，不会给你犹豫的机会。Google早早孵化出的一些AI技术，已经不知不觉被OpenAI转化为新型的创收服务，包括聊天机器人，以及文本生成图像和视频的AI。Google的人才，也慢慢流失到了这类小初创公司。最近，两位Google大脑研究员表示，团队里有不少员工都认为Google现在的产品计划过度谨慎，充斥着繁文缛节。在这种大环境下，工程师们不得不面对，自己费尽心思研究的新技术却始终无法被采用的挫败感。某些员工相当憋屈，因为自己这几年一直在建议将聊天功能融入搜索引擎之中，但并没有得到反馈。因此他们下定决心离开，去其他地方寻找机会，比如OpenAI。其实，Google在创立之初，也正是这样从大厂挖人的。20世纪90年代末，当时的老牌技术公司DigitalEquipment就面临着学术研究难以商业化的问题。而Google正是借此机会，得到了现在的AI扛把子——JeffDean。当然，Google现在也没有坐以待毙，很快就推出了Bard，和ChatGPT正面硬刚。之后的故事大家都知道了，Bard一上来就翻了车——在关于詹姆斯·韦伯太空望远镜的问题上给出了错误的答案。在无法避免AI聊天机器人胡说八道这方面，Google确实预判得很准。但既然迟早要走上这一步，‘声誉风险’只能暂且忽略，当初何必如此谨慎，被OpenAI和微软抢了先呢？Google真是一步错步步错啊。搞出Transformer，给他人做嫁衣Google新老员工都在吐槽，公司对员工的科技创新转化实在是太缓慢了。但Google之所以如此谨慎，是有前情的。行业观察家们早就警告说，AI会生成假图像、错误信息、歧视言论，因此造成不良的社会影响。比如，在2015年，Google照片中的图像识别AI，曾将一些黑人标记为‘大猩猩’。两年后，Google大脑的一个团队发表了那篇著名的论文，提出了振聋发聩的机器学习新方法——Transformer，也为OpenAI创建ChatGPT夯实了基础。奇怪的是，当其他公司使用Google的论文创建自己的Transformer，制作AI聊天机器人，或文本生成图像模型时，Google却从未推出类似的产品。在发起Transformer革命四年后，Google宣称已经创建了一个基于Transformer的大语言模型LAMDA，可以理解并生成与人类的对话。但Google却始终犹豫不决，没有公开推出LaMDA，因为担心技术不够准确。一位前Google大脑员工说，他们认为Google人工智能研究部门的管理者剥夺了一些团队的计算资源，让他们无法像OpenAI那样训练AI模型。一位Google现任员工说，如果有谁想推出一个新的AI产品，就要跨越重重官僚主义的障碍，因此最后，所有人都放弃了努力，留在了旧轨道上。对比鲜明的是，微软的CEO纳德拉和OpenAI的CEOSamAltman之间已经达成了协议，允许OpenAI免费在微软的云端训练AI。在所有Transformer驱动的技术上，Google都非常谨慎。据说，OpenAI在去年发布文本生成图像模型Dall-E2时，Google已经有了两个类似功能的模型。但是据知情人士透露，当Dall-E2生成的图像开始在网上疯转时，Google依然对自家的同类模型坐视不理，即使有保障措施，也不愿意与公众分享，因为Google担心它们可能被滥用。自家员工，还要签免责声明在去年年底，Google员工想使用公司的图像生成技术时，仍然需要先申请。Google把这个技术修改为不生成人脸，就是为了防止误用。并且，这个技术的内部用户还必须签署一份免责声明，免除Google对该系统产生内容的责任。爆料称，创建Google两大图像生成AI工具之一Imagen的团队中，一些员工已经离职。据说，Imagen共同作者MohammadNorouzi所领衔的初创公司，最近以超过1亿美元的估值进行了融资，尽管这个团队对想要推出什么产品暂时还没有明确的想法。在ChatGPT推出后的几周内，Google领导层就在一次全体员工会议上告诉员工们，虽然公司有类似的技术，但Google产品的规模（数十亿人用户）意味着它必须比OpenAI这样的初创公司更谨慎地推出这种技术。不过，Google看到ChatGPT的繁荣景象之后，立马发布红色代码，还推出了‘绿色通道’，缩短评估和减轻潜在危害的流程。可惜，为时已晚。一个接一个，全走了借着ChatGPT的势头，OpenAI还在持续吸引着在Google的研究员们。今年1月，JacobDevlin跳槽到了OpenAI。他曾他曾帮助Google创建了极为著名的机器学习模型——BidirectionalEncoderRepresentationsfromTransformers，简称BERT。根据社交媒体资料和知情人士的说法，ShaneGu、DavidDohan、AlexandrePassos和SamuelSchoenholz最近也已离开Google加入OpenAI。而刚刚提到的这位AlexandrePassos，不仅是Google大脑的高级软件工程师，而且发表过众多机器学习和自然语言处理的论文。其中的‘Scikit-learn：MachinelearninginPython’，甚至已经被引用了将近7万次。不过，少数人员的流失，对于有着800名世界顶尖人才的Google大脑来说，影响并不大。此外，明星员工离开大厂自立门户也是一个常态。有不少新兴的AI初创公司都是出自Google大脑的前员工之手。比如，开发聊天机器人的Character。然而，在竞争对手OpenAI的压力下，Google领导层越来越倾向于更快地交付新的产品。自去年年底以来，随着Google试图进一步提高产品推出的速度，Google大脑对工程师的需求也在不断增加，工作节奏明显加快。多种因素叠加的后果就是，向来谨慎的Google在Bard的演示中，由于一个明显的事实性错误，瞬间让千亿美元的市值化为乌有。Google——载入史册的‘黄埔军校’‘硅谷的黄埔军校’，Google确实当得起这个称呼。在过去一年左右的时间里，Google有不少大牛都跳到了更灵活的初创公司，比如OpenAI和StableDiffusion。包括Character.AI、Cohere、Adept、Inflection.AI和InworldAI等等这些围绕着大规模语言模型建立的初创公司，也都是出自Google顶级AI研究人员之手。此外...PC版：https://www.cnbeta.com.tw/articles/soft/1344457.htm手机版：https://m.cnbeta.com.tw/view/1344457.htm

消息称微软将AI研发外包给OpenAI 谷歌或从中受益

消息称微软将AI研发外包给OpenAI谷歌或从中受益McKinnon还指出，为当前的生成式AI技术提供动力的Transformer，正是来自谷歌。Transformer是谷歌于2017年开发的早期AI模型。McKinnon说：“突破来自谷歌，Transformer是所有这些大型语言模型都在使用的算法。而微软在AI领域的地位有可能沦为一家‘咨询公司’。”对此，微软尚未发表评论。当前，微软的一些顶级产品，如生成式AI聊天机器人Copilot和配备生成式AI软件的PC，都开始融入OpenAI的技术。微软已对OpenAI投入了数十亿美元。有报道称，到目前为止总投资已达到130亿美元。微软曾表示，其投资将加速AI突破，以确保这些裨益被世界广泛分享。McKinnon称：“这太奇怪了。想象一下在微软工作的情景。OpenAI在那里开发所有令人兴奋的东西，而微软就像变成一家咨询公司。”...PC版：https://www.cnbeta.com.tw/articles/soft/1434349.htm手机版：https://m.cnbeta.com.tw/view/1434349.htm

OpenAI、微软、谷歌等科技巨头本周将讨论制定AI使用标准

OpenAI、微软、谷歌等科技巨头本周将讨论制定AI使用标准4月11日消息，本周三，人工智能开发领域顶尖企业的高管和员工将开会讨论制定关于如何使用人工智能技术的标准。据外媒报道，OpenAI、微软、谷歌、苹果、英伟达、StabilityAI、HuggingFace和Anthropic等公司的代表预计将出席周三举行的此次会议。这次会议由顶级投资公司SVAngel召集，与会代表计划讨论如何以最负责任的态度继续开发人工智能。几周前，以马斯克为代表的多位科技行业大佬联名发表了一封公开信，呼吁OpenAI和其他公司暂停开发人工智能技术6个月的时间，在此期间制定并落实安全协议。与此同时，美国议员们认为有必要对人工智能技术进行监管，但目前尚未通过任何重大立法。——