马斯克、OpenAI决裂背后，大模型应该开源还是闭源？

马斯克、OpenAI决裂背后，大模型应该开源还是闭源？ 此次纠纷的焦点之一是马斯克对OpenAI的开源要求。而这背后所折射出的也是AI浪潮下科学界的长期争论话题到底应该开源还是闭源？纽约大学坦登工程学院计算机科学与工程系副教授Julian Togelius在接受《每日经济新闻》记者采访时表示，开源是大势所趋。“开源对于防止权力集中很重要。到目前为止，每个大型模型都在某种程度上是‘可越狱的’。”马萨诸塞大学洛厄尔分校计算机科学教授Jie Wang则对每经记者表示，“未来各主要参与者都会将其大模型的某些部分开源，但绝对不是最重要的部分，例如用于训练其大语言模型和预训练模型权重的完整数据集。这或多或少类似于Meta开源LLaMA的方式。”AI巨头的决裂2月29日，马斯克在旧金山法院对OpenAI及公司CEO阿尔特曼和总裁布罗克曼提起诉讼，震惊全球科技圈。在马斯克的起诉书中，他斥责OpenAI违背“初心”，要求OpenAI恢复开源并给予赔偿。3月5日，OpenAI曝光了马斯克与他们的大量往来邮件，称马斯克提议 OpenAI 与特斯拉合并或由他完全控制，但双方未能就盈利性实体的条款达成一致。3月6日，马斯克在Twitter上回复，“如何OpenAI改名为ClosedAI，我就撤销诉讼。”图片来源：每经制图9年前，正是在AI上志同道合，马斯克和阿尔特曼等人携手创办了非营利性AI研究实验室“OpenAI”来对抗以Google为代表的科技巨头。而如今，马斯克与阿尔特曼及其所在的OpenAI彻底决裂，双方旧日坚持的“初心”成为矛盾焦点。在OpenAI的官网主页上写着，“我们的使命是确保通用人工智能（AGI）造福全人类。”最初，OpenAI的确作为一个非营利组织坚持着这样的路线。而自GPT-2后，OpenAI采取了闭源策略，公司出售大模型API访问权限，但不再发布有关其训练数据和模型架构的详细信息。2019年，阿尔特曼还组建了一个由OpenAI非营利组织管理的营利性实体，以便从微软等外部投资者那里筹集资金。对此，OpenAI在5日发文时曾解释，这是因为“开发 AGI 所需的资源远超过最初预期”。随着OpenAI核心技术不再开源，且与微软的关系越来越密切时，马斯克的不满可想而知。马斯克在起诉书中批评称：“OpenAI已经变成了全球最大技术公司微软事实上的闭源子公司。在其新董事会的领导下，OpenAI不仅在开发，而且实际上正在完善一种AGI，以最大化微软的利润，而不是造福人类。”背后是开源闭源路线之争在双方的争端中，一个值得关注的点是，马斯克要求OpenAI恢复开源。这折射出的也是AI浪潮下的一个争议性话题到底应该开源还是闭源？在开源闭源之争上，马斯克坚定地选择了前者。《每日经济新闻》记者注意到，马斯克旗下特斯拉的核心技术就已经在全球范围内开源。根据新加坡咨询公司GreyB的统计，截至2023年末，全球范围内特斯拉共拥有专利3304项（不包含审批中专利），其中有2397项仍然有效。据媒体统计，刨除重复的情况，特斯拉共有222项开放专利。从技术类别上看，特斯拉开放的专利属于比较核心的专利。图片来源：GreyB网站马斯克旗下另一家公司SpaceX也曾公开猛禽发动机图纸。在去年12月接受外媒采访时，马斯克曾透露，“SpaceX不使用（独占）专利，完全开放。”而将视角放大到整个科技界，开源还是闭源也是一直争论不休的话题。2023年10月31日，“开源派”曾签署了一份呼吁AI研发更加开放的联名信，截至发稿，1821名专家都签下了名字。图片来源：mozilla官网“开源对于防止权力集中很重要，我们不希望未来只有少数财力雄厚的科技公司才能控制前沿模型。” 纽约大学坦登工程学院计算机科学与工程系副教授Julian Togelius在接受《每日经济新闻》记者采访时表示。“到目前为止，每个大型模型都在某种程度上是‘可越狱的’。（开源让）我们了解其弱点，才能知道如何更好地部署模型。”（注：“越狱”指的是通过提示注入技术修改模型的行为。）马萨诸塞大学洛厄尔分校计算机科学教授Jie Wang也对每经记者称，“开源代码可以提高透明度并有助于推进技术，世界各地的相关方可以帮助识别开发团队未能发现的代码中的潜在陷阱，并提供更正。这有助于降低代码可能执行有害操作的风险。”不过，他也指出，开源并不是解决所有安全问题的灵丹妙药。而反对开源的一派认为，开源AI会被不良行为者操纵。去年10月20日，来自麻省理工学院和剑桥大学的科学家们发表了一篇论文，他们通过实验研究了持续模型权重的扩散是否会帮助恶意者利用更强大的未来模型来造成大规模伤害，结果发现，开源大模型的确可能存在风险。Jie Wang对记者表示，“不同的态度取决于不同的身份。学术研究人员希望AI技术是开源的，以便可以评估和修改代码。另一方面，企业家可能为了保护投资和业务，而不愿意开放源代码。”科技巨头与AI新贵在开源或闭源的问题上也采取了不同的路线。前者最近在互联网上免费提供了其生成式AI的代码，例如，目前开源大模型被Meta的Llama主导，许多开源模型都是基于Llama而开发；后者如OpenAI和Anthropic则出售专有AI模型的API访问权限，但不共享代码。OpenAI和Anthropic高管认为，政府应该监管最强大的AI模型，这样坏人就不能轻易利用它们。今年1月，Anthropic 公司研究人员还发表论文警告称，AI中毒可能导致开源大模型变成潜伏的间谍。图片来源：arxiv.org但在去年9月的美国参议院人工智能洞察论坛上，Meta首席执行官马克·扎克伯格等人却认为，开源模式对美国保持竞争力至关重要，科技行业可以解决对开源模式安全的担忧。若实现AGI，是否需要开源？“开源是大势所趋，我认为Meta正在引领这一趋势，其次是Mistral AI、HuggingFace等规模较小的公司。” Julian Togelius告诉《每日经济新闻》记者。尽管Mistral AI最初推出了开源模型，随着规模的扩大，其作风似乎越来越像OpenAI靠近，采取了闭源路线。对此，Togelius表示，“他们需要以某种方式赚钱，但目前还不清楚如何在这个领域最好地赚钱，但Mistral AI比 OpenAI 几乎不开源的情况要好得多。”而大型科技巨头Google近日的动作似乎也是对Togelius言论的验证。今年2月，Google罕见地改变了去年坚持的大模型闭源策略，推出了“开源”大模型Gemma。有报道认为，Gemma代表Google大模型策略的转变兼顾开源和闭源，开源主打性能最强大的小规模模型，希望战胜Meta和Mistral AI；闭源则主打规模大的效果最好的大模型，希望尽快追上OpenAI。去年5月，一份Google的内部文件曾在网上激起千层浪。文件认为，开源大模型迅猛发展，正在侵蚀OpenAI和Google的阵地。除非改变闭源的立场，否则开源替代品将最终使这两家公司黯然失色。“虽然我们的模型在质量方面仍略占优势，但（闭源和开源模型）的差距正在以惊人的速度缩小。”文件写道。“这（指的是Google的新举措）对研究和开发人员来说的确是个好消息。”Jie Wang对每经记者说道。“不过我怀疑Google是否会将一切开源。我认为未来各个主要参与者都会将其大模型的某些部分开源，以便研究人员和开发人员了解模型的架构和训练过程，但从业务角度来看绝对不是最重要的部分，例如用于训练其 LLM 和预训练模型权重的完整数据集。这或多或少类似于Meta开源LLaMA的方式。”而在对OpenAI的起诉书中，马斯克还提到了对AGI（通用人工智能）的担忧。当被问及若达到AGI，是否需要开源时，Julian Togelius表示，“我不认为AGI是一个定义特别明确或有用的概念。如果你 5 年前向某人展示 Claude 3 或... PC版： 手机版：

马斯克称 OpenAI 未达到他的预期：闭源且逐利，由微软实际掌控

马斯克称 OpenAI 未达到他的预期：闭源且逐利，由微软实际掌控 埃隆・马斯克接受媒体采访时表示，OpenAI 的发展没有达到他的预期。2015 年，马斯克与他人共同创建了 ChatGPT 制造商 OpenAI，但于 2018 年离开了董事会。 “我为了创建这个组织真的付出很多努力，以抗衡谷歌公司，”他说。“然后我转移了注意力。我猜，他们现在是闭源的，而且他们显然是逐利的，他们与微软合作密切。实际上，在这一点上，微软即使没有直接控制 OpenAI，也有很大的发言权。” 这位特斯拉和 Twitter 的首席执行官表示，现在他筹划创建“TruthGPT”，将其描述为“最大限度寻求真理并试图了解宇宙本质的人工智能”。 来自：雷锋 频道：@kejiqu 群组：@kejiquchat 投稿：@kejiqubot

【马斯克：OpenAI的闭源行为不可取，将开放Grok】

【马斯克：OpenAI的闭源行为不可取，将开放Grok】 特斯拉CEO埃隆·马斯克在与著名播客节目主持人Lex Fridman的最新对话中表示，人工智能初创公司OpenAI的“闭源”行为并不是可取的做法。为此，马斯克旗下的首款人工智能聊天机器人Grok则将采取开源政策。 快讯/广告 联系 @xingkong888885

微软与Mistral建立合作关系 达成OpenAI之外的第二笔人工智能交易

微软与Mistral建立合作关系 达成OpenAI之外的第二笔人工智能交易 根据协议，Mistral 的开放和商业语言模型将在微软的 Azure AI 平台上提供，这是继 OpenAI 之后第二家在 Azure 上提供商业模型的公司。与 OpenAI 的合作一样，微软与 Mistral 的合作也将专注于下一代大型语言模型的开发和部署。Mistral 今天发布了一款新的人工智能模型，名为Mistral Large。它旨在与 OpenAI 的 GPT-4 模型展开更激烈的竞争。与 Mistral 之前的一些模型不同，它不会开源。"Mistral Large 在常用的基准测试中取得了优异的成绩，使其成为世界上排名第二的可通过 API 使用的模型（仅次于 GPT-4），"MistralAI 团队说。Mistral Large 可在 Mistral 位于欧洲的自有基础设施上使用，也可通过 Azure AI Studio 和 Azure Machine Learning 使用。Mistral Small 也将于今天推出，与 Mistral 的 8x7B 模型相比，它的延迟得到了改善，Mistral 还将发布一款新的对话聊天机器人Le Chat，它基于 Mistral AI 的各种模型。Mistral 的模型通常是开源的，但与微软的合作意味着这家法国人工智能公司现在可以探索更多的商业机会。不过，微软和 Mistral 都没有透露投资细节。微软的投资是在其主要人工智能合作伙伴 OpenAI 经历坎坷数月之后进行的。11 月 17 日，OpenAI 董事会突然宣布解雇联合创始人兼首席执行官山姆-阿尔特曼（Sam Altman），但仅仅几天后，阿尔特曼就于 11 月 30 日重新担任 OpenAI 首席执行官。在内部动荡中，微软设法在控制 OpenAI 的非营利性董事会中获得了一个无投票权的观察员席位，使这家软件巨头能够更多地了解 OpenAI 的内部运作，但在重大决策上没有投票权。 ... PC版： 手机版：

马斯克起诉OpenAI及其CEO奥特曼 要求恢复开源

马斯克起诉OpenAI及其CEO奥特曼 要求恢复开源 马斯克声称，OpenAI最近与科技巨头微软的关系损害了该公司致力于公共、开源的通用人工智能的初衷。马斯克在诉讼中说：“OpenAI已经转变为世界上最大的科技公司微软事实上的闭源子公司。在新董事会的领导下，它不仅是在开发，而且实际上是在完善AGI，以实现微软的利润最大化，而不是造福人类。”马斯克对OpenAI提出了包括违约、违反信托义务和不公平商业行为在内的指控，并要求该公司恢复开源。马斯克还要求法院下达禁令，禁止OpenAI、其总裁格雷戈里·布罗克曼和CEO萨姆·奥特曼（此案的共同被告）以及微软从该公司的人工通用智能技术中获利。马斯克在诉讼中说：“GPT-4的内部细节只有OpenAI知道，在信息和信念上，微软也知道。因此，GPT-4是‘开放式AI’的对立面，它的关闭是出于正当的商业原因：微软希望通过向公众出售GPT-4来赚钱，如果OpenAi它被要求这样做让公众免费使用这项技术，这将是不可能的。”“与创始协议相反，被告选择使用GPT-4不是为了人类的利益，而是作为专利技术，为世界上最大的公司实现利润最大化，”他补充道。马斯克在诉讼中还谈到了2023年奥特曼被突然解雇，随后又恢复了职务的事件。马斯克说，奥特曼的下台促使微软介入，迫使试图罢免他的董事会成员辞职。马斯克声称，目前的董事会成员不再是支持和理解这项技术的科学家和研究人员。马斯克说：“OpenAI曾经精心设计的非营利结构被一个纯粹以利润为导向的CEO和一个在AGI和人工智能公共政策方面技术专长较差的董事会所取代。董事会现在只给微软保留了一个观察员席位。”马斯克表示，董事会和奥特曼之间的冲突源于GPT-4的开发以及AGI技术的潜在下一代，马斯克担心这会危及公共安全。微软在诉讼中没有被列为被告，它在2020年获得了OpenAI GPT-3语言模型的独家许可。微软继续维护GPT-4的权利，它声称GPT-4还没有达到AGI的水平，这将阻止它的许可特权。马斯克声称，微软对奥特曼和OpenAI董事会的控制将阻止他们宣布GPT-4为AGI，以保持技术的私人化和盈利。 ... PC版： 手机版：

马斯克或是后悔没参与公司发展 OpenAI：坚决不同意马斯克诉讼

马斯克或是后悔没参与公司发展 OpenAI：坚决不同意马斯克诉讼 据每日经济新闻报道，OpenAI曾经的联合创始人之一，马斯克对OpenAI转向“闭源”一直颇有微词。当地时间2月29日，他决定以违背创立协议为由起诉OpenAI，震动整个科技行业。据美国法律新闻网站Courthouse News Service报道，当地时间2月29日晚间，马斯克向旧金山高级法院提交了诉讼。他在起诉书中认为，OpenAI与微软的合作已经损害了该公司最初对开源通用人工智能（AGI）的承诺。2015年，马斯克和OpenAI现任CEO阿尔特曼(Sam Altman)、总裁布罗克曼（Gregory Brockman）一起创立了非赢利的OpenAI。2018年，马斯克退出OpenAI董事会。起诉书认为，从2023年的发展来看，OpenAI已经严重违背当初的协议，扭曲了马斯克的贡献。“想象一下，如果你给一个声称要保护亚马逊雨林的非营利组织捐款，结果这个非营利组织创办了一个亚马逊伐木的营利公司，用捐款来砍伐雨林。这就是OpenAI的故事。”起诉书如此比喻道。马斯克在起诉书中批评称：“OpenAI已经变成了全球最大技术公司微软事实上的闭源子公司。在其新董事会的领导下，OpenAI不仅在开发，而且实际上正在完善一种AGI，以最大化微软的利润，而不是造福人类。”马斯克提出了违约、违反受托责任和不公平商业行为等指控，要求OpenAI恢复到开源状态。马斯克还要求法院禁止OpenAI、布罗克曼、阿尔特曼，以及Microsoft从公司的AGI技术中获利，其中前三者被列为共同被告。马斯克在诉讼中表示，GPT-4的内部细节仅为OpenAI和微软所知（微软知情是基于信息和看法来判断的），因此，GPT-4正好与‘公开的（open）AI’相反；出于商业原因，GPT-4是封闭的：微软有望通过向公众销售GPT-4获得巨额利润，而如果OpenAI按照协议向公众免费提供技术，那么微软获利是不可能的。诉讼书还提到2023年OpenAI对阿尔特曼“逼宫”一事对该公司架构的影响。马斯克称，阿尔特曼被解雇促使微软介入，并迫使想阿尔特曼赶走的那几位董事会成员辞职。目前的董事会成员不再是支持和理解AI技术的科学家和研究人员。“OpenAI公司曾经精心设计的非营利组织结构，被一个纯粹以利润为导向的CEO和一个在AGI和AI公共政策方面缺乏技术专长的董事会所取代。现在董事会还为微软保留了一个观察员席位。”马斯克表示。2019年3月11日，OpenAI宣布将创建一个营利子公司：OpenAI,L.P.。微软后续与该营利子公司签署了商业合作，但OpenAI强调，一旦实现AGI，则这些技术不受商业合约约束。马斯克在起诉书中对此表示出了担忧：由于微软对OpenAI的控制力，他们可以推迟宣布AGI达成，从而让OpenAI的技术保持私有并从中获利。起诉书认为，如果OpenAI这种先期以非营利组织募集资金，到技术成熟时立马将知识产权转移到营利实体，将彻底改变硅谷风投的运作模式。而且，向非营利组织“投资”1美元，投资者能获得50美分的减税，相当于实际资金成本只有一半。 ... PC版： 手机版：