马斯克回应OpenAI拒绝开源：世界上最安全的软件是开源的

马斯克回应OpenAI拒绝开源：世界上最安全的软件是开源的 硅谷风投大佬马克·安德森转发了OpenAI曝光的公司联合创始人伊尔亚·苏茨克维（Ilya Sutskever）的一封邮件的截图，并评论称：“如果你相信这一点我不相信你怎么可能不要求这些实验室立即国有化和军事化？”前微软高管、现任风投公司Andreessen Horowitz董事会合伙人的Steven Sinofsky评论称：“值得注意的是，你们肯定知道，这是与安全性相关的反对开源的经典论点。开源不安全的想法，因为‘坏人’可以看到源代码来利用弱点。闭源可以防止这种情况。这是完全错误的。”安德森回应称：“世界上最安全的软件是开源的。多数人关注，多数bug得到修复。QED（证明完毕）”马斯克回应称：“千真万确。”             ... PC版： 手机版：

马斯克起诉OpenAI及其CEO奥特曼 要求恢复开源

马斯克起诉OpenAI及其CEO奥特曼 要求恢复开源 马斯克声称，OpenAI最近与科技巨头微软的关系损害了该公司致力于公共、开源的通用人工智能的初衷。马斯克在诉讼中说：“OpenAI已经转变为世界上最大的科技公司微软事实上的闭源子公司。在新董事会的领导下，它不仅是在开发，而且实际上是在完善AGI，以实现微软的利润最大化，而不是造福人类。”马斯克对OpenAI提出了包括违约、违反信托义务和不公平商业行为在内的指控，并要求该公司恢复开源。马斯克还要求法院下达禁令，禁止OpenAI、其总裁格雷戈里·布罗克曼和CEO萨姆·奥特曼（此案的共同被告）以及微软从该公司的人工通用智能技术中获利。马斯克在诉讼中说：“GPT-4的内部细节只有OpenAI知道，在信息和信念上，微软也知道。因此，GPT-4是‘开放式AI’的对立面，它的关闭是出于正当的商业原因：微软希望通过向公众出售GPT-4来赚钱，如果OpenAi它被要求这样做让公众免费使用这项技术，这将是不可能的。”“与创始协议相反，被告选择使用GPT-4不是为了人类的利益，而是作为专利技术，为世界上最大的公司实现利润最大化，”他补充道。马斯克在诉讼中还谈到了2023年奥特曼被突然解雇，随后又恢复了职务的事件。马斯克说，奥特曼的下台促使微软介入，迫使试图罢免他的董事会成员辞职。马斯克声称，目前的董事会成员不再是支持和理解这项技术的科学家和研究人员。马斯克说：“OpenAI曾经精心设计的非营利结构被一个纯粹以利润为导向的CEO和一个在AGI和人工智能公共政策方面技术专长较差的董事会所取代。董事会现在只给微软保留了一个观察员席位。”马斯克表示，董事会和奥特曼之间的冲突源于GPT-4的开发以及AGI技术的潜在下一代，马斯克担心这会危及公共安全。微软在诉讼中没有被列为被告，它在2020年获得了OpenAI GPT-3语言模型的独家许可。微软继续维护GPT-4的权利，它声称GPT-4还没有达到AGI的水平，这将阻止它的许可特权。马斯克声称，微软对奥特曼和OpenAI董事会的控制将阻止他们宣布GPT-4为AGI，以保持技术的私人化和盈利。 ... PC版： 手机版：

马斯克起诉OpenAI十八日后 Grok开源了

马斯克起诉OpenAI十八日后 Grok开源了 对此，有DeepMind研究工程师预测，Grok-1的能力应该比Meta的LLaMA-2要强，也有网友兴致勃勃地讨论，到底要怎样的配置才能运行这个当前开源社区参数量最大的大语言模型。而对于马斯克来说，开源Grok-1的重要目的，似乎也是为自己与与OpenAI的唇枪舌战再添一份底气就在开源同一时间，马斯克贴脸嘲讽：“我们也想了解更多关于OpenAI的‘open’部分。”事实上，“是否开源”一直是这两周以来马斯克与OpenAI争论的焦点。在那份3月1日公之于众的46页万字诉状里，马斯克的核心指控便是OpenAI偏离了公司成立时“为了人类福祉而非私人商业利益”的协议，也违背了“技术开源”的承诺，完全成为了“受控于微软的闭源子公司”。这是跌宕起伏的两周，一方是科技圈顶流的团队联创，一方是AI圈的当红炸子鸡，随着你来我往的怒斥与辩驳，一桩又一桩陈年秘辛被公开，一场又一场关乎AI、科技圈，甚至整个人类未来的讨论不断发生。而截止现在，图灵奖得主、纽约大学名誉教授、网景通讯公司创始人、微软Windows7系统开发者、狗狗币设计师……已有更多圈内圈外的人参与了进来。他们或是直接站队，或是激烈辩驳OpenAI真的违背了创始协议只想着赚钱了吗？他们究竟是微软的良好合作伙伴，亦或全然笼罩于其阴影之下？马斯克是否真的动机不纯，试图以特斯拉吞并OpenAI？自去年OpenAI的“宫斗大戏”中销声匿迹的前首席科学家苏茨克维（Ilya Sutskever），在此次事件中又扮演了怎样的角色？未来的GPT-4乃至AI，究竟要走向开源还是闭源？起诉与回击：真相如何？2015年12月，马斯克与奥特曼（Sam Altman）等人一同创立了OpenAI，3年之后，他离开了OpenAI董事会。此后，马斯克虽有指责OpenAI违背“非盈利组织”的创始宗旨，自己开设xAI公司推出竞品与ChatGpt公然打擂台的行为，但像这次，直接一纸诉状将OpenAI告上法庭，仍让不少人大跌眼镜。因此，3月1日消息刚出，讨论尚未完全发酵开来，大多数人都忙着消化诉状中的海量信息，包括马斯克披露的大量与奥特曼的私人邮件来往、OpenAI团队结构，以及两条核心的创始协议：1、OpenAI将作为一家非盈利机构，出于服务全人类利益的目的开发AGI，而非追求股东利润最大化；2、OpenAI将保持开源，除了部分安全因素，不会出于商业专利目的而将技术封闭保密。根据马斯克的指控，OpenAI已经违反了这两条创始协议，不仅将GPT-4（可视为AGI萌芽）独家授权给微软，拒绝向公众披露GPT-4的详细信息，还允许微软在官方口径里一直是OpenAI“良好的合作伙伴”的一家盈利公司对团队施行不当的影响或控制。根据诉状原文，在OpenAI去年11月“宫斗”期间，微软CEO纳德拉曾表示：“即使OpenAI明天消失了也无妨……我们拥有这些人才、算力、数据，乃至OpenAI的一切……我们在其之下，在其之上，在其四周。”5天之后，3月6日上午10点，OpenAI正式做出回应，在官网发布一篇长博客，称自己始终坚持使命，并针对马斯克的主张一一进行回复。对于“违背创始协议转向盈利”的指控，OpenAI表示，开发AGI所需的资源超乎他们想象，在最初创办OpenAI时这个数字是1亿美元，而到了2017年则是每年数十亿，金钱的压力迫使他们“为通往AGI规划一条更为合理的路径”，也就是转向盈利在这一点上，马斯克与他们在2017年前后达成了一致。而对于“开源闭源”之争，OpenAI也像马斯克一样直接放出了邮件记录：在2016年围绕马斯克的猎鹰9号火箭成功起飞的邮件往来里，OpenAI首席科学家苏茨克维表示“随着我们愈发接近AGI，降低开放度便具有了意义。OpenAI中的‘Open’意味着每个人都能从AI构建的成果里受益，不公开背后的科技也是完全可以的。”马斯克也对此表示肯定。在反驳马斯克的指控之外，OpenAI也细数了马斯克的“罪状”，也就是在2017年之后，OpenAI团队开始讨论具体的营利性组织架构时，马斯克提出，希望自己拥有多数股权和董事会的绝对控制权，并出任CEO，还提议将OpenAI并入特斯拉。在遭到拒绝后不久，便很快选择离开OpenAI。站队与辩驳：谁对谁错？两位主角都已接连登场，这下好戏便正式开唱。在OpenAI发声后的2个小时，Mosaic浏览器开发者、网景通信公司创始人安德里森（Marc Andreessen）带上OpenAI博客截图，并标黄了其中“随着我们愈发接近AGI，降低开放度便具有了意义。OpenAI中的‘Open’意味着每个人都能从AI构建的成果里受益，不公开背后的科技也是完全可以的”的部分，嘲讽道：“如果你相信这一点至少我不信你怎么不立刻把你的实验室国有化、军事化呢？”图灵奖得主，AI三巨头之一的杨立昆（LeCun）很快也转载上述帖子，称所谓强大到会为人类带来风险的“超级人工智能”并非指日可待，意指OpenAI所谓的“为安全而闭源”完全就是自欺欺人。“如果你出于某种天真和优越感，觉得自己是能生产出“超级人工智能”的人，而其他人都愚蠢到无法安全地处理它，那你可就错了。”这其实是杨立昆一贯以来的观点，他在去年10月接受英媒《金融时报》采访时就表示，现在监管AI模型就像在1925年监管喷气式航空飞机一样（当时这种飞机还没有被发明出来），监管AI的要求源于一些领先科技公司的“傲慢”或者“优越感”，因为这些公司认为只有他们才能安全地开发AI。而他本人与OpenAI的观点不和也有许久，在2022年ChatGPT刚刚出世，众人兴奋地讨论以其为首的大型神经网络“可能存在意识”时，杨立昆就公开否定了这种观点，而对于上个月刚刚推出的Sora，杨立昆同样评价为“Sora并不理解物理世界，注定死路一条”。在3月6日OpenAI发声的官推评论区，还有著名AI学者、纽约大学名誉教授马库斯（Gary Marcus）怒斥官方回复里“我们致力于实现OpenAI的使命”的描述，称其完全就是在“胡说八道”。“OpenAI最初的使命是‘不受需要产生经济回报的限制’‘不为私人利益’‘在适用的情况下寻求开源技术’，但现在，OpenAI创造的49%的利润都流向了微软，且微软还拥有技术产品的独家代理权。你们不是在帮助全人类，而是在从艺术家、作家等处窃取资源以增加利润。你们几乎完全放弃了开源技术，简直就是全球最不开放的人工智能公司之一。”本就与马斯克渊源颇深的狗狗币社区自然也是前来站队，一位狗狗币设计师贴出奥特曼和微软CEO的同台照片，讽刺性地贴文“OpenAI是一个完全独立，且与微软直接竞争的团队”，以此回应马斯克诉状中的“微软对OpenAI拥有实际控制权”。有站队，自然也有辩驳。在马斯克最初发声两天之后，太阳微系统创始人，OpenAI投资者科斯拉（Vinod Khosla）就站出来说，马斯克起诉OpenAI有点“吃不到葡萄说葡萄酸”，完全就是作为竞争对手的一种行为。OpenAI回击一天后，科斯拉再次列出了15条希望马斯克做出回应的事实。他强调，根据现在双方公布的信息和邮件往来，在OpenAI团队创立之初，马斯克自己就提出需要集资10亿美元，自己还会承担未能筹集的部分，但实际上，马斯克最终的投资额仅有4500万美元。而马斯克所说的“微软对OpenAI的不当控制”，则正是他自己曾经想做的事。在当时团队一致决定转向盈利后，马斯克就提出让自己拥有多数股权和董事会的完全的控制权，出任CEO，还要将OpenAI并入特斯拉。但当时的OpenAI认为任何个人对团队拥有绝对控制权都是违背使命的，因而拒绝。马斯克便借此扣留了OpenAI的资金，使得期间员工的工资等运营成本不得不由联合创始人Rei... PC版： 手机版：

OpenAI CEO奥特曼回应马斯克对公司和他个人提起的诉讼

OpenAI CEO奥特曼回应马斯克对公司和他个人提起的诉讼 奥特曼在备忘录中回应称，马斯克是他的英雄，他怀念那个曾经通过开发更好的技术与他人竞争的人。奥特曼的后半句有讥讽之意，暗示马斯克不想着好好开发技术，而是通过诉讼阻止他的公司发展。马斯克的起诉书与此同时，OpenAI首席战略官杰森·权(Jason Kwon)也发布了一份备忘录，声称OpenAI“断然不同意”马斯克对公司提起的诉讼，并反驳了马斯克关于OpenAI实际上是其投资者微软的子公司的说法。他表示，马斯克的这个说法“可能源于他后悔如今无法参与到OpenAI运营中来”。杰森·权在备忘录中指出，OpenAI的使命是“确保通用人工智能(AGI)造福全人类”，公司是独立的，与微软直接竞争。他还表示，他希望向员工通报“政府机构调查”的最新情况，这显然是指美国证券交易委员会在去年底奥特曼被公司董事会短暂罢免后展开的一项调查。截至发稿，OpenAI拒绝就诉讼和两封内部备忘录置评。 ... PC版： 手机版：

马斯克、OpenAI决裂背后，大模型应该开源还是闭源？

马斯克、OpenAI决裂背后，大模型应该开源还是闭源？ 此次纠纷的焦点之一是马斯克对OpenAI的开源要求。而这背后所折射出的也是AI浪潮下科学界的长期争论话题到底应该开源还是闭源？纽约大学坦登工程学院计算机科学与工程系副教授Julian Togelius在接受《每日经济新闻》记者采访时表示，开源是大势所趋。“开源对于防止权力集中很重要。到目前为止，每个大型模型都在某种程度上是‘可越狱的’。”马萨诸塞大学洛厄尔分校计算机科学教授Jie Wang则对每经记者表示，“未来各主要参与者都会将其大模型的某些部分开源，但绝对不是最重要的部分，例如用于训练其大语言模型和预训练模型权重的完整数据集。这或多或少类似于Meta开源LLaMA的方式。”AI巨头的决裂2月29日，马斯克在旧金山法院对OpenAI及公司CEO阿尔特曼和总裁布罗克曼提起诉讼，震惊全球科技圈。在马斯克的起诉书中，他斥责OpenAI违背“初心”，要求OpenAI恢复开源并给予赔偿。3月5日，OpenAI曝光了马斯克与他们的大量往来邮件，称马斯克提议 OpenAI 与特斯拉合并或由他完全控制，但双方未能就盈利性实体的条款达成一致。3月6日，马斯克在Twitter上回复，“如何OpenAI改名为ClosedAI，我就撤销诉讼。”图片来源：每经制图9年前，正是在AI上志同道合，马斯克和阿尔特曼等人携手创办了非营利性AI研究实验室“OpenAI”来对抗以Google为代表的科技巨头。而如今，马斯克与阿尔特曼及其所在的OpenAI彻底决裂，双方旧日坚持的“初心”成为矛盾焦点。在OpenAI的官网主页上写着，“我们的使命是确保通用人工智能（AGI）造福全人类。”最初，OpenAI的确作为一个非营利组织坚持着这样的路线。而自GPT-2后，OpenAI采取了闭源策略，公司出售大模型API访问权限，但不再发布有关其训练数据和模型架构的详细信息。2019年，阿尔特曼还组建了一个由OpenAI非营利组织管理的营利性实体，以便从微软等外部投资者那里筹集资金。对此，OpenAI在5日发文时曾解释，这是因为“开发 AGI 所需的资源远超过最初预期”。随着OpenAI核心技术不再开源，且与微软的关系越来越密切时，马斯克的不满可想而知。马斯克在起诉书中批评称：“OpenAI已经变成了全球最大技术公司微软事实上的闭源子公司。在其新董事会的领导下，OpenAI不仅在开发，而且实际上正在完善一种AGI，以最大化微软的利润，而不是造福人类。”背后是开源闭源路线之争在双方的争端中，一个值得关注的点是，马斯克要求OpenAI恢复开源。这折射出的也是AI浪潮下的一个争议性话题到底应该开源还是闭源？在开源闭源之争上，马斯克坚定地选择了前者。《每日经济新闻》记者注意到，马斯克旗下特斯拉的核心技术就已经在全球范围内开源。根据新加坡咨询公司GreyB的统计，截至2023年末，全球范围内特斯拉共拥有专利3304项（不包含审批中专利），其中有2397项仍然有效。据媒体统计，刨除重复的情况，特斯拉共有222项开放专利。从技术类别上看，特斯拉开放的专利属于比较核心的专利。图片来源：GreyB网站马斯克旗下另一家公司SpaceX也曾公开猛禽发动机图纸。在去年12月接受外媒采访时，马斯克曾透露，“SpaceX不使用（独占）专利，完全开放。”而将视角放大到整个科技界，开源还是闭源也是一直争论不休的话题。2023年10月31日，“开源派”曾签署了一份呼吁AI研发更加开放的联名信，截至发稿，1821名专家都签下了名字。图片来源：mozilla官网“开源对于防止权力集中很重要，我们不希望未来只有少数财力雄厚的科技公司才能控制前沿模型。” 纽约大学坦登工程学院计算机科学与工程系副教授Julian Togelius在接受《每日经济新闻》记者采访时表示。“到目前为止，每个大型模型都在某种程度上是‘可越狱的’。（开源让）我们了解其弱点，才能知道如何更好地部署模型。”（注：“越狱”指的是通过提示注入技术修改模型的行为。）马萨诸塞大学洛厄尔分校计算机科学教授Jie Wang也对每经记者称，“开源代码可以提高透明度并有助于推进技术，世界各地的相关方可以帮助识别开发团队未能发现的代码中的潜在陷阱，并提供更正。这有助于降低代码可能执行有害操作的风险。”不过，他也指出，开源并不是解决所有安全问题的灵丹妙药。而反对开源的一派认为，开源AI会被不良行为者操纵。去年10月20日，来自麻省理工学院和剑桥大学的科学家们发表了一篇论文，他们通过实验研究了持续模型权重的扩散是否会帮助恶意者利用更强大的未来模型来造成大规模伤害，结果发现，开源大模型的确可能存在风险。Jie Wang对记者表示，“不同的态度取决于不同的身份。学术研究人员希望AI技术是开源的，以便可以评估和修改代码。另一方面，企业家可能为了保护投资和业务，而不愿意开放源代码。”科技巨头与AI新贵在开源或闭源的问题上也采取了不同的路线。前者最近在互联网上免费提供了其生成式AI的代码，例如，目前开源大模型被Meta的Llama主导，许多开源模型都是基于Llama而开发；后者如OpenAI和Anthropic则出售专有AI模型的API访问权限，但不共享代码。OpenAI和Anthropic高管认为，政府应该监管最强大的AI模型，这样坏人就不能轻易利用它们。今年1月，Anthropic 公司研究人员还发表论文警告称，AI中毒可能导致开源大模型变成潜伏的间谍。图片来源：arxiv.org但在去年9月的美国参议院人工智能洞察论坛上，Meta首席执行官马克·扎克伯格等人却认为，开源模式对美国保持竞争力至关重要，科技行业可以解决对开源模式安全的担忧。若实现AGI，是否需要开源？“开源是大势所趋，我认为Meta正在引领这一趋势，其次是Mistral AI、HuggingFace等规模较小的公司。” Julian Togelius告诉《每日经济新闻》记者。尽管Mistral AI最初推出了开源模型，随着规模的扩大，其作风似乎越来越像OpenAI靠近，采取了闭源路线。对此，Togelius表示，“他们需要以某种方式赚钱，但目前还不清楚如何在这个领域最好地赚钱，但Mistral AI比 OpenAI 几乎不开源的情况要好得多。”而大型科技巨头Google近日的动作似乎也是对Togelius言论的验证。今年2月，Google罕见地改变了去年坚持的大模型闭源策略，推出了“开源”大模型Gemma。有报道认为，Gemma代表Google大模型策略的转变兼顾开源和闭源，开源主打性能最强大的小规模模型，希望战胜Meta和Mistral AI；闭源则主打规模大的效果最好的大模型，希望尽快追上OpenAI。去年5月，一份Google的内部文件曾在网上激起千层浪。文件认为，开源大模型迅猛发展，正在侵蚀OpenAI和Google的阵地。除非改变闭源的立场，否则开源替代品将最终使这两家公司黯然失色。“虽然我们的模型在质量方面仍略占优势，但（闭源和开源模型）的差距正在以惊人的速度缩小。”文件写道。“这（指的是Google的新举措）对研究和开发人员来说的确是个好消息。”Jie Wang对每经记者说道。“不过我怀疑Google是否会将一切开源。我认为未来各个主要参与者都会将其大模型的某些部分开源，以便研究人员和开发人员了解模型的架构和训练过程，但从业务角度来看绝对不是最重要的部分，例如用于训练其 LLM 和预训练模型权重的完整数据集。这或多或少类似于Meta开源LLaMA的方式。”而在对OpenAI的起诉书中，马斯克还提到了对AGI（通用人工智能）的担忧。当被问及若达到AGI，是否需要开源时，Julian Togelius表示，“我不认为AGI是一个定义特别明确或有用的概念。如果你 5 年前向某人展示 Claude 3 或... PC版： 手机版：