吴恩达：美国加州AI安全法案将扼杀开源大模型

吴恩达：美国加州AI安全法案将扼杀开源大模型 例如，根据该法案的定义，Meta的Llama-3被定义为超过1亿美元训练成本的“前沿模型”。如果有人将该模型用于非法用途，Meta也会受到严重处罚。咱们2000多年前大秦的连坐制度，咋还出口了呢~加州的地理位置非常特殊，这里既有斯坦福、加州理工、南加州大学等名校，也是Google、苹果、OpenAI、Meta等科技巨头总部的所在地，所以，该法案也受到了吴恩达、Yann LeCun等AI界泰斗的抵制。例如，该法案中的22603(a)(3)(4)条要求"有限职责豁免"向政府部门提交证明,并在有错误时停止模型的运行；第22603(b)条要求开发者需要报告任何模型的潜在的AI安全事故。如果开发者无法完全掌控基于其模型的各种衍生版本,若发生安全事故,责任将归属于第一开发者。也就是说，开发者需要对模型的能力做出保证,一旦大模型开源后被他人修改,能力发生变化,会面临合规风险的处罚。所以，企业、个人开发者在开源大模型权重时会非常谨慎，这相当于是一个连带责任。此外，该法案中的22604（a）（b）规定，当用户使用其“前沿模型”和算力资源时，开发者需要提交客户的所有资料，包括客户的身份、信用卡号、账号、客户标识符、交易标识符、电子邮件、电话号码。同时，每年都要提交一次资料，并对用户的行为、意图进行评估。用户的所有资料会被备份7年，也会在海关、边境总署备案。而开发者也需要具备紧急停止大模型的能力，例如，用户使用其模型用于别的业务场景，可以不用通过用户本地直接关闭模型。像这种严格的监管条例还有不少，无形之中会加重企业、开发者对大模型的合规成本和开放权重的态度。尤其是那种“秦朝连坐制度”，用户使用了你的模型开发了其他潜在危险的应用，特别是这个判定还很模糊，那么第一开发者弱没有“豁免权”将会一起被处罚，真的是挺离谱的。对于SB-1047法案的拟定，吴恩达发表了一篇深度长文进行回应。他表示，该法案中有很多问题，首先就是危险范畴定义不合理，如果有人使用他们的模型做超出规定的事情，原作者一起被处罚。此外对造成的伤害定义也不太好，例如，造成5亿美元的损失，这在AI领域还是很难实现的。如果最终议会通过了这个方案，那么将会对AI大模型领域造成很大影响，将彻底扼杀开源大模型的技术创新。吴恩达进一步指出，应该监管的是AI应用程序而不是大模型本身。例如，电机是一种技术。当我们把它放在搅拌机、电动汽车、透析机或导弹中时，它就成为了一种应用。如果我们通过法律规定，如果任何人以有害的方式使用电机，制造商将承担相应的责任。那么，电机制造商要么关闭生产，要么将电机的性能制造的非常小，难以大范围应用。SB-1047法案似乎没有考虑过大模型有益处的应用，而是全部针对他的有害来处理的，这是不公平的。如果这样的监管法案最终通过了，可能会阻止人们使用电机制造导弹，但我们也会失去使用搅拌机、电动汽车和透析机的机会。吴恩达在最近演讲中谈SB-1047更大的忧虑是，加州的SB-1047法案一旦通过，其他州可能会效仿，整个负面影响会不断扩大。图灵奖获得者、Meta首席科学家- Yann LeCun直言，SB-1047法案意味着，加州的科技产业将直接面临终结。知名架构师Daniel Jeffries也赞成Yann的观点，并发表长文强烈呼吁加州议会对SB-1047法案提反对票。并且认为，SB-1047根本就不是一个法案，就是一个“特洛伊木马”。原因很简单，这是由一群小范围利益群体制定的规则，他们坚信AI大模型会带来“世界毁灭”，完全不顾他的好处。此外，他提出中国已经具备与OpenAI等科技巨头竞争的大模型，在电动汽车、自动驾驶、城市AI大脑皆处于领先地位。这个方案要是通过了，将直接压制美国AI领域的发展进程。普通用户对SB-1047法案也是相当抵制的，这个法案的最终目的，就是让第一开发者为自己的大模型永久负责，并保证不会出现任何危险。这简直是难以执行的监管，会严重影响开源领域的发展。同时嘲讽道，让一群平均年龄63岁的人，来监管AI大模型有点不靠谱啊~~也有人建议，不行就把开源大模型这事交给中国来做吧，Quen 2、零一万物等开源大模型的性能已经和GPT-4、GPT-4o等旗鼓相当。 ... PC版： 手机版：

硅谷对加州人工智能安全法案不满

硅谷对加州人工智能安全法案不满 美国加利福尼亚州的人工智能重量级企业正在抗议一项州法案，该法案将迫使科技公司遵守严格的安全框架，包括创建一个“切断开关”来关闭其强大的人工智能模型。该法案于上月由加州参议院通过，并将于8月在众议院进行表决。该法案要求加州的人工智能团体向一个新成立的州机构保证，它们不会开发具有“危险能力”的模型，例如制造生物武器或核武器，或协助网络安全攻击。根据拟议中的《前沿人工智能系统安全创新法案》，开发人员必须报告其安全测试，并引入所谓的“切断开关”来关闭他们的模型。 （）

美国会新法案将管制AI大模型出口 开源的也不让用

美国会新法案将管制AI大模型出口 开源的也不让用 访问：Saily - 使用eSIM实现手机全球数据漫游 安全可靠 源自NordVPN 这项立法旨在使未来的AI出口法规免受法律挑战。美国越来越担心，国家对手可能会利用这些AI模型发动具有侵略性的网络攻击，甚至制造强大的生物武器。AI模型通过挖掘大量文本和图像来总结信息并生成内容。美国商务部负责监管美国出口政策。但是根据美国现行法律，美国商务部要监管开源AI模型的出口要困难得多，因为开源AI模型可以免费下载。如果上述新法案获得批准，它将消除《国际紧急经济权力法》中包含的开源AI出口的监管障碍，并赋予商务部明示授权来监管AI系统。目前，西方开发的许多开源模型被其他国家使用，例如脸书母公司Meta的Llama大模型。2023年11月，李开复旗下AI创业公司零一万物就曾引发重大争议，原因是一些AI工程师发现，零一万物的AI模型Yi-34B是基于Meta的Llama大模型开发的。在这项新法案宣布前，微软公司还宣布向阿联酋AI公司G42投资15亿美元，允许G42使用微软的云服务来运行其AI应用程序，这在美国也引发了一些担忧。 ... PC版： 手机版：

帮开发者构建生成式 AI 应用，Meta 和微软合作推出开源模型 Llama 2

帮开发者构建生成式 AI 应用，Meta 和微软合作推出开源模型 Llama 2 Meta 和微软近日合作推出 Llama 2，这是 Meta 公司的下一代开源大型语言模型，可以免费用于研究和商业用途。 微软在新闻稿中表示，Llama 2 旨在帮助开发者和组织，构建生成式人工智能工具和体验。 Azure 客户可以在 Azure 平台上更轻松、更安全地微调和部署 7B、13B 和 70B 参数的 Llama 2 模型，此外通过优化可以在 Windows 本地运行。 Llama 2 模型与 Azure AI 的结合使开发人员能够利用 Azure AI 的强大工具进行模型训练、微调、推理，特别是支持 AI 安全的功能。 微软表示在 Windows 中加入 Llama 2 模型，有助于推动 Windows 成为开发人员根据客户需求构建人工智能体验的最佳场所，并释放他们使用 Windows Subsystem for Linux (WSL)、Windows 终端、Microsoft Visual Studio 和 VS Code 等世界级工具进行构建的能力。 、 、

马斯克为何要作开源“秀”?

马斯克为何要作开源“秀”? 在开源之前，Grok最大的亮点是直接调用X中的实时数据和“幽默”。但开源版本的Grok已经打了折扣在开发者手里，Grok不可能调取X的数据。从本次开源的信息来看，2023年11月Grok上线以后调用过的X数据，也没有被作为训练数据沉淀到Grok中。除开源打折外，Grok本身的性能也并不占优。刚上线时，Grok的评分就远落后于当时的Palm 2、Claude 2和GPT-4。最典型的问题是，其支持的上下文长度只有8192个token。Grok取得的关注（上线3天在GitHub收获3.9万Star）,似乎很大一部分都来自马斯克本身的流量热度。开源Grok被马斯克说成是为了践行“AI造福全人类”的目标，但在与OpenAI的官司期间开源，有观点认为，Grok 开源的目的之一，就是为马斯克起诉、声讨OpenAI提供的事实依据这是一场由马斯克亲自操盘的“AI 大秀”。开源Grok是作秀？开源是一场让企业与开发者跳双人舞的“社区游戏”，但Grok这个“舞伴”，完全不是普通开发者所能掌控的。在Grok-1之前，很多开源大语言模型（LLM）的参数量只有70亿，LLaMA-2开源的最大参数量也只有700亿。而马斯克直接开源了自家尺寸最大的3140亿参数模型，据估计Grok-1需要约628 GB GPU内存才能勉强运行，普通开发者几乎不可能在本地尝试Grok-1，对于云服务用户来说，至少需要8张80GB显存的A100或H100 GPU。在Grok的GitHub讨论区有用户留言表示：Google云上80GB A100的4卡服务器每小时运行成本是20美元，这不适合我。（GCP instance with 4 A100 80GB; it cost around $20 per hour; this is not for me LOL.）Grok开源之后，笔者也加入了一个关于Grok的开源讨论群，但到了第二天，群内的讨论焦点，已经转向了只有40亿参数的Qwen-1.5。不过，Grok-1也支持8bit量化，一些开发者认为，如果模型可以量化到160GB，“可玩性”会大幅提高。算力不太宽裕的开发者，可以等到官方或者其他开发者发布量化版本后再尝试。至少从短期来看，开源Grok对普通开发者并不是很友好。那么开源对于Grok本身来说，有什么帮助呢？从传统的开源视角来看，也很难说。一些人认为开源模型可以汇聚更多开发者力量，帮助优化模型。但今天的开源AI与传统的开源软件逻辑几乎完全不同。代码开源对于AI大模型的促进作用，并不像过去的开源软件那样明显。传统软件开发过程中，一款系统、工具或软件开源以后，开发者可以基于共享代码直接修复bug，优化程序。然而今天的多数AI模型本身就是一个很大的黑盒，要从中找到问题，并对模型的底层算法进行训练、调优并不容易。“AI大模型训练是一个很‘集中’的工作。”生数科技CEO唐家渝表示，AI大模型很难通过“分布式”的开源来收集开发者的“贡献”。闭源反而是更能集中包括智力的资源、算力的资源，去做不断地迭代的。一些开发者认为，对于开源AI模型的作者来说，最大的好处是打响知名度以Grok目前的模型能力来看，只有吸引一批开发者、公司、机构对模型进行试用、开发，逐步建立起对模型的认可，才能稳固其在AI大模型领域的“江湖地位”，提高这款既不太新，也不太强的AI大模型的影响力。闭源Grok把路走窄了？从AI行业角度来看，Grok的受关注度不高。由于模型跑分不高，过去几个月中发布的AI大模型，在对比评测数据集得分时，几乎很少有人对标Grok。从业务视角来看，Grok在X平台中的表现也不理想。Grok上线到X后，与ChatGPT Plus一样采取订阅制，但ChatGPT的GPT-3.5免费开放，而Grok则一刀切，只提供给X Premium会员。X Premium会员的订阅费用是16美元包月，168美元包年。由于一开始就设置了付费门槛，Grok没有吃到X庞大用户基础的红利。数据网站SimilarWeb的统计显示，2024年2月，x.com的总访问量为1.04亿次，平均访问时长只有24秒。对比其他几家主流闭源AI的同期流量，chat.openai.com访问量为15.5亿次，平均访问时长是7分33秒；gemini.google.com访问量为3.161亿次，平均访问时长6分22秒；相对小众一些的claude.ai访问量为2086万次，平均访问时间为5分48秒。X与三款AI对话网站流量  数据来源|SimilarWeb虽然影响网站流量的因素很多，且x.com网站的受众、属性与其他几家也有明显差异，直接对比流量并不能完全说明问题，但访问时长的巨大差异，也侧面反映了X用户大概率没有跟付费的Grok聊太多。马斯克最早给Grok的战略定位，可能更多是考虑促进X的Premium会员销售，以补贴X的广告收入。然而，如今Grok在X中发挥的作用很可能并没有达到马斯克的预期。与其一直在X Premium中“躺平”，开源Grok或许能给马斯克和x.AI打开新局面。开源激起千层浪在AI大模型热潮中，靠开源大模型树立行业地位的公司并不少见，包括MistralAI以及国内的智谱，阿里的通义千问等。深陷元宇宙泥潭的Meta更是依靠开源LLaMA模型打了一次翻身仗。在2023年中，全球市场最大的变数是AI大模型，而Meta最大的变数就是开源了一款AI大模型。通过开源LLaMA，Meta展现了其在大型语言模型（LLM）领域的技术实力和开放创新的姿态，这在一定程度上帮助公司缓解了市场对其元宇宙战略的担忧。由此Meta的股价也在一年内翻了几番，市值从3155亿美元涨到1.2万亿美元，涨出了19个京东。LLaMA的开源，特别是其成本效益高的特点，对Meta而言具有战略意义。与Google和Microsoft等竞争对手的AI大模型相比，LLaMA的小巧和高性能使得Meta能够以较低成本部署高效的AI模型。这不仅提高了AI技术的普及率，也为Meta未来在各种应用和用例上的广泛部署提供了可能。有分析人士认为，基于Meta的业务范围，从聊天机器人到游戏，再到未来的生产力软件，生成式AI预计将带动一个价值超过500亿美元的市场。虽然LLaMA最初的开源一直被业界传说是无意间的“泄露”，但其最终的结果却为Meta在AI大模型行业奠定了技术和市场的领导地位。“开源”的战略逻辑，对于马斯克来说并不陌生。2014年，马斯克开放了特斯拉的350多项电动车专利技术。当时马斯克在接受采访时表示，“特斯拉的首要目标是加速全世界向可持续能源转变”。事实证明，马斯克大公无私的“开源”，在后来使得他自己成为了最大的受益者。特斯拉开放专利的做法，一举将全球汽车市场的水搅浑。大量新能源车企借助特斯拉的专利异军突起，直接激活了整个新能源汽车市场。而特斯拉作为行业领军企业，则借助长期积累的行业口碑和技术开发实力，持续保持了行业的领先地位。虽然开源Grok大概不会像特斯拉开放专利那一石激起千层浪，改变整个AI行业的格局，但对于目前的x.AI来说，应该也会产生一些积极的影响。 ... PC版： 手机版：

阿里云成为首家支持 Meta 开源 AI 模型 Llama 的中国企业

阿里云成为首家支持 Meta 开源 AI 模型 Llama 的中国企业 阿里云近日宣布，该公司已成为首家支持 Meta 开源 AI 模型 Llama 的中国企业，并允许其中国企业用户开发基于该模型的程序。 阿里云官方微信公众号表示，该公司在中国推出了第一个针对 Llama2 的系列的培训和部署解决方案，并欢迎所有开发者在阿里云上创建定制的大模型。 阿里云表示，为方便开发者群体，阿里云机器学习平台 PAI 在国内率先对 Llama2 系列模型进行深度适配，推出了轻量级微调、全参数微调、推理服务等场景的最佳实践方案，助力开发者快速基于 Llama2 进行再训练，搭建自己的专属大模型。 来自：雷锋 频道：@kejiqu 群组：@kejiquchat 投稿：@kejiqubot