贾扬清：Groq 的 AI 芯片不能平替英伟达

贾扬清：Groq的AI芯片不能平替英伟达财报发布前两天，英伟达突然冒出来一个劲敌。一家名叫Groq的公司今天在AI圈内刷屏，杀招就一个：快。不过，原Facebook人工智能科学家，原阿里技术副总裁贾扬清在推特上算了一笔账，因为Groq小的可怜的内存容量（230MB），在运行Llama-270b模型时，需要305张Groq卡才足够，而用H100则只需要8张卡。从目前的价格来看，这意味着在同等吞吐量下，Groq的硬件成本是H100的40倍，能耗成本是10倍。（36氪）

10 秒总结 YouTube 视频，原阿里首席 AI 科学家贾扬清打造浏览器插件 Elmo

原阿里首席AI科学家贾扬清在X（推特）上分享了插件Elmo，该插件能在10秒内总结GoogleNext主题演讲，生成一句话概括、摘要、主要观点。该插件由贾扬清去年创办的AI公司LeptonAI打造。贾扬清表示，Elmo采用了数据公司Databricks推出的开源大模型DBRX。据悉，DBRX具有1320亿个参数，采用MoE架构，在性能上超过了GPT-3.5和其他一些开源模型。时长达1小时22分的苹果2023秋季发布会，Elmo仅用时几秒就给出了中文的视频总结、摘要和亮点，甚至还有相关问答的链接。Chrome插件商店链接：https://chromewebstore.google.com/detail/elmo-your-ai-web-copilot/ipnlcfhfdicbfbchfoihipknbaeenenmvia匿名标签:#AI#Elmo#YouTube频道:@GodlyNews1投稿:@GodlyNewsBot

原阿里首席AI科学家贾扬清再发声：开源领域“魔改”要不得

原阿里首席AI科学家贾扬清再发声：开源领域“魔改”要不得贾扬清指出，开源是一个相互合作的事情，本质是要大家能够求同尊异，讨论设计，磨合观点，最后拧成一股绳往前走。初入开源以及betterengineering的人往往有一种倾向，“这代码我拿来，魔改下，然后我自己自定义也灵活，何乐而不为？”但是就社区而言这种事情绝对弊大于利，最后形成各种分裂的技术体系，没法维护，没法协作，对于创作者和使用者都是非常大的问题。他还表示，魔改一时爽，社区火葬场，要真的做出成就来，就得真的有能够和社区一起玩的心。11月14日，“零一万物”公司正式公开回应了此事，该公司开源团队总监RichardLin承认了修改Llama张量名称的做法不妥，将会按照外界建议把“修改后的张量名称从Yi改回LLaMA”。11月15日，零一万物正式公开了对Yi-34B训练过程的说明。李开复也在朋友圈转发了该说明，并表示：“零一万物Yi-34B模型训练的说明也回应这两天大家对于模型架构的探讨。全球大模型架构一路从GPT2-->Gopher-->Chinchilla-->Llama2->Yi，行业逐渐形成大模型的通用标准(就像做一个手机app开发者不会去自创iOS、Android以外的全新基础架构)。01.AI起步受益于开源，也贡献开源，从社区中虚心学习，我们会持续进步。”...PC版：https://www.cnbeta.com.tw/articles/soft/1397379.htm手机版：https://m.cnbeta.com.tw/view/1397379.htm

三巨头三小时内展开AI模型价格战：他降价！你降价！我免费！

三巨头三小时内展开AI模型价格战：他降价！你降价！我免费！大模型的价格战，是否能促进行业发展？目前分为正反两派：一方认为是好事，此举降低了门槛，有利于加速大模型的应用落地；另一方认为是坏事，价格战将压缩利润空间，缺少资金就不能吸引更多人才，有碍技术进步，模型的进化将直接受损，长此以往更不利发展，甚至一批中小型初创企业将被淘汰。巨头掀起价格战：他降价！你降价！我免费！实际上，在此之前，国内大模型企业就出现了降价行为。比如DeepSeek-V2价格做到了每百万tokens1元，智谱AI也把glm3-turbo价格调整到每百万tokens1元。而引发这波大规模的价格战的则是字节跳动的入场。一周前，字节跳动举行大模型战略发布会，最引人注目的是其激进的价格策略。字节跳动宣布，豆包大模型将正式开启对外服务，火山引擎总裁谭待表示：“豆包主力模型在企业市场的定价只有0.0008元/千Tokens，0.8厘就能处理1500多个汉字，比行业便宜99.3%。”他认为，这将助力企业以极低成本使用大模型、加速大模型的应用落地。“技术驱动的极致性价比才能真正创造价值。”一石激起千层浪。5月21日，阿里云宣布通义千问GPT-4级主力模型Qwen-Turbo、Qwen-Plus、Qwen-Long、Qwen-Max等9款主力AI大模型宣布全面降价。其中，Qwen-LongAPI输入价格从0.02元/千tokens降至0.0005元/千tokens，最高直降97%。新浪科技对比之后发现，此次降价后，通义千问的价格为0.0005元/千tokens，而此前豆包大模型降价后，其价格为0.0008元/千Tokens。这意味着在相同的tokens数量下，通义千问的价格比豆包大模型便宜。让火药味儿更浓的是，火山引擎相关负责人直接回应友商降价：非常欢迎通义千问大模型降价，共同助力企业以更低成本探索AI转型，加速大模型应用场景落地。不过，巨头们的价格战并未就此结束。5月21日下午，百度文心大模型的两款主力模型ERNIESpeed、ERNIELite宣布全面免费，即刻生效。百度这一动作狙击字节跳动和阿里云的意图十分明显，也将这波价格战引入了高潮。支持派：降低成本，还可促进捆绑销售对于大模型的价格战，业内也有着不同的看法。有企业家和业内人士力挺价格战的一派。创新工场董事长兼首席执行官李开复向新浪科技表示，在一定程度上，整个行业每年降低10倍推理成本，这是可以期待的，而且是必然也应该发生的。“这是一个好消息，对整个行业都是好消息。”一位业内人士向新浪科技表示，大模型行业也确实到了要追求落地、衡量商业化的阶段，所以大家都开始考虑用更加激进的降价手段获取客户，价格战是必然会发生的。他同时指出，目前降价的企业，大多是云厂商，或者是有云能力的大模型公司，比如豆包背靠火山引擎，文心大模型背靠百度智能云，通义千问有阿里云，他们也不是全系降价，只是其中一小部分降价，通过这种偏营销色彩的方式获得市场关注。吸引客户之后，他们体量比较大服务比较多，可以有一些捆绑销售的行为，就能整体把利润做起来。他认为，中小初创型大模型企业，在价格战中肯定会受到一些冲击。行业已经卷起来了，总归有些企业会死掉。“现在比拼的也不一定是谁的技术厉害，技术可能是因素之一，但还要比谁的融资能力更强，谁的商业能力更雄厚，最后才能真正地屹立不倒。”反对派：恶性循环，与一流水平差距加大也有很多专家对此表达了担忧。LeptonAI创始人、阿里巴巴原副总裁贾扬清指出，站在整个AI业界的角度，降价是个拍脑袋就可以做的简单策略，但是真正的ToB商业成功更难。“今天不是说API贵才没有人用，而是因为，企业首先得搞清楚到底怎么用起来产生业务价值，否则的话，再便宜也是浪费，而今天恰恰实施的这一层是缺的。”贾扬清表示，“也许不是最便宜地赢得商战，而是最能落地地赢得利润。”还有观点认为，国内厂商的模型能力如果达不到OpenAI的水平，一味拼价格并不是一个好策略。比如OpenAI日前宣布推出GPT-4的升级版GPT-4o，实现了文本、音频和图像的多模态交互；谷歌也在I/O开发者大会上亮出了全方位的AI底牌，将AI技术深度整合进其庞大的产品生态中。而国内大模型企业一旦陷入单纯的价格战，现金流会持续承压，缺乏充足的资金投入到招募AI人才、升级基础设施等投资中去，模型进化与迭代也会受到影响，从而让国产基座模型进入发展瓶颈期，与世界一流水平的差距越拉越大。值得注意的是，在大模型价格战的同时，中国工程院院士、国家数字交换系统工程技术研究中心主任、复旦大学大数据研究院院长邬江兴近日指出，“AI内生安全问题是当前AI应用推广中的最大障碍。”他表示，对当前最流行的10种大模型进行安全分析发现，90%以上的主流大模型是不可信的。对于国内大模型企业来说，除了价格战这个吸引关注的策略之外，同样进一步需要在技术水平、安全性等方面下足功夫，提升综合能力，如此才能推动行业健康良性发展。文新浪科技张俊...PC版：https://www.cnbeta.com.tw/articles/soft/1431815.htm手机版：https://m.cnbeta.com.tw/view/1431815.htm