《ChatGPT 越过山丘之后,再来谈谈 LLM 应用方向》

《ChatGPT 越过山丘之后,再来谈谈 LLM 应用方向》 全文肝完。 这篇文章会通过这半年来多的持续关注的信息思考和一线开发的经验,试图回答 半年了为什么再没有其他爆款产品出来? 是不是当前技术遇到了无法不可逾越的鸿沟? 作为现在有些迷茫的开发者,之后的方向应该是什么?

相关推荐

封面图片

陈梓华供称国安法生效之后再没致电黎智英

陈梓华供称国安法生效之后再没致电黎智英 壹传媒创办人黎智英与《苹果日报》三间相关公司涉嫌串谋勾结外国势力的案件继审,「从犯证人」陈梓华继续作供。控方向陈梓华展示,他在2020年7月、即《香港国安法》生效之后,向另一名「从犯证人」、香港故事成员李宇轩发送的讯息,提到「不代表在《香港国安法》下甚么也不做」。陈梓华供称,当时认为需要继续推动制裁, 认为就连黎智英也可以无畏无惧,有些事情便要去做,但思考应做到哪一步。在控方完成主问后,由辩方的新西兰御用大律师Marc Corlett负责盘问。陈梓华确认自己同意向控方提供协助后,与警方一共会面81次,并曾进行4次录影会面及录取4份书面供词,在《香港国安法》生效后,他再没有致电黎智英。陈梓华供称,在《香港国安法》生效数天之后,有阅读过条文内容,亦明白自己过去所做的事情可能不再合法。他表示,跟黎智英从来没有讨论过《香港国安法》的效力,黎智英亦从来没有要求陈梓华进行违反《香港国安法》的行为。 2024-04-25 15:50:35

封面图片

为什么发达之后不能随便帮衬家人?

#内幕消息 为什么发达之后不能随便帮衬家人? 我跟大家分享一个真实的故事: 姐姐在上海打拼8年,才熬得一个年薪50万的职位,手里有点小钱。 刚进入社会的弟弟向她借了20万,在老家县城开了一个小餐馆。 结果不到半年就倒闭了,投资全部打了水漂。 姐姐跟他说,不着急还钱,等你什么时候有了再说就行。 结果弟弟直接翻脸了:你每年赚那么多,还差我这点钱吗? 潜台词是:什么?我向你借钱还需要还吗? 老家的父母也开始劝她:你要有个做姐姐的样子,对待弟弟,能帮衬就帮衬一下,那20万就别要了。 姐姐气不过,赌气在家人的群里说了一句:“这个钱我不要了,行了吧?” 于是爸爸说“女儿真懂事”,妈妈说“一家人就应该团结”。 只是从此以后,姐姐就很少回老家了,在经济上也再没有援助过他们,而且学会了在朋友圈里哭穷…… 有人会说:当家族里的某个人发达之后,帮衬一下其他家庭成员,不是天经地义的吗? 其实,想要做到这一点,这里面有3个大前提: ① 那个发达的成员已经达到了“大富大贵”的级别,回老家就是为了散财、积累好名声。 比如刘强东这样的大佬,回老家可以给每个亲戚都发10万元,让他们创业、改善生活。 而普通的小老板、小中产们赚的都是辛苦钱,根本没有这个实力。 ② 被资助者不能是个废物。 举个例子,20多岁的年轻人想要创业,这是好事。 但是,只要他开口说想要开饭店、花店、书店、咖啡馆,那基本上可以断定,这个钱肯定是要赔光的。 因为这些项目都是“收割机中的战斗机”。 ③ 被资助者要有感恩之心。 光是这一个要求,就能筛选掉99%的垃圾人。 因为世界上有太多“理所当然”的人,他们认为有钱的一方就应该帮衬没钱的一方。 就像我在《关于借钱的5个扎心真相》这篇文章里写的那样:你把钱借给他们可以,一旦想要让他们还钱,那你就立刻成了大恶人。 其实,对于“帮衬家人”这件事,我是非常有发言权的,我之所以对他们非常严格,就是因为我不想成为他们眼中的“好人”“大度的人”。 我为了赚钱,每天都在苦心经营,都在学习新知识,为了一个小问题就思考到深夜。 而他们呢? 大部分时间都在睡觉、打麻将、聊八卦。 结果他们在向我寻求资助时,劝我要大度,不要把钱看得太重…… 换你你能受得了吗? 你骂我忘恩负义、六亲不认,这些我都能接受;但如果你把我当成冤大头,那我肯定不接受。 赞赏U君

封面图片

OpenAI在国内的两条应用之路走不通了?

OpenAI在国内的两条应用之路走不通了? 令高瑞麟陷入两难的,是在奥特曼领导下的OpenAI的一封推送邮件。在6月25日发出的邮件中,OpenAI表示,从今年7月9日开始,将阻止来自非支持国家和地区的API(应用程序接口)服务。受影响组织若希望继续使用OpenAI的服务,必须在其支持的国家或地区内访问。这也意味着,不在支持地区范围内的中国大陆,将迎接OpenAI的“断供”风险。需要注意的是,ChatGPT爆红以来,OpenAI其实一直未曾开放过中国市场的服务。国内大模型创业者李振告诉字母榜(ID:wujicaijing),当前国内想要访问OpenAI的API,一般有两个途径:一是直接向OpenAI官方申请,这种方式更多适合个人开发者;二是通过采购微软云服务,间接接入OpenAI服务,这也是当前国内唯一的合规渠道。据李振观察,目前微软云提供的OpenAI接入服务仍可以正常访问。通过上述两种途径,围绕OpenAI的API,国内大模型玩家也由此发展出了两大应用场景:科技大厂用以帮助训练自己的大模型,在模仿的基础上追求赶超效果;中小企业则用来开发落地应用,在实际使用中向客户提供多样性选择。对于更有实力和资源的大模型玩家而言,即便“断供”政策正式生效,也可能挡不住它们继续调用OpenAI的API的行为,“在一个全球化的市场中,很难存在彻底隔断某一地区访问权限的可能性,就是需要穿越多少围栏的问题。”关注大模型投资的恒业资本创始合伙人江一说道。进入2024年,即便已经出现了一众号称性能媲美GPT-4级别的国产基础大模型,但调用OpenAI技术的需求仍然存在。在江一接触到的合作客户中,有人明确提出希望提供OpenAI技术选项,“面对更开放、更发散性的问答时,OpenAI展现出来的答案还是更强一些。”这也促使一些应用开发商对不同的模型做起人为分割,简单的问题推理,以及涉及垂类行业问答的场景,优先调用国内大模型,偏复杂推理和分析的内容,就交给OpenAI。具体运行环节,有点类似当前业内推崇的MoE混合专家模型逻辑,当客户提出一个问题后,借助机器学习的匹配算法,先将问题分类,从而基于分类结果匹配对应的模型服务商。但是否使用OpenAI服务,还取决于客户是否愿意为此多花钱,“充什么样的会员套餐,给你供应什么样的大模型选择范围。”李振解释道。不同于应用开发者的具体使用需求,那些同样有着自研大模型野心的国内厂商,通过接入OpenAI技术,还能起到辅助刷榜的作用。知名大模型测试集C-Eval就曾在官网置顶声明,称评估永远不可能是全面的,任何排行榜都可能以不健康的方式被黑客入侵,并给出了几种常见的刷榜手法,如对强大的模型(例如GPT-4)的预测结果蒸馏、找人工标注然后蒸馏、在网上找到原题加入训练集中微调模型等等。站在OpenAI的肩膀上,从模仿借鉴中快速赶超,则是国内大模型玩家接入OpenAI技术的更重要目的。去年12月份,字节跳动被爆出正在研发一个名为“种子计划”(Project Seed)的AI大模型项目,但该项目在训练和评估模型等多个研发阶段调用了OpenAI的API,并使用ChatGPT输出的数据进行模型训练。此举违反了OpenAI的使用协议,根据规则,OpenAI禁止使用输出开发竞争模型。因此,字节旗下部分GPT使用权限被OpenAI封禁。字节官方坦陈,内部技术团队刚开始进行大模型的初期探索时,确实有部分工程师将ChatGPT的API服务应用于较小模型的实验性项目研究中,但“该模型仅为测试,没有计划上线,也从未对外使用。”部分国产大模型在训练模型速度上快速起步的一大原因,同样离不开对国外大模型的借鉴。去年11月被传出套壳消息时,零一万物在回应字母榜中承认,在训练模型过程中,沿用了 GPT/LLaMA的基本架构,但需要说明的是,借鉴架构并不能跟“套壳”或者“抄袭”直接划等号。不过,这确实帮助零一万物缩短了模型研发时间。去年3月,李开复正式宣布将亲自带队,成立一家AI 2.0公司,研发通用大模型。经过三个月筹办期,同年7月份,该公司正式定名“零一万物”,并组建起数十人的大模型研发团队。团队成型四个月后,零一万物便在11月份推出了“Yi”系列大模型产品,并借助Yi-34B霸榜多个大模型测试集。在OpenAI“断供”危机之下,国产大模型的战略替代价值越发凸显。在李振看来,从经济账上考量,国内公司直接调用国产大模型会是更为划算的选择。抢在企业迁移之前,一些追求更高收益的个人开发者,已经率先用国产模型替换掉了OpenAI。2022年11月ChatGPT亮相后,受限于政策,一些人开始盯上国内想要尝鲜的用户,做起了卖号生意。当时,ChatGPT Plus官方订阅价格为一个月20美元,国内用户想要使用,收费一般为共享号(供4-6个人使用)一个月50元左右,独享号一个月170元左右。但从2023年下半年开始,随着越来越多国产大模型的发布,加上用户对ChatGPT新鲜感的减弱,越来越多个人开发者已经将技术底座从OpenAI换成了国产平替,订阅价格也随之下降,有的连续包年仅需198元。现在,在App Store应用商店中搜索“ChatGPT”,各类相似应用程序充斥其中,ChatGtp4o、ChatGp4、ChatGp4o、ChatBPT 4.0、ChatGTB4……如今,OpenAI的“断供”之举,给国产大模型厂商提供了一次抢夺中小企业用户的迁移机会。继5月份字节、阿里、百度、腾讯等掀起大模型价格战之外,从6月25日开始,一众国产大模型玩家又纷纷祭出了零成本迁移计划,再次加码性价比之战。截至目前,包括智谱AI、百度、阿里、腾讯、百川智能、零一万物、商汤科技、月之暗面等均已推出了OpenAI零成本迁移计划。为加速用户“搬家”,部分国产大模型还额外附送1千万乃至1亿Tokens,并配套调用、迁徙、训练等多项免费服务大礼包。便宜,只是鼓动用户迁移的必要条件。想要真正赢得用户的青睐,国产大模型还需要做到更好用。去年曾喊出史上最大降价的阿里云,并未能借助价格战换来新的增长。聚焦到国内公有云市场,阿里云市场份额不增反减。IDC发布的《中国公有云服务市场(2023下半年)跟踪》报告显示,2023下半年IaaS市场中,阿里云市场占比27.1%,位居第一。但在2023上半年中国IaaS市场中,阿里云市场份额则为29.9%。更可况,在国产大模型降价的同时,OpenAI们也在降价。按奥特曼的话说,“OpenAI也可以将非常高质量的AI技术成本降至接近零……”想要增强大模型底座的产品吸引力,除了价格之外,更重要的比拼则在数据端。2020年发布GPT-3时,OpenAI曾详细公开了模型训练的所有技术细节。中国人民大学高瓴人工智能学院执行院长文继荣表示,国内很多大模型其实都有GPT-3的影子。但随着OpenAI在GPT-4上一改开源策略,逐渐走向封闭,一些国产大模型就此失去了可供复制的追赶路径。此后,各家大模型拉开技术差距的重点,越来越多体现在训练方法、数据配比、数据工程、细节参数、训练过程监测技巧等细节之中。即便在模型框架相同之下,不同的数据来源和数据训练方法加持下,最终训练出来的大模型性能依然会表现各异。“前大模型时代,AI的主流是以模型为中心的单任务系统,数据基本保持不变。进入大模型时代,算法基本保持恒定,而数据在不断增强增大。”在产业专家刘飞看来,相比算法和算力,数据可能是眼下阻碍国产大模型追赶OpenAI步伐的更大鸿沟,“魔鬼都藏在这些数据训练的细节里。”在国内大模型纷纷跨入万亿参数时代之后,对数据采集和训练的能力考验再次提升。参数量的大小与最终模型呈现的效果之间,两者“投入产出并不成正比... PC版: 手机版:

封面图片

是供应链技术还是自研?国产手机续航暴涨背后的秘密

是供应链技术还是自研?国产手机续航暴涨背后的秘密 如果你有用过最近一年发布的国产旗舰机型,你就会发现它们的续航有了长足的进步,基本都可以做到两天一充。短短十几年间,手机电池如何发展到现在的水平?近一年来厂商们相继推出的青海湖电池、蓝海电池、金沙江电池等技术又是什么?为何时间节点如此接近?▲图源小米从镍到锂的飞跃新生代的手机用户可能没听说过“电池没用完就充电,会让电池容量变小”这种神奇的理论,而这正是早期手机所使用的镍镉电池的一大缺点记忆效应。后来就出现了镍氢电池,记忆效应得到了明显改善。直到千禧年前后,锂离子电池的材料和制造技术经历了重大的革新,成本大幅下降,能量密度提高,且解决了电池记忆效应的问题。这些改进使得锂离子电池迅速成为手机行业的标准选择,整个行业也正式进入了锂电时代。传统的锂电由于使用了液态电解质,限制了电池的形状和大小。因为必须确保电解质在电池内部保持稳定,同时还要防止泄漏和腐蚀,所以通常会采用硬质的外壳,从而限制了电池的形状设计。此外,液态电解质在高温或过充的情况下可能会膨胀或燃烧。后来便进化出现在业内广泛采用的锂聚合物电池,采用的是胶状或者固态电解质,采用铝膜包装,体积和形状更加自由,可以灵活适应内部空间越来越紧凑的电子产品。而且电池的热稳定性和机械稳定性也更好,从而减少安全风险。手机电池技术发展到锂聚合物之后,很长一段时间都再没有大幅升级,因为锂电中石墨负极的局限性逐渐显现。石墨负极的理论比容量限制在372mAh/g,且锂离子的扩散速率较低,这些因素都限制了电池能量密度的提升和快速充电能力。除了材料本身的性能缺点,天然石墨作为一种不可再生资源,也面临着很多问题。据美国地质调查局(USGS)的数据,2020年全球石墨储量约为3亿吨,按照目前的开采速度,预计到2050年全球石墨资源将耗尽。同时,天然石墨作为一种自然资源,与天然气、石油等一样也会受到地缘因素的影响,供给并不稳定。人造石墨在一定程度上可以避免天然石墨所带来的问题,但人造石墨生产过程中需要消耗大量能源,并且产生大量废水,如果不妥善处理,会造成严重的土壤和水源污染,与被称为“环保”的“新能源”背道而驰。还有商业中最重要的影响因素:利益。以目前的生产工艺来说,同样纯度的人造石墨要比天然石墨贵20-30%。而随着天然石墨资源越来越少,天然石墨的价格也会越来越贵。因此,寻找石墨的替代材料成为了锂电行业最重要的发展方向之一。锂电的次世代:硅碳负极无论是青海湖电池、蓝海电池还是金沙江电池,它们在宣传中都不约而同地提到了“硅碳负极”,这也是解决目前电池难题的关键技术。上文提到石墨作为负极材料的缺点,那么有没有其他材料可以代替它呢,有,那就是硅。硅作为负极材料,具有高达4200mAh/g的理论比容量,几乎是石墨的11倍。这意味着,使用硅负极的锂电池在理论上可以大幅提升能量密度,从而延长电池的使用寿命和减少充电次数。然而,硅材料在充放电过程中会发生高达300%的体积膨胀,这种显著的体积变化会导致电极材料的破裂,从而降低电池的循环寿命。▲图源Group14为了克服这一挑战,科学家们开发了硅碳复合材料。通过将纳米硅颗粒与碳材料结合,可以利用碳材料的稳定性来抑制硅的体积膨胀,并通过碳的导电网络来提高整体的电导率。尽管硅碳负极技术在提升电池性能方面具有巨大潜力,但其工艺难点仍然存在。硅碳负极的制备需要精确控制材料的纳米结构,以及确保硅和碳的均匀分布。此外,电池制造过程中的首次效率和循环稳定性也是需要克服的关键挑战。Group14与ATL其实早在上世纪70年代,硅碳负极电池技术就已经通过了可行性验证,为何直到近一年我们才看到大量消费终端采用呢?这就不得不提到2个公司,一个是我们熟知的ATL(新能源),也就是宁德新能源和东莞新能德的母公司,另一个则是初创公司Group14。▲图源Group142023年2月28日,Group14正式宣布已向ATL供应SCC55材料,为下一代智能手机等3C产品提供动力,并表示很快就有使用SCC55电池材料的手机面世。在一周后的3月6日,荣耀就发布了全球首款搭载硅碳负极电池技术的智能手机Magic5系列,行业媒体TechInsights也证实该技术的实施由Group14的电池材料产品SCC55主导。▲图源微机分WekiHome在知名拆机Up主微机分的视频中我们也可以看到,无论是青海湖电池、蓝海电池还是金沙江电池,它们都由新能德公司生产,并且采用ATL电芯。我们基本可以以此猜测它们所采用的硅碳负极技术都使用了Group14的SCC55材料。为什么一定是Group14的SCC55?因为目前能大规模量产硅碳负极材料的公司并不多,而Group14是其中份额最大的。明日之星:SCC55在正式介绍SCC55之前,我们先来简单了解一下Group14是个怎样的公司。硅在元素周期表中的排第14位,这就是Group14中“14”的来源。这家公司成立于2015年,致力于将锂离子电池转化为锂硅负极电池,帮助解决能源存储难题,先后获得ATL、SK Materials、保时捷等公司的投资,累计金额超过6亿美元,是锂电行业炙手可热的明日之星。▲图源Group14硅碳负极作为一种新兴技术,国内外有不少公司都在攻关,融资也拿了不少,甚至还有不少在“PPT”上都放出了非常惊人的参数。但是很多仍然停留在实验室状态甚至理论状态,远远未能达到量产要求。而Group14几乎是最早实现大规模量产的,在应用方面也有着无可比拟的优势。▲图源Group14SCC55的独特之处在于其结构设计。该材料由嵌入碳支架中的硅纳米颗粒组成。这种结构允许硅颗粒与电解质充分接触,从而提高电池的充放电效率。此外,碳支架还提供了机械支撑,防止硅颗粒在充放电过程中膨胀和收缩。因此,SCC55硅负极电池的能量密度比传统锂离子电池高出50%,并且充电速度更快,理论上只需要几分钟。SCC55材料投产起来也很方便,从纽扣电池到软包电池,制造商可将SCC55无缝投放到任何锂离子电池生产线、超级工厂或电池设计中,而无需重新调整工艺。比起概念,规模化量产才是盈利的根本。Group14的两步工艺使规模化变得简单,首先合成碳来创建碳支架,然后在支架内部创建硅并调整内部空隙,最终形成神奇的SCC55。而具体的工艺细节,早已被Group14申请了全球专利,成为其商业帝国的基石。▲图源Group14Group14还设计了一种可轻松复制的流程,可以在需要的地方建造各种规模的工厂(BAM 工厂)。每个模块都自成一体,每年可生产材料达10GWh。还可以根据需要将任意数量模块组合在一起,形成任意规模的BAM工厂。▲图源Group14产能方面,Group14位于美国华盛顿州伍丁维尔的 BAM-1工厂目前为超过65家客户供货,这些客户占全球电池生产市场的95%,另外也正在亚洲、欧洲等地区部署BAM工厂。可以确定的是BAM-1工厂的产量已超过10GWh,大约可以满足10-20万辆电动车使用。如果投产顺利,位于华盛顿的BAM-2工厂产能将会达到BAM-1的2倍,将在2024年成为全球最大的先进硅负极电池技术工厂。写在最后机圈里常有人调侃:不都是供应链技术,讲什么自研。 我们从结果上来看,这几家的硅碳负极电芯都是来自ATL,而且大概率就是采用的SCC55材料,好像确实这么一回事。但其实,供应链与厂商之间的交流并不是单向的,很多材料、技术的应用往往是双方共同努力的结果。类比一下,供应链技术就像食材,最终... PC版: 手机版:

🔍 发送关键词来寻找群组、频道或视频。

启动SOSO机器人