无问芯穹夏立雪:目标将大模型算力成本压缩四个数量级,为算力市场带来增量 #抽屉IT

None

相关推荐

封面图片

清华大学实现芯片领域重要突破!计算能效超现有芯片23个数量级

清华大学实现芯片领域重要突破!计算能效超现有芯片23个数量级 随着人工智能的蓬勃发展,智能光计算作为新兴计算模态,在后摩尔时代展现出远超硅基电子计算的性能与潜力。但最大的痛点是光的计算优势被困在不适合的电架构中,计算规模受到了限制,无法支撑急需高算力与高能效的复杂大模型智能计算。而太极光芯片的计算能效,直接超越了现有智能芯片23个数量级,可以为百亿像素大场景光速智能分析、百亿参数大模型训练推理、毫瓦级低功耗自主智能无人系统提供算力支撑。 ... PC版: 手机版:

封面图片

各位,这两个地址的下载量和评论数为何相差了一个数量级啊乌龙了乌龙了

封面图片

算力成本迅速飙升 AI创企想挑战谷歌微软等巨头更难了

算力成本迅速飙升 AI创企想挑战谷歌微软等巨头更难了 2022年底,奥特曼领导的人工智能初创企业OpenAI发布了ChatGPT,引发了激烈的市场竞争。一大批新兴初创公司纷纷进入生成式人工智能市场,但其中大多数可能会在未来一年左右退出市场或被现有企业吸收。因为做生意的成本太高,他们根本无法独立生存下去。以Unitary的首席执行官萨沙·哈科(Sasha Haco)为例。公司业务是扫描社交媒体上的视频,寻找违规内容。相比Unitary向客户收取的费用,用OpenAI的人工智能工具扫描视频的订阅成本要高出100倍。因此,Unitary不得不自行开发人工智能模型,这本身就是一种走钢丝式的平衡行为。Unitary仍需要通过微软云服务或亚马逊网络服务(AWS)等云供应商租用罕见的人工智能芯片。哈科表示,自2020年以来,这些芯片的价格已经翻了一番,而且很难预订。她透露:“有时候我们买不到所需的东西,所以不得不支付原来10倍的价格。”所幸Unitary成功了。但哈科承认,没有哪家生成式人工智能初创公司找到了如何大规模低成本运营业务的方法,至少没法像大型科技公司那样。旧金山的另一位人工智能创始人告诉我,很多不得不租用人工智能芯片和云计算服务的同行都发现,他们赚钱的唯一途径就是“人们不使用这些产品”。创业公司Dialogue主要为受监管的行业量身定制聊天机器人。公司首席执行官罗纳德·阿什里(Ronald Ashri)说:“把算力比作电力再合适不过了。”“你不得不接入一个基础模型,这就是你的电力,你要不断消耗。在我们提供给客户的解决方案中,算力消耗是最高的一块成本。”生成式人工智能初创公司可以通过两种不同方式来构建他们的技术。例如,他们可以开发自家的OpenAIGPT-4或谷歌Gemini,但这种基础模型动辄需要投入几亿美元。他们也可以选择在现有模型的基础上开发各种功能,这种方法只需要几千万美元的投资,目前绝大多数人工智能初创公司都是这样做的。在这两种情况下,主要受益者都是云计算领域的巨头微软、亚马逊以及Alphabet旗下的谷歌,此外还有人工智能芯片制造商英伟达。芯片公司Vaire Computing首席执行官鲁道夫·罗西尼(Rodolfo Rosini)表示:“目前,所有这些初创公司都从风险投资者那里拿钱,然后再把钱交给云计算公司和英伟达。”这就是为什么英伟达的股价在去年翻了一倍多,估值接近2万亿美元的原因。人们或许会认为,大型科技公司会放眼整个人工智能初创领域,对充满活力的初创公司感兴趣,渴望从中获得新人才和新想法,但事情远没有那么简单。大多数新成立的生成式人工智能初创公司都没有太多核心的人工智能研究科学家,因为它们都依赖于更大的第三方模型。这些初创公司的大部分员工通常都是普通的软件工程师,在网罗人才方面对大科技公司来说没有太多吸引力。总部位于伦敦、专注于投资人工智能的风险投资公司Air Street Capital创始人内森·贝纳奇(Nathan Benaich)表示,Meta等大型科技公司已经在大量投资内部的人工智能项目,其中许多公司去年还大幅削减了成本。更大的绊脚石是监管。由于最近一波更严格的反垄断执法行动,大型科技公司对任何涉及重大人工智能交易的反垄断监管都持谨慎态度。因此更多收购行为也转为投资。市场研究公司Pitchbook高级分析师布伦丹·伯克(Brendan Burke)提供的数据也印证了这一点。他表示,大型科技企业对人工智能初创企业的投资在2023年达到了246亿美元以上,高于2022年的44亿美元。这一转变的目的就是避开监管审查。但伯克还透露,现在美国联邦贸易委员会(FCC)正在调查其中的一些投资行为,其中包括微软对OpenAI的上百亿美元投资以及亚马逊对Anthropic的投资,大科技企业可能还会回归到传统收购上来。风险资本投资者和初创公司对未来一年的并购交易持不同看法。最有可能发生的事情是监管层面的压力将影响大科技公司收购估值超过10亿美元的领先人工智能初创公司,比如Perplexity、Cohere和Character.ai和Inflection。相反,它们将吸引更多投资。至少目前看来,一些规模较小的长尾型企业将被收购,而其他初创公司将在成本压力下倒闭。结果就是产生一个与当下非常相似的竞争环境,最大的行业参与者继续变得更大。这是大型科技公司的胜利,也可以说是消费者的胜利,他们能继续以低廉价格获得人工智能。但是,融入人们生活方方面面的通用人工智能被少数几家公司主导时,他们就拥有了巨大的影响力。(辰辰) ... PC版: 手机版:

封面图片

黄仁勋点评奥特曼芯片梦:算力成本早已下降 数万亿美元有点烧得慌

黄仁勋点评奥特曼芯片梦:算力成本早已下降 数万亿美元有点烧得慌 作为人工智能芯片领域最权威的人物,英伟达的首席执行官黄仁勋回应称,过去十年中,算力成本已经下降了100万倍。而他估计未来该领域的芯片厂建设成本将远低于7万亿美元。另一名资深的芯片架构师Jim Keller也在X上回应称,他用不到1万亿美元的资金就能够做到Altman所计划的事情。Keller还尖锐地指出,扩大芯片供应第一步就是消除利润堆积,即简化芯片的供应链;其次就是让芯片变革速度加快,并让硬件和软件相匹配。这也是黄仁勋所呼吁的内容。在他看来,芯片业的扩张并不是指人工智能芯片数量的爆发,那样只会带来供需失衡并冲击芯片的价值。他和Keller一同强调应让处理器变得更复杂,而不在于让处理器变得更多。万亿美元的大计划Altman对未来芯片行业的融资构想远远超过该行业目前的估值,事实上,半导体行业去年的销售额在5270亿美元左右,预计到2030年才会突破1万亿美元大关。与此同时,芯片制造商在2022年累计设备投资995亿美元,预计今年的基础设施投资也不过为970亿美元。全球最大的芯片制造商台积电在2023年资本支出也仅有320亿美元。Altman的构想不仅对芯片制造业来说有点夸张,无论放在哪一个行业都足以令人咋舌。遥想当年美国孤注一掷的曼哈顿核计划,按照通胀调整之后花费的成本,也不过是7万亿美元的两百分之一罢了。有人则嘲讽称,Altman是被繁花迷了眼,看多了富人扎堆向OpenAI投钱,已经失去了对价值的判断,正在效仿其前辈马斯克,开始画一个和“火星移民”类似的大饼。回到芯片行业,钱的问题还只是一方面。据一些科技人士称,人才短缺远比资金问题更加严重。目前来看,能够建设高规格芯片工厂的合格人员已经极度短缺,且合格的技术人员比芯片还要难得,因为前者无法在装配线上大规模量产。当然,人们也可以将Altman的话理解为对芯片业的强势看好,代表着该行业仍需要大量资金的投入。不过,7万亿美元的大饼属实让人有点吃撑,现实与理想之间的差距也需要进一步被认清。 ... PC版: 手机版:

封面图片

NNPJ-472 一个数量级的爱欲! !!如果你和你的性感妹妹说话...... << 超受欢迎! ≫ 东京No. 1 奇迹是Deriheru 小姐。 Yuzu (24 岁) 50,000 粉丝!

封面图片

IPZ-066 #ipz066标题:IPZ-066 美丽剃光性鹤满是一个数量级更敏感和愉快的 Miku Hasegawa - 长

🔍 发送关键词来寻找群组、频道或视频。

启动SOSO机器人