日本多家大学联合启用超算富岳开发新AI 目标直指ChatGPT

日本多家大学联合启用超算富岳开发新AI目标直指ChatGPT·提起日本超算“富岳”,多次在世界超级计算机运算排行榜中占据前位,其运算能力绝对不容小觑,东京工业大学、东北大学、富士通、理化学研究所等科研机构联合计划就是直接活用超算“富岳”开发新AI,以对抗ChatGPT。·日本的“富岳”开发新AI计划打造以日语为核心语言库的大规模语言模型,以弥补ChatGPT英语核心模型库在日本的普及问题,计划在2024年公开开源模型库,向企业及大学无偿提供。...PC版:https://www.cnbeta.com.tw/articles/soft/1362667.htm手机版:https://m.cnbeta.com.tw/view/1362667.htm

相关推荐

封面图片

日本超算“富岳”后续机型将注重人工智能算力

日本超算“富岳”后续机型将注重人工智能算力关于超级计算机“富岳”的后续机型,日本文部科学省的专家委员会5日汇总报告,指出要以人工智能计算方面拥有全球最高水平的性能为目标。计算能力要达到“富岳”的5~10倍以上,力争由理化学研究所作为开发主体于2030年前后启动运用。在理研计算科学研究中心运转的“富岳”在截至5月的全球运算速度排行榜“TOP500”中位列第四。理研方面称算力可达每秒44.2京次。报告指出,不仅仅追求排名,有必要在产业和科研等所有领域都能提供世界水准的算力。——

封面图片

日本团队利用超算“富岳”开发大语言模型

日本团队利用超算“富岳”开发大语言模型东京工业大学、理化学研究所、富士通等的团队10日发布消息称,运用超级计算机“富岳”独立开发了日语能力出色的生成式人工智能基础技术“大语言模型”。不仅企业与大学可下载使用,公众也可通过富士通官网试用。此次利用包括富岳在内的国产技术,还独立汇总了用于学习的日语数据。该团队认为,能够消除海外模型被指“使用哪些数据如何开发存在不透明”的担忧。该团队从互联网文本数据库中甄选高质量的日语文本。使用“富岳”推进人工智能学习,用不到1年时间完成开发。据称,特点是能够自然地处理敬语和以日本文化为背景的对话。富岳不使用GPU,团队此次优化了软件,把CPU的计算速度提高至6倍,展示了使用国产超算也能开发生成式人工智能。——

封面图片

景嘉微:面向 AI 训练、AI 推理、科学计算等应用领域的景宏系列高性能智算模块及整机产品研发成功

景嘉微:面向AI训练、AI推理、科学计算等应用领域的景宏系列高性能智算模块及整机产品研发成功景嘉微公告,公司面向AI训练、AI推理、科学计算等应用领域的景宏系列高性能智算模块及整机产品(以下简称“景宏系列”)研发成功,并将尽快面向市场推广。景宏系列支持INT8、FP16、FP32、FP64等混合精度运算,支持全新的多卡互联技术进行算力扩展,适配国内外主流CPU、操作系统及服务器厂商,能够支持当前主流的计算生态、深度学习框架和算法模型库,大幅缩短用户适配验证周期。

封面图片

ChatGPT造孽 中国高校因它算力荒

ChatGPT造孽中国高校因它算力荒现在,校企合作也更偏爱大模型。去年11月ChatGPT发布后,与非大模型团队合作的企业骤减,近期找上门的,也是张口就问:“你们做大模型不?”做,有高校和企业的通力支持;不做?那就只能眼睁睁看着算力花落别家。哪怕某量化私募基金的有10000张A100卡,还对高校研究团队开放申请,也不见得能落一张到你头上。“要是我们组能分到一些就好了。”看到这条微博,非大模型团队带队的数据科学方向博士小哥羡慕不已,因为缺算力,他都愁得快仰天长啸了:我们也值得投资啊!!!现在,大伙争先恐后扑向ChatGPT背后GPT-3.5般的各种大模型,算力流向亦然。其他AI领域本就不足的算力更荒了,尤其是国内学界手里的算力分配下来,贫富差距肉眼可见。一整个实验室就4块3090卡巨大规模算力以月为单位的租用成本,对研究团队来说不是小数目。大模型正当其道,学界研究大模型的实验室或团队拥有算力资源的优先分配权。就拿小哥在学校的亲身体验来说,在他们研究室,大模型小组10个人有10块A800卡可用,而另一个研究传统机器学习方向的实验室,整个实验室只有4块3090卡。拥抱主流趋势是一重原因,另一重原因是实验室需要运转和维护的经费,获得拨款的一种形式是申请国家项目,但必要步骤是提供论文成果。双重原因下,本就不多的算力资源,不得不优先分配给大模型这样热门且相对容易出成果的研究。哪怕对学界来说,训一个大模型其实练不太动——因为数据、算力和资金都有些捉襟见肘。为了获得更多的资源,有的非大模型实验室甚至额外专门成立研究大模型的团队。当然,想要获得资金和资源,校企合作也是不可或缺的一种方式。这种推动产研融合的重要支撑形式持续已久,2020年,KDD中校企合作论文占比超过50%,这个比例在ICCV中达到45%。举例来说,2021年,清华大学KEG、PACMAN(并行与分布式计算机系统)、NLP等实验室着手推进训练千亿参数的稠密模型,但团队用于训练模型的计算资源并不充足。最终,校外企业智谱AI租用了近百台A100的服务器,免费提供所需算力,这才有了双语预训练语言大模型GLM-130B的诞生。GLM-130B的任务表现但在众人争先恐后扑向GPT-3.5般大模型的当下,非大模型团队开始不太好谈这类合作了。去年11月ChatGPT发布后,与小哥所在团队洽谈校企合作事宜的公司数量急剧减少。在其他高校,AI领域的非大模型团队也总是面临企业询问,“要不要/会不会做大模型”。本就稀缺的算力,在学界有成为追逐热点的砝码的倾向,算力资源分配的马太效应由此逐渐扩大,带给学术研究很大困扰。ChatGPT加剧算力分配贫富分化算力是AI飞速发展必不可少的指标,2018年,OpenAI发布的报告中点出一个算力趋势:自2012年以来,AI训练任务所运用的算力每3.43个月就会翻倍。到2018年,AI算力需求增长了30万倍。产学研对算力需求暴增,我们能提供的算力有多少?据中国算力集团统计,截至2022年6月底,我国数据中心机架使用总规模超过590万标准机架,服务器规模约2000万台,算力总规模排名全球第2。这个排名还算不错,但摊开来看仍旧远远不够,毕竟放眼全球,没有哪个国家不是嗷嗷待哺,等着更多的算力资源“投喂”。再退一步讲,买得起显卡,拥有的算力上去了,电费也是天文数字。况且我国还有特殊情况——开放原子开源基金会业务发展部部长朱其罡在本月举办的CCFYOCSEF上发言阐述现状称,超算领域的核心技术,一个是IBMLSF超算系统,一个是开源系统。目前,国内多数超算中心都基于开源系统做封装,但这个版本调度资源的效率和能力都有很大的提升空间。以及,因为众所周知的原因,A100、H100这俩目前性能最强的GPU,还没找到可规模替代的方案。英伟达A100显卡综上,算力不够已是积弊,但ChatGPT时代,算力需求剧烈扩张,除了大量训练算力,大量推理算力也需要支撑。所以现在的情况是,因为ChatGPT显示出大模型的推理能力,训练和研究大模型的算力需求增加;同时因为大模型热度爆棚,蜂拥至大模型的算力资源也增加。分配给大模型领域的算力资源丰富起来,其他AI领域缺衣少食的情况逐渐加剧,研发能力受到掣肘。可以说,ChatGPT成为如今的AI届白月光后,加剧了算力分配的贫富分化。这般“富”甲一方的大模型,是不是AI研究路径上最好的?还没人能够回答。但值得引起注意和重视的是,GPT系列为首的大模型不应该吸引全部目光,整个AI领域还有各种各样的研究方向,还有更加细分的垂直领域,以及带来更多生产力的模型和产品。当ChatGPT的热度趋于平缓,学界的算力资源分配差距会缩小吗?所有非大模型方向的实验室和团队,恐怕都在期待之中。...PC版:https://www.cnbeta.com.tw/articles/soft/1349115.htm手机版:https://m.cnbeta.com.tw/view/1349115.htm

封面图片

日本多所大学限制使用对话型AI写报告

日本多所大学限制使用对话型AI写报告围绕使用“ChatGPT”等人工智能(AI)的对话型软件,日本东京大学和上智大学等部分大学开始提醒注意学生用于写报告或论文的情况。不仅是就著作权和错误信息发出警告,有的甚至明确规定“不允许使用”。另一方面,也有大学为了作为信息获取工具而熟练掌握,考虑在授课中利用。东京大学在校内网上发布了对ChatGPT和可生成图像的其他AI等相关见解。其中强调称“有关报告,前提是由学生本人制作”,表示教师方面有必要结合询问情况和笔试来确认报告是否为本人所作。日本东北大学称“完全排除使用AI是不现实的”,指出AI数据中若包含第三方的著作品,可能会构成侵犯著作权。上智大学公布文件称报告或论文“不允许使用”,明确规定了禁用,并表示一经发现使用将严格处理。京都大学校长凑长博在入学仪式上提醒学生:“用AI制作文章有包含明显错误信息的风险。”他还呼吁学生“自己写出可靠妥当的文章会锻炼精神力和思考力”。来自:雷锋频道:@kejiqu群组:@kejiquchat投稿:@kejiqubot

封面图片

香港大学宣布禁用ChatGPT

香港大学宣布禁用ChatGPT中新社香港2月18日消息,由美国人工智能公司OpenAI开发的语言模型ChatGPT推出后,引发关注及热议。香港大学日前向师生发出内部邮件,表明禁止在港大所有课堂、作业和评估中使用ChatGPT或其他AI工具,成为香港首间大学明文禁止在课堂等教学行为使用ChatGPT或其他人工智能工具。香港大学副校长何立仁在内部邮件中指出,禁止在港大所有课堂、作业和评估中使用ChatGPT或其他AI工具,除非学生事先获得有关课程讲师的书面同意豁免,否则将被校方视为剽窃个案,并指若没有书面许可,ChatGPT和其他基于AI的工具一律不能用于任何涉及学分的活动,如教师怀疑学生使用ChatGPT或其他AI工具,可要求学生就其作业进行讨论、进行额外口试及考试等措施。(中国新闻网)投稿:@ZaiHuabot频道:@TestFlightCN

🔍 发送关键词来寻找群组、频道或视频。

启动SOSO机器人