【复旦大学 MOSS 负责人:大模型同质化严重,面临十大科学挑战】

【复旦大学 MOSS 负责人:大模型同质化严重,面临十大科学挑战】 在 8 月 24 日下午上海市科协举办的青年科学家论坛上,复旦大学 MOSS 系统负责人邱锡鹏表示,大语言模型是当前自然语言处理的主流范式,它可以涌现出丰富的知识和能力,但也带来了一些挑战和问题。在他看来,大语言模型的研究需要多方面的合作和创新,需要开放和共享的技术平台和评测标准。邱锡鹏表示,“大模型确实给我们的研究带来非常多的问题,一方面是同质化非常严重,另外就是赛道拥挤,大家原来把各切一块的研究范式都往一个赛道挤。还有就是评价困难。”谈到大语言模型面临的挑战和问题,邱锡鹏总结了包括模型架构、幻觉、多模态的延展、知识来源、自动化评价、平民化等十个科学挑战。 快讯/广告 联系 @xingkong888885

相关推荐

封面图片

复旦团队发布国内首个类 ChatGPT 模型 MOSS,邀公众参与内测

复旦团队发布国内首个类 ChatGPT 模型 MOSS,邀公众参与内测 昨日,记者从复旦大学自然语言处理实验室获悉,国内第一个对话式大型语言模型「MOSS」已由邱锡鹏教授团队发布至,邀公众参与内测。 MOSS 可执行对话生成、编程、事实问答等一系列任务,打通了让生成式语言模型理解人类意图并具有对话能力的全部技术路径。这条路径的走通,为国内学术界和产业界提供了重要经验,将助力大语言模型的进一步探索和应用。 邱锡鹏表示:「尽管 MOSS 还有很大改善空间,但它的问世证明了在开发类 ChatGPT 产品的路上,国内科研团队有能力克服技术上的重要挑战。」MOSS 研发项目得到了上海人工智能实验室的有力支持。后期,这项工作将通过开源方式和业界社区分享。

封面图片

复旦大学开源国内首个类ChatGPT模型MOSS,支持插件增强

复旦大学开源国内首个类ChatGPT模型MOSS,支持插件增强 4月21日消息,国内首个类ChatGPT模型MOSS已正式开源。该模型由复旦大学自然语言处理实验室开发,名字致敬于《流浪地球2》中的量子机器人MOSS。此前,在测试时曾发布在公开平台,但由于瞬间压力过大,导致服务器过载,学术团队也表示了道歉和承诺进一步优化。 目前,MOSS 模型已上线开源,相关代码、数据、模型参数已在 Github 和 Hugging Face 等平台开放,供科研人员下载。 来自:雷锋 频道:@kejiqu 群组:@kejiquchat 投稿:@kejiqubot

封面图片

复旦大学发布了一个引发轰动的大语言模型:这是一个支持中英双语和多种插件的开源对话语言模型,moss-moon系列模型具有160亿

复旦大学发布了一个引发轰动的大语言模型:这是一个支持中英双语和多种插件的开源对话语言模型,moss-moon系列模型具有160亿参数,在FP16精度下可在单张A100/A800或两张3090显卡运行,在INT4/8精度下可在单张3090显卡运行。MOSS基座语言模型在约七千亿中英文以及代码单词上预训练得到,后续经过对话指令微调、插件增强学习和人类偏好训练具备多轮对话能力及使用多种插件的能力。

封面图片

国内首个类ChatGPT模型MOSS将于三月底开源

国内首个类ChatGPT模型MOSS将于三月底开源 根据邱锡鹏近日在2023年世界人工智能开发者先锋大会上的说法,如果优化一切顺利,团队将在三月底开源MOSS。 据悉,MOSS可执行对话生成、编程、事实问答等一系列任务,打通了让生成式语言模型理解人类意图并具有对话能力的全部技术路径。 不过,现阶段MOSS在中文水平上仍有所欠缺。 根据开发团队说法,这一情况的出现,是由于互联网上中文内容中,如广告等干扰信息过多,清理难度过大导致的。 这也使得团队在演示时,选择使用英文输入指令,展示了MOSS多轮交互、表格生成、代码生成和解释能力。

封面图片

【复旦MOSS升级版开源上线,能搜索信息、生成图像,还能解数学应用题】“MOSS的道德感也很强,”复旦大学自然语言处理实验室博士

【复旦MOSS升级版开源上线,能搜索信息、生成图像,还能解数学应用题】“MOSS的道德感也很强,”复旦大学自然语言处理实验室博士生孙天祥说,对于有负能量的指令,它也可以给出令人满意的回复。 #抽屉IT

封面图片

【复旦团队发布国内首个类ChatGPT模型MOSS,邀公众参与内测】MOSS可执行对话生成、编程、事实问答等一系列任务,打通了让

【复旦团队发布国内首个类ChatGPT模型MOSS,邀公众参与内测】MOSS可执行对话生成、编程、事实问答等一系列任务,打通了让生成式语言模型理解人类意图并具有对话能力的全部技术路径。这条路径的走通,为国内学术界和产业界提供了重要经验,将助力大语言模型的进一步探索和应用。 #抽屉IT

🔍 发送关键词来寻找群组、频道或视频。

启动SOSO机器人