复旦大学开源国内首个类ChatGPT模型MOSS，支持插件增强

复旦大学开源国内首个类ChatGPT模型MOSS，支持插件增强 4月21日消息，国内首个类ChatGPT模型MOSS已正式开源。该模型由复旦大学自然语言处理实验室开发，名字致敬于《流浪地球2》中的量子机器人MOSS。此前，在测试时曾发布在公开平台，但由于瞬间压力过大，导致服务器过载，学术团队也表示了道歉和承诺进一步优化。 目前，MOSS 模型已上线开源，相关代码、数据、模型参数已在 Github 和 Hugging Face 等平台开放，供科研人员下载。 来自：雷锋 频道：@kejiqu 群组：@kejiquchat 投稿：@kejiqubot

复旦团队发布国内首个类 ChatGPT 模型 MOSS，邀公众参与内测

复旦团队发布国内首个类 ChatGPT 模型 MOSS，邀公众参与内测 昨日，记者从复旦大学自然语言处理实验室获悉，国内第一个对话式大型语言模型「MOSS」已由邱锡鹏教授团队发布至，邀公众参与内测。 MOSS 可执行对话生成、编程、事实问答等一系列任务，打通了让生成式语言模型理解人类意图并具有对话能力的全部技术路径。这条路径的走通，为国内学术界和产业界提供了重要经验，将助力大语言模型的进一步探索和应用。 邱锡鹏表示：「尽管 MOSS 还有很大改善空间，但它的问世证明了在开发类 ChatGPT 产品的路上，国内科研团队有能力克服技术上的重要挑战。」MOSS 研发项目得到了上海人工智能实验室的有力支持。后期，这项工作将通过开源方式和业界社区分享。

一个开源的、支持中英双语的对话语言模型，基于 General Language Model (GLM) 架构，具有 62 亿参数

一个开源的、支持中英双语的对话语言模型，基于 General Language Model (GLM) 架构，具有 62 亿参数。结合模型量化技术，用户可以在消费级的显卡上进行本地部署（INT4 量化级别下最低只需 6GB 显存）。 ChatGLM-6B 使用了和 ChatGPT 相似的技术，针对中文问答和对话进行了优化。经过约 1T 标识符的中英双语训练，辅以监督微调、反馈自助、人类反馈强化学习等技术的加持，62 亿参数的 ChatGLM-6B 已经能生成相当符合人类偏好的回答。 |

【复旦团队发布国内首个类ChatGPT模型MOSS，邀公众参与内测】MOSS可执行对话生成、编程、事实问答等一系列任务，打通了让

【复旦团队发布国内首个类ChatGPT模型MOSS，邀公众参与内测】MOSS可执行对话生成、编程、事实问答等一系列任务，打通了让生成式语言模型理解人类意图并具有对话能力的全部技术路径。这条路径的走通，为国内学术界和产业界提供了重要经验，将助力大语言模型的进一步探索和应用。 #抽屉IT

Meta 新语言模型能运行在单张显卡上

Meta 新语言模型能运行在单张显卡上 Meta 上周宣布了一个新的大语言模型 LLaMA-13B，称其参数规模更小但性能强于 OpenAI 的 GPT-3 模型，且它能运行在单张显卡上。 语言模型的规模在从 70 亿到 650 亿参数，而 OpenAI GPT-3 模型有 1750 亿个参数。Meta 使用 Common Crawl、维基百科和 C4 等公开数据集训练其模型，它有可能公开其源代码和权重。今天绝大部分最先进的语言模型都没有公开源代码。Meta 称 LLaMA 为其基础模型，它将是未来该公司更先进模型的基础。它的 LLaMA-13B 模型在 BoolQ、PIQA、SIQA、HellaSwag、WinoGrande、ARC 和 OpenBookQA 等标准测试中的表现超过了 GPT-3。GPT-3 等衍生模型需要数据中心规模的计算能力进行处理，而 LLaMA-13B 能运行在单张显卡上，为在消费者硬件上实现类似 ChatGPT 的性能打开了大门。来源 ， 来自：雷锋 频道：@kejiqu 群组：@kejiquchat 投稿：@kejiqubot

通义千问70亿参数模型上线魔搭社区，开源免费可商用

通义千问70亿参数模型上线魔搭社区，开源免费可商用 AI模型社区魔搭ModelScope上架两款开源模型和，阿里云确认其为通义千问70亿参数通用模型和对话模型，两款模型均开源、免费、可商用。在多个权威测评中，通义千问7B模型取得了远超国内外同等尺寸模型的效果，成为当下业界最强的中英文7B开源模型。 Qwen-7B是支持中、英等多种语言的基座模型，在超过2万亿token数据集上训练，上下文窗口长度达到8k。Qwen-7B-Chat是基于基座模型的中英文对话模型，已实现与人类认知对齐。开源代码支持对Qwen-7B和Qwen-7B-Chat的量化，支持用户在消费级显卡上部署和运行模型。 来自：雷锋 频道：@kejiqu 群组：@kejiquchat 投稿：@kejiqubot