通义千问开源千亿级参数模型

通义千问开源千亿级参数模型通义千问开源1100亿参数模型Qwen1.5-110B，成为全系列首个千亿级参数开源模型。通义千问1100亿参数模型延续了Qwen1.5系列的Transformer解码器架构，采用了分组查询注意力方法(GQA)，使得模型在推理时更加高效。110B模型支持32K上下文长度，具备优秀的多语言能力，支持中、英、法、德、西、俄、日、韩、越、阿拉伯等多种语言。来源：雪球7X24资讯

度小满开源 千亿参数金融大模型 “轩辕”

度小满开源千亿参数金融大模型“轩辕”近日，度小满正式开源国内首个千亿级中文金融大模型——“轩辕”。据介绍，轩辕大模型是在1760亿参数的Bloom大模型基础上训练而来，在金融名词理解、金融市场评论、金融数据分析和金融新闻理解等任务上，效果相较于通用大模型大幅提升，表现出明显的金融领域优势。据了解，“轩辕”在一套针对金融领域的评测中取得较好成绩。在金融名词理解、金融市场评论、金融数据分析和金融新闻理解等四个方面的150个问题中，“轩辕”的胜率达到63.3%，显著优于其他三种主流开源大模型，其在金融领域的优势十分突显。在通用能力评测中，轩辕有10.2%的任务表现超越ChatGPT3.5，61.22%的任务表现与之持平，涉及数学计算、场景写作、逻辑推理、文本摘要等13个主要维度。Huggingface:https://huggingface.co/xyz-nlp/XuanYuan2.0频道：@TestFlightCN