Mistral 正式发布 Mistral Large，在基准测试中仅次于GPT-4，超过其他所有模型。

Mistral 正式发布 Mistral Large，在基准测试中仅次于GPT-4，超过其他所有模型。 Mistral Large具有新的功能和优势： 它在英语、法语、西班牙语、德语和意大利语方面拥有母语般流利的能力，并对语法和文化背景有细致的理解。 其32K令牌的上下文窗口允许从大型文档中精确地寻找信息。 它精确的指令跟随能够让开发者设计他们的管理政策 - 我们用它来建立 le Chat 的系统级管理。 它本身就能够进行函数调用。这一点，再加上在la Plateforme上实现的受限输出模式，使得应用程序开发和技术栈现代化能够大规模进行。 支持在La Plateforme、Azure和私有部署。 了解更多：

微软入股、数值碾压Meta AI新贵Mistral发布旗舰大模型

微软入股、数值碾压Meta AI新贵Mistral发布旗舰大模型 Mistral AI正式成立于2023年5月。在去年这个时候，创办这家公司的三个法国年轻人还分别在谷歌DeepMind、Facebook上班。到去年12月，随着英伟达、赛富时以及一众华尔街资本挥舞支票，赶忙参与公司价值超4.5亿欧元（接近4.9亿美元）的融资，Mistral AI的市值已然超过20亿美元。（Mistral AI的三位创始人Guillaume Lample， Arthur Mensch， Timothée Lacroix都只有30多岁）发布最新大模型&首个聊天机器人Mistral AI周一宣布，正式推出最新旗舰模型Mistral Large。公司声称该模型具有“顶级的推理能力”，能用于处理复杂的多语言推理任务，包括文本理解、转换和代码生成。在AI理解能力测试基准MMLU的对比中，Mistral Large的得分仅次于GPT-4，略好于Anthropic开发的Claude 2。至于谷歌的Gemini Pro以及Meta的LLaMA 2 70B模型，则被甩开了一个身位。（来源：Mistral AI）据悉，这个模型拥有3.2万tokens的上下文窗口。按照一个token约等于0.75个英文单词的惯用算法，Mistral Large能够一次性从接近2.4万个英文单词的文档中精确提取信息。公司介绍称，该模型对英语、法语、西班牙语、德语和意大利语具有母语级流利程度，并对语法和文化背景有细致的理解。不过与一众大模型一样，实测下来中文也是能用的（后面有测试案例）。当然，最重要的是Mistral AI的开源属性除了使用云服务部署外，还能直接下载部署到本地。与封闭AI模型的龙头OpenAI不同，Mistral AI的大模型可以在“抱抱脸”等代码平台上下载，不过目前还没看到Large模型的文档。（来源：公司官网）公司也在周一发布首个聊天机器人LE CHAT，可以选用刚刚发布的Large模型，以及对延迟、成本进行优化的Mistral Small，还有一个名为Next的下一代原型模型。总而言之，提供了一个试用的窗口。从短暂的上手实测来看，这个模型哪怕使用中文，回答简单的推理题完全没有问题。（来源：LE CHAT）对于美国历史和法国历史，这个模型也能答得上来。不过在追加测试中，这个模型对中国文化历史的了解可以说是．．．．惨不忍睹，不过Mistral本身也没说这个模型懂中国历史。这也是国外开源AI模型存在的通病。（来源：LE CHAT、文心一言）微软收购公司部分股权同样在周一，Mistral AI与微软宣布达成了一项新的合作伙伴关系。从公告上来看，双方的合作主要包含三个方面：1、微软向Mistral AI提供开发和运营模型所需的算力；2、Mistral AI的大模型上架微软云服务，供全球用户部署；3、双方将探索合作，为特定客户制作特定模型。除了提供算力和云服务客户外，这份合作协议也使得微软持有Mistral AI“一小部分股权”。值得一提的是，Mistral这个法文单词的原意指的是“法国吹来的强风”，公司创立的愿景是搞AI其实不需要那么多钱，许多公司白白浪费了非常多的资金。创始人兼首席执行官Arthur Mensch直言，公司要做AI世界里资本效率最高的。Mensch透露，周一发布的Large模型，整个开发成本低于2000万欧元。作为对比，奥尔特曼去年提到过GPT-4的开发成本可能要超过1亿美元。对于微软而言，不管是代表封闭生态的OpenAI，还是开源社区的Mistral或Meta跑赢，公司都将是AI赛道的大赢家。这三家的AI模型都已经上架Azure的云服务，现在美股“股王”还持有前两家公司的股权。 ... PC版： 手机版：

Mistral推出新服务和SDK 允许客户对其模型进行微调

Mistral推出新服务和SDK 允许客户对其模型进行微调 Mistral在SDK的GitHub仓库的自述文件中指出，SDK针对多GPU设置进行了优化，但也可以扩展到单个NVIDIA A100或H100 GPU，用于微调Mistral 7B等较小的模型。Mistral表示，对UltraChat这样的数据集进行微调需要半个小时左右，UltraChat是使用OpenAI的ChatGPT进行的140万次对话的集合，使用Mistral-Finetune在8个H100上进行微调。对于更喜欢管理型解决方案的开发人员和公司来说，Mistral 新推出的微调服务可通过公司的 API 使用。Mistral 表示，微调服务将在未来几周内支持更多型号。最后，Mistral 将首次推出定制培训服务，目前只面向部分客户，利用他们的数据为组织的应用程序微调任何 Mistral 模型。"该公司在其官方博客的一篇文章中解释说："这种方法可以为特定领域创建高度专业化和优化的模型。我的同事英格丽德-伦登（Ingrid Lunden）最近报道说，Mistral 公司正寻求以 60 亿美元的估值向包括 DST、General Catalyst 和光速创投（Lightspeed Venture Partners）在内的投资者融资约 6 亿美元。自 2023 年 9 月 Mistral 推出首个生成模型以来，它又发布了多个模型，包括代码生成模型，并推出了付费 API。但它还没有透露有多少用户，收入情况如何。 ... PC版： 手机版：

| #指南LLMs，即大型语言模型（Large Language Models），是一种基于人工智能和机器学习技术构建的先进模型

| #指南 LLMs，即大型语言模型（Large Language Models），是一种基于人工智能和机器学习技术构建的先进模型，旨在理解和生成自然语言文本。这些模型通过分析和学习海量的文本数据，掌握语言的结构、语法、语义和上下文等复杂特性，从而能够执行各种语言相关的任务。LLM的能力包括但不限于文本生成、问答、文本摘要、翻译、情感分析等。 LLMs例如GPT、LLama、Mistral系列等，通过深度学习的技术架构，如Transformer，使得这些模型能够捕捉到文本之间深层次的关联和含义。模型首先在广泛的数据集上进行预训练，学习语言的一般特征和模式，然后可以针对特定的任务或领域进行微调，以提高其在特定应用中的表现。 预训练阶段让LLMs掌握了大量的语言知识和世界知识，而微调阶段则使模型能够在特定任务上达到更高的性能。这种训练方法赋予了LLMs在处理各种语言任务时的灵活性和适应性，能够为用户提供准确、多样化的信息和服务。

明星 AI 独角兽 Mistral AI 亮出大模型新王炸，如何评价该大模型？

明星 AI 独角兽 Mistral AI 亮出大模型新王炸，如何评价该大模型？ Trisimo崔思莫的回答 Mamba憋屈了很久，受尽委屈和凌辱，这次总算扬眉吐气了。和主流大厂Mistral牵上了手，效果看起来很不错。这是我2024年初的一个预言，Mamba会走向主流。 但我认为是Mistral更需要Mamba，Mamba 2五月最后一天推出，七月份Mistral就给到成品。Mistral： 急！ 这个模型目前还没有太大的实战价值，等下一代超大模型诞生。 要做闭源SOTA讲究的是个生态位，ChatGPT吃了大头，其他公司就要找差异化路线，这很难，现在前面又顶着拿着百亿补贴的Claude，Gemini，Grok，对于Mistral来说，生态位其实已经没有了。 Mamba 2现在还在早期阶段，它的价值主要就是价格低，尤其是做长文本，长文本序列越往后，越是费钱。对于开发，文本窗口不足，理解不了大项目逻辑的。 同时，Mamba的推理能力也没有明显降低。 想象一下，ChatGPT 百万Tokens卖你15美金，Mamba在同性能下，卖你1.5美元，文本窗口是你的好几倍，那么买API的开发者会不会动摇？ 我觉得谷歌可能会把Gemma开源模型也切换到Mamba或Cobra，拭目以待。 Mamba 2的作者之一 Tri Dao，是Together.AI的首席科学家。（就是你经常白嫖模型的地方） 他不仅参与了Mamba 2开发，还参与了FlashAttention-3的开发，用来加速CUDA。 Tri Dao的兴趣似乎就是降本，增速。 via 知乎热榜 (author: Trisimo崔思莫)

Mistral AI发布了新的开源模型。该模型以39B活跃参数实现141B参数规模，极大提升了模型规模与成本效率。

Mistral AI发布了新的开源模型。该模型以39B活跃参数实现141B参数规模，极大提升了模型规模与成本效率。 Mixtral 8x22B支持英语、法语、意大利语、德语和西班牙语，并具有强大的数学和编程能力。其支持函数调用，可大规模实现应用开发和技术栈现代化。 Mistral AI坚信开源的力量，Mixtral 8x22B以最宽松的Apache 2.0许可证发布。 Mistral AIModels追求卓越的成本效率。Mixtral 8x22B相较同规模模型，提供最佳的性能价格比。其稀疏激活可提升速度。 Mixtral 8x22B在推理、知识、多语言、编程、数学等多个基准测试上，表现优于其他开源模型。后续会发布指导版本，数学表现更佳。