Google 发布开源大语言模型 Gemma

Google发布开源大语言模型Gemma谷歌今天宣布推出Gemma，这是一个新的轻量级开源大语言模型系列。现在Gemma2B和Gemma7B两个模型已经可用，每个尺寸都发布了经过预训练和指令调整的变体。谷歌同时提供了多项工具以便快速部署该模型，包括开箱即用的Colab实例，可快速部署的容器镜像，以及和其它流行开发工具的集成。Gemma模型也能够直接在开发人员笔记本电脑或台式计算机上运行。根据谷歌的技术报告，该模型在多个测试中超越的Llama2等开源模型。这些新模型“受到Gemini的启发”，使用与其相似的架构，并被许可用于商业和研究用途。此外，谷歌还发布了一个新的负责任的生成式AI工具包，以提供“使用Gemma创建更安全的人工智能应用程序的指导和基本工具”以及调试工具。——,,

重磅：Google 刚刚发布了一个超强的开源模型 Gemma

重磅：Google刚刚发布了一个超强的开源模型Gemma这是AI开源模型生态的一大步。GoogleDeepMindCEODemis表示：「我们长期以来一直支持负责任的开放源代码和科学，这可以推动快速的研究进展，因此我们很自豪地发布了Gemma：一套轻量级的开放模型，其大小在同类产品中名列前茅，其灵感来源于双子座所使用的相同技术。」Gemma开放模型的特点-Gemma是一个轻量级、最先进的开放式模型系列，采用了与Gemini相同的研究和技术。-Gemma由GoogleDeepMind和Google的其他团队共同开发，其灵感来源于双子座，名字反映了拉丁语gemma，意为「宝石」。-两种尺寸：Gemma2B和Gemma7B。每种规模都发布了预训练和指令调整变体。（Hans注，在图2中，你能看到7B在多项核心指标，大幅领先Llama-2。）-经过预训练和指令调整的Gemma模型可在你的笔记本电脑、工作站或GoogleCloud上运行，并可在VertexAI和谷歌KubernetesEngine上轻松部署。使用、研究和AI伦理方面的补充：-允许所有组织（无论规模大小）以负责任的方式进行商业使用和分发。-Gemma专为推动人工智能创新的开发人员和研究人员组成的开放社区而打造。-现在就可以开始使用Gemma，免费访问Kaggle，免费使用Colab笔记本，首次使用GoogleCloud的用户还可获得300美元的积分。-研究人员还可以申请高达500,000美元的GoogleCloud信用额度来加速他们的项目。详情部署和使用，现在就可以访问：http://ai.google.dev/gemma

Google 推出 Gemma 开源模型

这是一款轻量级、先进的开源模型，供开发者和研究人员用于AI构建。Gemma模型家族包括Gemma2B和Gemma7B两种尺寸，能够在不同的设备类型上运行，包括笔记本电脑、桌面电脑、IoT设备、移动设备和云端。性能和设计Gemma模型在技术和基础设施组件上与Gemini共享，这使得Gemma2B和7B在其大小范围内相比其他开放模型具有最佳性能。Gemma模型不仅可以直接在开发者的笔记本电脑或桌面电脑上运行，而且在关键基准测试中的表现超过了更大的模型，同时遵循严格的安全和负责任输出标准。主要特点：1、轻量级、高性能模型：Gemma模型家族包括Gemma2B和Gemma7B.两种尺寸，提供预训练和指令调优的变体，针对其大小范围内相比其他开放模型具有最佳性能。2、跨框架工具链支持：支持JAX、PyTorch和TensorFlow通过原生Keras3.0.进行推理和监督式微调（SFT），适应多种开发需求和环境。3、易于入门和集成：提供准备就绪的Colab和Kaggle笔记本，以及与HuggingFace、MaxText、NVIDIANeMo.和TensorRT-LLM等流行工具的集成，方便开发者快速上手。4.高效的运算能力：针对多个AI硬件平台上进行优化，确保在NVIDIAGPU和GoogleCloudTPU上的行业领先性能。通过与NVIDIA的合作，无论是在数据中心、云端还是本地RTXAIPC上，都确保了行业领先的性能和与尖端技术的集成。Gemma模型能够在不同的设备类型上运行，这种广泛的兼容性使得模型能够适应各种应用场景和需求。HuggingFace测试链接：https://huggingface.co/models?other=gemmavia匿名标签:#Google#Gemma频道:@GodlyNews1投稿:@GodlyNewsBot

Google发布Gemini 1.5 Flash人工智能模型 比Gemini Pro更轻便与易于使用

Google发布Gemini1.5Flash人工智能模型比GeminiPro更轻便与易于使用GoogleDeepMind首席执行官德米斯-哈萨比斯（DemisHassabis）在一篇博客文章中写道："[Gemini]1.5Flash擅长摘要、聊天应用、图像和视频字幕、从长文档和表格中提取数据等。"Google之所以创建Gemini1.5Flash，是因为开发人员需要一个比Google今年2月发布的专业版更轻便、更便宜的型号。Gemini1.5Pro比该公司去年底发布的Gemini原型更高效、更强大。Gemini1.5Flash介于Gemini1.5Pro和Gemini1.5Nano之间，是Google在本地设备上运行的最小型号。尽管重量比GeminiPro轻，但功能却同样强大。Google表示，这是通过一个名为"蒸馏"的过程实现的，即把Gemini1.5Pro中最基本的知识和技能转移到更小的型号上。这意味着，Gemini1.5Flash将获得与Pro相同的多模态功能，以及长语境窗口（人工智能模型可一次性摄取的数据量），即一百万个词元。根据Google的说法，这意味着Gemini1.5Flash将能够一次性分析1500页的文档或超过30000行的代码库。Gemini1.5Flash（或这些型号中的任何一款）并非真正面向消费者。相反，它是开发人员利用Google设计的技术构建自己的人工智能产品和服务的一种更快、更便宜的方式。除了推出Gemini1.5Flash之外，Google还对Gemini1.5Pro进行了升级。该公司表示，已经"增强"了该模型编写代码、推理和解析音频与图像的能力。但最大的更新还在后面--Google宣布将在今年晚些时候把该模型现有的上下文窗口增加一倍，达到200万个词元。这将使它能够同时处理两小时的视频、22小时的音频、6万多行代码或140多万字。Gemini1.5Flash和Pro现在都可以在Google的人工智能工作室和顶点人工智能中进行公开预览。该公司今天还发布了新版Gemma开放模型，名为Gemma2。不过，除非你是开发人员或喜欢捣鼓构建人工智能应用程序和服务的人，否则这些更新其实并不适合普通消费者。...PC版：https://www.cnbeta.com.tw/articles/soft/1430899.htm手机版：https://m.cnbeta.com.tw/view/1430899.htm

谷歌为开源开发者发布人工智能模型GEMMA

谷歌为开源开发者发布人工智能模型GEMMA2024年2月21日，谷歌发布了GEMMA，一个面向开源开发者的AI模型。该系列采用轻量化设计并对外公开，旨在为广大开发者和研究人员提供更加便捷的AI构建工具。其中包括Gema2B和7B模型，可在普通笔记本电脑或计算机上运行。https://blog.google/technology/developers/gemma-open-models/线索：@ZaiHuabot投稿：@TNSubmbot频道：@TestFlightCN

Google加入开源战局 低配版Gemma相当于OpenAI把GPT-3开源了

Google加入开源战局低配版Gemma相当于OpenAI把GPT-3开源了怎么理解这个动作的重要性呢？你可以粗暴的理解为：这有点像现在正在训练更强大的GPT-5的OpenAI，把GPT3的低参数版给开源了。（前几天SamAltman被问过这个问题，你们是否会在未来把GPT3开源，他没有直接回答。现在看来Google针对性很强啊。）（X上一张有意思的图）根据Google官方对Gemma的介绍，它的基本信息如下：Gemma是Google开源的一个大型语言模型，而非像Gemini那样是多模态的，它基于与Gemini相同的技术构建，但完全公开并允许商用授权。Gemma模型有两个主要版本，分别是Gemma7B（70亿参数）和Gemma2B（20亿参数）。这些模型在大规模的数据集上进行了训练，数据集包含了以英语为主的网络文档、数学数据以及代码数据，总量达到了6万亿tokens。Gemma模型的特点包括：架构细节：Gemma模型具有不同的参数规模，Gemma-2B有18层，d_model为2048，而Gemma-7B有28层，d_model为3072。这些模型还具有不同的前馈隐藏维度、头数和KV头数，以及词汇量。新技术：Gemma采用了一些新技术，如Multi-QueryAttention、RoPEEmbeddings、GeGLU激活函数以及NormalizerLocation，这些技术有助于提高模型的性能。评测结果：Google官方宣称Gemma模型在70亿参数规模的语言模型中表现最佳，甚至超过了一些参数量更大的模型。开源情况：Gemma模型遵循一个自定义的开源协议，允许商业使用。发布完，JeffDean就对这个系列模型划了重点：Gemma-7B模型在涵盖通用语言理解、推理、数学和编程的8项基准测试中，性能超过了广泛使用的Llama-27B和13B模型。它在数学/科学和编程相关任务上，通常也超过了Mistral7B模型的性能。Gemma-2BIT和Gemma-7BIT这两个经过指令调整的模型版本，在基于人类偏好的安全评估中，都优于Mistral-7Bv0.2指令模型。特别是Gemma-7BIT模型在遵循指令方面也表现更佳。（有意思的是，在Google晒出的成绩对比中，阿里的千问背后的模型Qwen系列表现也很亮眼）我们也发布了一个负责任的生成性人工智能工具包（ResponsibleGenerativeAIToolkit），它为负责任地使用像Gemma模型这样的开放模型提供了资源，包括：关于设定安全政策、安全调整、安全分类器和模型评估的指导。学习可解释性工具（LearningInterpretabilityTool，简称LIT），用于调查Gemma的行为并解决潜在问题。一种构建具有最小样本量的强大安全分类器的方法论。我们发布了两个版本的模型权重：Gemma2B和Gemma7B。每个版本都提供了预训练和指令调整的变体。我们为所有主要框架提供了推理和监督式微调（SFT）的工具链：通过原生Keras3.0支持的JAX、PyTorch和TensorFlow。提供了即用型的Colab和Kaggle笔记本，以及与流行的工具如HuggingFace、MaxText、NVIDIANeMo和TensorRT-LLM的集成，使得开始使用Gemma变得简单。预训练和指令调整的Gemma模型可以在您的笔记本电脑、工作站或GoogleCloud上运行，并且可以轻松部署在VertexAI和GoogleKubernetesEngine（GKE）上。在多个AI硬件平台上的优化确保了行业领先的性能，包括NVIDIAGPU和GoogleCloudTPUs。使用条款允许所有规模的组织负责任地进行商业使用和分发。可以看到JeffDean和Google这次都十分强调开源模型的安全性和具体的实打实的配套设施和举措。这似乎也直至被诟病CloseAI且被外界质疑安全性保障的OpenAI。现在，憋坏了的Google正式四面开战了。未来它将用Gemma对抗Llama，用Gemini对抗GPT。无论是开源还是闭源，竞争越来越焦灼了。相关文章:Google发布了一对开源人工智能模型Gemma2B和7B适用于较小的任务...PC版：https://www.cnbeta.com.tw/articles/soft/1419839.htm手机版：https://m.cnbeta.com.tw/view/1419839.htm