Google最新发布PaLM 2，一种新的语言模型，具有更好的多语言和推理能力，同时比其前身PaLM更节省计算资源。

Google最新发布PaLM2，一种新的语言模型，具有更好的多语言和推理能力，同时比其前身PaLM更节省计算资源。PaLM2综合了多项研究进展，包括计算最优的模型和数据规模、更多样化和多语言的数据集、以及更有效的模型架构和目标函数。PaLM2在多种任务和能力上达到了最先进的性能，包括语言水平考试、分类和问答、推理、编程、翻译和自然语言生成等。PaLM2还展示了强大的多语言能力，能够处理数百种语言，并在不同语言之间进行翻译和解释。PaLM2还考虑了负责任的使用问题，包括推理时控制毒性、减少记忆化、评估潜在的伤害和偏见等。

【谷歌计划于周三推出一款通用大型语言模型PaLM 2】

【谷歌计划于周三推出一款通用大型语言模型PaLM2】5月9日消息，据财联社报道，谷歌将于美东时间周三举行一年一度的年度开发者大会。文件显示，谷歌本次活动的主题是：人工智能如何“帮助人们充分发挥潜力”，并介绍谷歌在人工智能领域的一系列技术更新，包括提供对谷歌自家聊天机器人Bard和Search的“生成体验”。根据谷歌的内部文件，在本次大会上，谷歌将推出其最新、最先进的通用大型语言模型PaLM2。PaLM2包含100多种语言，一直在谷歌内部运行，代号为“统一语言模型。它能够执行广泛的编码和数学测试，以及创造性写作测试和分析。谷歌于2022年4月首次宣布了其PaLM语言模型。今年3月，该公司为PaLM推出了一个API，同时推出了一系列人工智能企业工具，据称这些工具将帮助企业“从简单的自然语言提示中生成文本、图像、代码、视频、音频等”。

谷歌发布史上最大的视觉语言模型 PaLM-E

谷歌发布史上最大的视觉语言模型PaLM-E谷歌PaLM-E有着5620亿参数(ChatGPT为1750亿参数)，结合了PaLM-540B语言模型与ViT-22B视觉模型。将现实世界的连续传感器模态直接纳入语言模型，"为AI移植眼睛"从而建立单词和感知之间的联系。PaLM-E直接从机器人摄像头获取原始图像数据，并根据自然语言指令进行动作规划和执行，这样就避免了人工预处理或标注数据的需要，可以端到端自主学习这些任务。研究团队同时发现：1.语言模型越大，在视觉语言和机器人任务训练时就越能保持其语言能力，PaLM-E的5620亿的参数量刚好让它保留住了几乎所有语言能力。2."通才AI"的正迁移能力，同时在多个任务领域训练的PaLM-E，单任务能力相比"专精AI"显着提高。3.除了人机交互方面有着重大进展，团队还发现了PaLM-E有着诸如多模态思维链推理和多图像推理等新兴能力，在OK-VQA视觉问答基准测试上达成了新的SOTA(最佳水平AI)。投稿：@ZaiHuabot频道：@TestFlightCN

谷歌在 Google I/O 2023 上全面升级AI技术PaLM 2

谷歌在GoogleI/O2023上全面升级AI技术PaLM2模型发布，相较前代PaLM参数更少但能力远超。支持100多种自然语言和20多种编程语言，为超过25种新产品和功能提供支持。有着Gecko壁虎(可移动端本地运行)、Otter水獭、Bison野牛、Unicorn独角兽四种参数规格。——Bard现由PaLM2驱动，已取消候补名单在180多个地区上线。升级后的Bard支持20多种编程语言，自然语言新增支持日语与韩语，很快将扩大支持40种语言包括中文。Bard现在结合了GoogleLens的识图能力与AdobeFirefly的图片生成能力，未来将有更多第三方工具接入。还更新了图文并茂回复、来源引用、代码/文本导出、深色模式等功能。DuetAI进入谷歌办公套件，包括在Gmail起草邮件、Docs文档编写、Sheets表格处理、Slides幻灯片生成、Meet会议摘要等等。GoogleBrain和DeepMind今年开始合作研发的下一代模型Gemini双子座正在训练中，目前已经展现出了以往模型中从未出现过的多模态能力。据TheInformation消息Gemini将具有像GPT-4一样的万亿参数。——

4）孩子还在成长中：目前提供的 PaLM 2 的多语言能力有限，且提供的 PaLM 2 的推理能力不尽如人意

4）孩子还在成长中：目前提供的PaLM2的多语言能力有限，且提供的PaLM2的推理能力不尽如人意（团队还分别计算了所有模型在仅考虑英语对话和仅考虑非英语对话时的Elo分数，如图3所示。结果在非英语排行榜上，PaLM2排名第16）——————————团队补充的观察1）SmallModers更具有竞争力：团队观察到一些较小的模型，包括vicuna-7B和mpt-7b-chat，在排行榜上取得了高分。与参数翻倍的较大模型相比，这些较小的模型表现优异。他们推测高质量的预训练和微调数据集比模型大小更为关键。而对于更复杂的推理任务或智力问答上，较大的模型仍可能表现更好。因此，在预训练和微调阶段策划时，高质量数据集似乎是在保持模型质量高的同时减小模型大小的关键方法。

Google IO 将公布 PaLM 2 大模型

GoogleIO将公布PaLM2大模型Google将在年度开发者大会GoogleI/O上宣布它的新版通用大语言模型PaLM2。PaLM是Google在2022年4月宣布的大模型，有5400亿参数，GoogleAI和DeepMind后在此基础上开发了一个用医学数据集微调的版本Med-PaLM，它是首个在美国医师资格考试中获得及格分的AI模型。在5月10日周三举行的开发者大会上Google宣布的PaLM2将是该公司最先进的大模型，其内部代号为“UnifiedLanguageModel（统一语言模型）”，包含逾百种语言，能执行范围广泛编程和数学测试，以及创意写作测试和分析。——