Stability AI 推出 Stable LM 3B 语言模型，号称“可为移动平台设备带来高性能体验”

StabilityAI推出StableLM3B语言模型，号称“可为移动平台设备带来高性能体验”StabilityAI发布公告，介绍了旗下一款名为StableLM3B的语言模型，号称适用于移动平台设备，“可为相关设备带来可持续、高性能的体验”。官方表示，该模型使用了30亿个参数，使用了256个NVIDIAA10040GBGPU训练而成，虽然参数相比同类大模型较少，但性能依然可圈可点，且由于该模型的体积较小、功耗更低，因此更适合移动平台使用。此外，该模型拥有多平台兼容性，并允许根据特定需求进行微调，目前模型已经在。来源，频道：@kejiqu群组：@kejiquchat

Stable Diffusion 的母公司 Stability AI 宣布开源一款全新的大语言模型

StableDiffusion的母公司StabilityAI宣布开源一款全新的大语言模型StableLM模型的Alpha版本有30亿和70亿参数，并将于后续开放150亿和650亿的参数模型。StabilityAI的创始人EmadMostaque自2020年从OpenAI团队离开后，一直秉承着开源开放的理念，持续推出了多款AI开源模型。其中影响力最广的，便有大家所熟知的文本生成图像模型StableDiffusion。本次开源的StableLM，基础功能跟GPT一样，支持生成文本和代码，在未来可以给不少应用提供基础技术支持。在项目中，StableLM提供了几个基础演示，包括聊天、撰写书信、小说创作、代码编写等功能。来源(，)来自：雷锋频道：@kejiqu群组：@kejiquchat投稿：@kejiqubot

Meta 新语言模型能运行在单张显卡上

Meta新语言模型能运行在单张显卡上Meta上周宣布了一个新的大语言模型LLaMA-13B，称其参数规模更小但性能强于OpenAI的GPT-3模型，且它能运行在单张显卡上。语言模型的规模在从70亿到650亿参数，而OpenAIGPT-3模型有1750亿个参数。Meta使用CommonCrawl、维基百科和C4等公开数据集训练其模型，它有可能公开其源代码和权重。今天绝大部分最先进的语言模型都没有公开源代码。Meta称LLaMA为其基础模型，它将是未来该公司更先进模型的基础。它的LLaMA-13B模型在BoolQ、PIQA、SIQA、HellaSwag、WinoGrande、ARC和OpenBookQA等标准测试中的表现超过了GPT-3。GPT-3等衍生模型需要数据中心规模的计算能力进行处理，而LLaMA-13B能运行在单张显卡上，为在消费者硬件上实现类似ChatGPT的性能打开了大门。来源，来自：雷锋频道：@kejiqu群组：@kejiquchat投稿：@kejiqubot

Stability AI发布最新图像生成模型Stable Diffusion XL 1.0

StabilityAI发布最新图像生成模型StableDiffusionXL1.0今天，StabilityAI宣布推出StableDiffusionXL1.0，这是该公司迄今为止描述为“最先进”的文本到图像模型。StableDiffusionXL1.0可在上以开源形式使用，并提供给Stability的和消费者应用程序和。Stability声称，与其前代产品相比，StableDiffusionXL1.0提供了“更生动”和“更准确”的颜色，更好的对比度、阴影和照明效果。在接受采访时，StabilityAI的应用机器学习负责人JoePenna指出，StableDiffusionXL1.0包含35亿个参数，可以“在几秒钟内”生成多种长宽比的100万像素分辨率的完整图像。“参数”是模型从训练数据中学习到的部分，基本上定义了模型在解决问题上的技能水平。上一代稳定扩散模型稳定扩散XL0.9也可以生成更高分辨率的图像，但需要更多的计算能力。——、

Stability AI 宣布 Stable Diffusion 3

StabilityAI宣布StableDiffusion3AI创业公司StabilityAI宣布其最新一代的文本图像模型StableDiffusion3开放预览。感兴趣的用户可以申请加入等候名单。StabilityAI称开放预览是为了在正式发布前收集与性能和安全性相关的用户反馈。StableDiffusion3模型的参数规模从8亿到80亿不等，其架构组合了diffusiontransformer和flowmatching，技术报告将在晚些时候公布。来源，频道：@kejiqu群组：@kejiquchat

Stability AI 发布了他们最强的图片生成模型 Stable Diffusion 3 的技术报告，披露了 SD3 的更多

StabilityAI发布了他们最强的图片生成模型StableDiffusion3的技术报告，披露了SD3的更多细节。据他们所说，SD3在排版质量、美学质量和提示词理解上超过了目前所有的开源模型和商业模型，是目前最强的图片生成模型。技术报告要点如下：◆根据人类偏好评估,SD3在排版质量和对提示的理解程度上,均优于目前最先进的文本生成图像系统,例如DALL·E3、Midjourneyv6和Ideogramv1。◆提出了新的多模态扩散Transformer(MultimodalDiffusionTransformer,简称MMDiT)架构,其使用独立的权重集分别表示图像和语言。与SD3的先前版本相比,该架构改善了系统对文本的理解能力和拼写能力。◆SD38B大小的模型可以在GTX409024G显存上运行。◆SD3将发布多个参数规模不等的模型方便在消费级硬件上运行，参数规模从800M到8B。◆SD3架构以DiffusionTransformer(简称"DiT",参见Peebles&Xie,2023)为基础。鉴于文本嵌入和图像嵌入在概念上存在较大差异,我们为这两种模态使用了独立的权重集。◆通过这种方法,信息得以在图像Token和文本Token之间流动,从而提高了模型生成结果的整体理解力和排版质量。我们在论文中还讨论了如何轻松地将这一架构扩展至视频等多模态场景。◆SD3采用了矫正流(RectifiedFlow,简称RF)的公式(Liuetal.,2022;Albergo&Vanden-Eijnden,2022;Lipmanetal.,2023),在训练过程中,数据和噪声被连接在一条线性轨迹上。这导致了更直的推理路径,从而可以使用更少的步骤进行采样。◆扩展矫正流Transformer模型：使用重新加权的RF公式和MMDiT主干网络,对文本到图像的合成任务开展了模型扩展研究。我们训练了一系列模型,其规模从15个。Transformer块(4.5亿参数)到38个块(80亿参数)不等。