华为发布 DiT 架构的图像生成模型，可以直出 4K 分辨率图像。#ai画图#

华为发布DiT架构的图像生成模型，可以直出4K分辨率图像。论文简介：我们引入了PixArt-\Sigma,一个能够直接生成4K分辨率图像的DiffusionTransformer(DiffusionTransformer,DiT)模型。相比其前身PixArt-\alpha,PixArt-\Sigma有了显著进步,提供了明显更高保真度的图像,并改进了与文本提示的一致性。PixArt-\Sigma的一个关键特点是其训练效率。借助PixArt-\alpha的基础预训练,它通过合并更高质量的数据,从"较弱"的基线演变为"较强"的模型,我们将这个过程称为"弱到强训练"。PixArt-\Sigma的进步主要体现在两个方面:高质量训练数据:PixArt-\Sigma结合了更高质量的图像数据,与更精确和详细的图像标题配对。高效的Token压缩:我们在DiT框架内提出了一个新的注意力模块,可以压缩键(Key)和值(Value),显著提高效率,并促进超高分辨率图像生成。得益于这些改进,PixArt-\Sigma以显著较小的模型规模(6亿参数)实现了优于现有文本到图像扩散模型(如SDXL(26亿参数)和SDCascade(51亿参数))的图像质量和用户提示遵从能力。此外,PixArt-\Sigma生成4K图像的能力支持创建高分辨率海报和壁纸,有效地增强了电影和游戏等行业中高质量视觉内容的制作。项目地址：

又一个Transformer架构的图像生成模型，FiT 专门为了生成不瘦分辨率和宽高比限制的图像制作的架构。#ai画图#

又一个Transformer架构的图像生成模型，FiT专门为了生成不瘦分辨率和宽高比限制的图像制作的架构。在模型的训练和推理都不需要专门适配对应的图片比例和分辨率。看演示的图像模型的美学表现也还行。-----项目简介-----推出了一种名为灵活视觉变换器（FlexibleVisionTransformer，简称FiT）的新型变换器架构。它专门设计用于创造没有分辨率和宽高比限制的图像。不同于传统的将图像看作固定分辨率网格的方法，FiT将图像视为一系列可变大小的图像块（Token）。这种独特的处理方式使得FiT能够在训练和应用过程中灵活适应不同的图像宽高比，提高了对不同分辨率的适应能力，并避免了由于裁剪图像而产生的偏差。FiT还通过精心设计的网络结构和一些不需要额外训练的技术，能够在图像分辨率的扩展方面展现出极大的灵活性。通过一系列全面的实验，FiT证明了其在处理各种不同分辨率的图像方面具有卓越的性能，无论是在其训练的分辨率范围内还是超出这一范围，都表现出色。项目地址：