微软最新开源了一款仅3.8B参数的文生图基础模型——Lens,在多个权威基准上不仅比肩,甚至超越了6B~80B参数的FLUX.1、Qwen-Image、混元3.0等大模型。更惊人的是,它的训练成本仅为Z-Image的19.3%(约19.2万A100 GPU小时),推理速度在单张H100上生成1024²图像仅需3.15秒,蒸馏版Turbo更是0.84秒出图。Lens支持任意1:2~2:1宽高比、最高1440²分辨率,并具备多语言理解能力,全部代码已在GitHub开源。


本文聚焦文生图模型的训练效率优化,提出轻量化基础模型 Lens。研究摒弃 “扩大参数量” 的常规路线,从数据质量与模型架构两大维度提升训练效率。团队构建拥有超长语义标注的 Lens-800M 数据集,并创新混合分辨率训练方式;搭配语义 VAE 与高性能语言编码器,加速模型收敛。模型完成预训练后,依次引入强化学习、提示词推理模块与蒸馏加速技术,迭代出多个版本。实测显示,3.8B 参数的 Lens 综合表现对标 6B + 主流模型,训练算力大幅缩减,同时支持多语言、高分辨率与灵活长宽比,为低成本部署文生图模型提供了全新解决方案。






Lens 模型拥有 38 亿个参数,旨在提高训练效率。Lens 通过在提出的 Lens-800M 数据集上进行密集字幕和混合分辨率/宽高比预训练来提高数据信息密度,并通过精心选择的 VAE 和语言编码器设计来加速收敛,从而在显著降低训练成本的同时实现了高质量的生成结果。大量实验表明,Lens 的性能与规模更大的最先进模型相当,并且在某些情况下甚至超越了它们,同时还能实现快速推理,这表明高效的训练策略可以显著提高基础型 T2I 模型的可扩展性。