UNO – 字节跳动推出的创新AI图像生成框架
2025-04-28 09:28:52 小编:六六导航站
UNO是什么
UNO是字节跳动推出创新的AI图像生成框架,突破传统模型在多主体生成中的局限。通过“少到多”的泛化方法,能高质量地生成单主体和多主体图像,解决了多主体场景下的一致性难题。UNO基于扩散变换器生成高一致性的多主体数据,采用渐进式跨模态对齐技术,分阶段训练模型,逐步提升生成效果。引入了通用旋转位置嵌入(UnoPE),支持多种分辨率和长宽比的图像生成。

UNO的主要功能
单主体定制生成:UNO能根据一张参考图像生成保持同一主体特征但处于不同场景、姿势或风格的图像。多主体组合生成:UNO可以接收多个参考图像作为输入,生成包含所有参考主体的新图像。虚拟试穿与产品展示:UNO支持虚拟试穿功能,可以将特定的产品(如服装、饰品等)放置在不同的人物模型上,展示其效果。可以将产品放置在各种场景中,保持产品的原始特征。风格化生成:UNO能对参考主体进行风格转换,生成不同风格的图像。强大的泛化能力:UNO在多个任务中展现了强大的泛化能力,能适应多种应用场景,如单主体和多主体驱动的图像生成,能泛化到id、tryon、style等场景。UNO的技术原理
高一致性数据合成管道:UNO 利用扩散变换器(Diffusion Transformers)的内在上下文生成能力,生成高一致性的多主体配对数据。能自动创建大规模、高质量的训练数据,解决了数据获取的难题。渐进式跨模态对齐:UNO 采用渐进式跨模态对齐策略,将训练过程分为两个阶段:第一阶段:使用单主体上下文生成的数据对预训练的文本到图像(T2I)模型进行微调,使其具备处理单主体驱动生成任务的能力。第二阶段:引入多主体数据继续训练,增强模型处理复杂场景的能力。通过这种逐步对齐的方式,模型能更好地适应从单主体到多主体的生成任务。通用旋转位置嵌入(UnoPE):UNO 引入了通用旋转位置嵌入(UnoPE),有效解决了在扩展视觉主体控制时的属性混淆问题。UnoPE 通过为文本和图像标记分配特定的位置索引,调控多模态标记之间的交互,使模型专注于从文本特征中获取布局信息,在保持良好文本可控性的同时,提高主体相似性。模型架构:UNO 以开源模型 FLUX.1 dev 为基础,继承了其文生图基础能力和多模态注意力机制,采用了通用定制化模型框架。使模型能从文本到图像模型迭代训练而来,通过其独特的渐进式跨模态对齐和通用旋转位置嵌入等机制,实现了在单主体和多主体驱动生成中既能保持高一致性又能确保可控性。数据管理与模型进化:UNO 采用“模型-数据共同进化”的新范式,核心思想是用较弱的模型生成训练数据,训练更强的模型。让模型在训练过程中逐渐适应多样化场景,能有效应对实际应用中可能遇到的复杂情况。UNO的项目地址
项目官网:https://bytedance.github.io/UNO/Github仓库:https://github.com/bytedance/UNOHuggingFace模型:https://huggingface.co/bytedance-research/UNOarXiv技术论文:https://arxiv.org/pdf/2504.02160UNO的应用场景
虚拟试穿:UNO 可以将不同的服装、饰品等产品放置在虚拟人物模型上,生成不同场景下的试穿效果。产品设计:在产品设计中,UNO 可以将产品放置在各种背景和场景中,保持产品的原始特征,为设计师提供更灵活的设计思路。创意设计:UNO 能接收多个参考图像作为输入,生成包含所有参考主体的新图像。个性化内容生成:UNO 可以根据一张参考图像生成保持同一主体特征但处于不同场景、姿势或风格的图像。角色和场景设计:UNO 可以为游戏开发提供强大的图像生成支持,帮助开发者快速生成角色和场景,激发创意。- 猜你喜欢
-
MusicTGA-HR提示指令
-
RappingAI提示指令
-
Boomy提示指令
-
TwoShot提示指令
-
Weet提示指令
-
Muzaic Studio提示指令
-
-
HookGen提示指令
-
DadaBots提示指令
- 相关AI应用
-
Playlistable提示指令
-
Riffusion提示指令
-
WZRD提示指令
-
-
Cyanite.ai提示指令
-
Piano Genie提示指令
-
Synthesizer V提示指令
-
Cosonify提示指令
-
Musico提示指令
- 推荐AI教程资讯
- UNO – 字节跳动推出的创新AI图像生成框架
- LangManus – AI自动化框架,多智能体协同完成复杂任务
- MM-Eureka – 上海AI Lab联合上交大等推出的多模态推理模型
- Command A – Cohere 推出的生成式 AI 模型
- AudioX – 港科大联合月之暗面推出的扩散变换器模型,任意内容生成音频
- MedRAG – 南洋理工团队推出的医学诊断模型
- I2V3D – 香港城市大学联合微软推出的图像到视频生成框架
- OpenBioMed – 清华AIR联合水木分子推出的开源Agent平台
- amis – 百度开源的低代码前端框架
- Mistral Small 3.1 – Mistral AI 开源的多模态 AI 模型
- 精选推荐
-
元典智库2024-12-31法律助手
-
PromptStacks2025-02-01提示指令
-
AISEO2025-02-20法律助手
-
Rytr2025-01-31法律助手
-
Texttomusic2025-02-24提示指令
-
Entar.io2025-02-11提示指令