当前位置:

首页 > 业界资讯 > 1%参数,超越ControlNet,全新AI绘画控制大师震撼登场

1%参数,超越ControlNet,全新AI绘画控制大师震撼登场

“新·AI绘画细节控制大师”ControlNet-XS来啦!敲重点的是参数只要原始ControlNet的1%。就能做到蛋糕口味随意切换:△左图为改前改变一个人的着装风格也可以很容易:图中展示的是同款商品,它的外形保持不变,充满了艺术氛围的感觉无论是春天的绚丽花海,夏天的碧海蓝天,秋天的金黄枫叶还是冬天的银装素裹,自然风光都能令人心驰神往。四季更迭,每个季节都有独特的魅力,让人流连忘返还有这只猫头鹰,它直接从活物变成了雕塑:在参数很小的情况下,能够达到这样的效果,网友们纷纷赞叹不已,并迫不及待地想要阅读论文

本文目录

    “新·AI绘画细节控制大师”ControlNet-XS来啦!

    敲重点的是参数只要原始ControlNet的1%。

    就能做到蛋糕口味随意切换:

    1%参数,超越ControlNet,全新AI绘画控制大师震撼登场

    △左图为改前

    改变一个人的着装风格也可以很容易:

    1%参数,超越ControlNet,全新AI绘画控制大师震撼登场

    图中展示的是同款商品,它的外形保持不变,充满了艺术氛围的感觉

    1%参数,超越ControlNet,全新AI绘画控制大师震撼登场

    无论是春天的绚丽花海,夏天的碧海蓝天,秋天的金黄枫叶还是冬天的银装素裹,自然风光都能令人心驰神往。四季更迭,每个季节都有独特的魅力,让人流连忘返

    1%参数,超越ControlNet,全新AI绘画控制大师震撼登场

    还有这只猫头鹰,它直接从活物变成了雕塑:

    1%参数,超越ControlNet,全新AI绘画控制大师震撼登场

    在参数很小的情况下,能够达到这样的效果,网友们纷纷赞叹不已,并迫不及待地想要阅读论文

    1%参数,超越ControlNet,全新AI绘画控制大师震撼登场

    ControlNet-XS由海德堡大学计算机视觉实验室研发,目前相关论文、预训练模型还未公布。

    但研究人员表示ControlNet-XSFID分数明显优于ControlNet。

    且控制Stable Diffusion-XL和Stable Diffusion 2.1的代码将在不久后开源。

    1%参数,超越ControlNet,全新AI绘画控制大师震撼登场

    新生代控制大师

    1%参数,超越ControlNet,全新AI绘画控制大师震撼登场

    让我们先来看一下对于StableDiffusion-XL的控制

    研究人员在评估了不同大小的控制模型后发现,控制模型甚至不必和2.6B参数的StableDiffusion-XL基础网络大小一样。

    400M、104M和48M参数的ControlNet-XS控制也很明显。

    深度图给出了更为直观的展示,根据图像内容的距离、深度,深度图呈现出准确的颜色深浅度:

    1%参数,超越ControlNet,全新AI绘画控制大师震撼登场

    要注意的是,这里研究人员设置的每行seed值不同,每列seed值相同。

    此外,还有Canny边缘检测图,物体的边界、轮廓都能清晰地展现出来:

    1%参数,超越ControlNet,全新AI绘画控制大师震撼登场

    对于StableDiffusion的控制,研究人员评估了三个版本的ControlNet-XS,分别为491M、55M和14M参数

    研究结果显示,仅有1.6%的参数(865M)就能够可靠地控制生成过程

    1%参数,超越ControlNet,全新AI绘画控制大师震撼登场

    那么,如何实现这一点呢?

    从头开始训练

    原始ControlNet是StableDiffusion基础模型(base model)中U-Net编码器的副本,所以接收与基础模型相同的输入,并带有额外的引导信号,比如说边缘图。

    然后,经过训练的ControlNet的中间输出被添加到基础模型的解码器层的输入中。在ControlNet的整个训练过程中,基础模型的权重保持冻结状态。

    ControlNet-XS的研究者们认为这种方法存在问题,ControlNet不必这么庞大。

    首先,Stable Diffusion最终输出的图像是通过一系列迭代生成的。在这个过程中,每个步骤都会在U-Net网络结构的编码器和解码器两部分中执行

    在每次迭代中,基础模型和控制模型的输入都是由前一步骤生成的图像。此外,控制模型还会接收一个控制图像作为输入

    在编码器阶段,这两个模型独立运行,而控制模型的反馈只在基础模型的解码阶段输入

    总之,结果就是一个延迟的校正/控制机制。

    也就是说ControlNet必须执行两项任务:一边校正/控制,一边还要提前预测基本模型的编码器将犯哪些“错误”。

    通过暗示图像生成和控制需要相似的模型容量,可以自然而然地使用基础模型的权重初始化ControlNet的权重,然后进行微调

    1%参数,超越ControlNet,全新AI绘画控制大师震撼登场

    而对于ControlNet-XS,研究人员表示从设计上就与基础模型不同,是从零开始训练ControlNet-XS权重,解决了延迟反馈的问题。

    如上图所示,方法是从基础模型的编码器添加连接到控制编码器(A),这样校正过程可以更快地适应基础模型的生成过程。但这并不能完全消除延迟,因为基础模型的编码器仍然没有受到引导。

    因此,研究人员从ControlNet-XS添加额外的连接到基础模型编码器,直接影响整个生成过程(B)。

    此外,他们还评估了在ControlNet设置中使用镜像解码架构是否有用(C)

    最终,研究人员在COCO2017验证集上,针对Canny边缘引导的三种不同变体(A、B、C)与原始的ControlNet进行了FID分数性能评估。

    所有变体的结果都有显著提升,同时只使用了原始ControlNet参数的一小部分

    1%参数,超越ControlNet,全新AI绘画控制大师震撼登场

    研究人员又拿出了变体B,分别使用Canny边缘图和深度图引导,针对StableDiffusion2.1和StableDiffusion-XL分别训练了三种不同大小的模型。

    1%参数,超越ControlNet,全新AI绘画控制大师震撼登场

    相关的论文、代码和预训练模型将会很快公布出来,敬请期待下一步的进展!

    1%参数,超越ControlNet,全新AI绘画控制大师震撼登场

    项目地址:https://vislearn.github.io/ControlNet-XS/ 可以在此链接中找到项目的详细信息

    本站声明:本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系bd@zhengruan.com
    作者最新文章
    业界资讯 模型
    相关文章 更多
    云调用AI太贵:开发者自建48台Mac mini集群,撑起Overcast播客转录
    云调用AI太贵:开发者自建48台Mac mini集群,撑起Overcast播客转录

    云调用AI太贵:开发者自建48台Mac mini集群,撑起Overcast播客转录 最近科技圈里有件挺有意思的事。播客应用Overcast的开发者马可·阿门特,成功搭建了一个由48台苹果Mac mini组成的服务器集群。关键点在于,他用这套硬件集群,绕过了云端AI服务,直接在本地运行语音识别模型来处

    索尼推出“Playerbase”计划:将真实玩家扫描植入PS第一方游戏
    索尼推出“Playerbase”计划:将真实玩家扫描植入PS第一方游戏

    索尼推出“玩家基地”计划:将真实玩家扫描植入PS第一方游戏 最近,游戏界有个大动作值得关注。索尼正式宣布启动名为“玩家基地”的新计划,准备推出一套完整的流程,将真实玩家的形象扫描并植入到PlayStation工作室的游戏之中。这套创新的流程,背后是摄影测量、动作捕捉与玩家数据技术的融合。 索尼互动娱

    华为盘古 Ultra MoE 模型发布
    华为盘古 Ultra MoE 模型发布

    5月30日,华为推出了全新的AI模型——盘古UltraMoE,该模型的参数量达到了7180亿。作为一款接近万亿参数的MoE(MixtureofExperts)模型,它在整个训练过程中完全基于华为的昇腾AI平台完成,标志着华为在超大规模模型训练方面取得了重要进展。盘古UltraMoE的成功训练离不开盘古团队研发的一系列创新技术。例如,Depth-ScaledSandwich-Norm(DSSN)稳定架构的引入,显著改善了超大规模模型训练期间出现的梯度异常及

    阿里开源14B电影级视频模型,实测可玩
    阿里开源14B电影级视频模型,实测可玩

    AI视频生成正迎来属于“通义”的高光时刻!就在昨晚,阿里巴巴悄然推出了一款由音频驱动的14B视频大模型——Wan2.2-S2V。只需上传一张静态图片和一段音频,就能生成出面部表情生动、口型精准匹配、肢体动作流畅自然的电影级数字人视频,效果惊艳。实际效果展示如下:△来自@AIMIRAI46487更令人振奋的是,这款新模型一经发布便全面开源,现在所有人都可以免费在通义万相官网体验使用。据官方介绍,Wan2.2-S2V的核心优势包括:支持最长分钟级的单次视频生成,画面稳定且具有一致性;具备影院级别的音

    特斯拉FSD新增滑板识别模型
    特斯拉FSD新增滑板识别模型

    近日,有汽车领域博主爆料,特斯拉的FSD(完全自动驾驶)辅助系统将迎来一次重要升级,或将实现更真实的环境场景还原。在最新曝光的软件代码中,发现了大量新增的渲染模型,涵盖多种车辆与行人类型。这些新增模型包括救护车、消防车、垃圾清运车、校车、半挂式卡车、高尔夫球车、骑电动滑板车的行人、使用轮椅的行人、玩滑板的行人、推婴儿车的行人,以及道路清扫车、三轮车、拖车、火车和有轨电车等。这一系列高精度建模意味着FSD系统将能更准确识别并响应复杂交通参与者的行为。据CNMO掌握的消息,日本方面已为特斯拉FSD系统的落地扫

    SOTA大模型加密数据评测:Qwen3仅破10%
    SOTA大模型加密数据评测:Qwen3仅破10%

    大语言模型面对加密数据,即便最新的Qwen3也会感到压力!尽管当下各类推理模型在多种基准测试中表现优异,但在密码学这样对逻辑严谨性和细节准确性要求极高的专业领域,模型的推理能力还有待深入挖掘。密码学不仅要求模型具备高级数学运算能力和严密的逻辑推理链,还需要其能够精准辨识复杂加密模式中的潜在规律;成功解密要求模型拥有极强的综合推理能力。上海AILab等联合推出的CipherBank测评,使用大量真实隐私场景数据和多种密码算法,严苛挑战当前最先进的大模型。CipherBank的测评结果显示,目前的大语言模型

    通义千问新技能!用“扮演”方式提升推理能力,不再依赖搜索API
    通义千问新技能!用“扮演”方式提升推理能力,不再依赖搜索API

    强化学习(RL)结合真实搜索引擎可以显著提升大模型的检索和推理能力。然而,这一方法面临两大挑战:搜索引擎返回的文档质量不稳定,导致训练过程中的噪音和不稳定性;RL训练需要频繁部署,产生大量API开销,限制了可扩展性。针对这些问题,阿里通义实验室推出了开源解决方案ZeroSearch,这是一个无需与真实搜索引擎交互的强化学习框架。实验表明,ZeroSearch只需使用3B参数的LLM作为检索模块,就能有效提升搜索能力,并大幅节省API成本。ZeroSearch让LLM实现自给自足

    第二代Ameca亮相!对答如流,表情逼真,多语种交流
    第二代Ameca亮相!对答如流,表情逼真,多语种交流

    编辑:桃子【新智元导读】第二代Ameca升级亮相,搭载GPT-4技术,实现实时对话。人形机器人Ameca迎来了它的第二代版本!近期,在2024年世界移动通信大会(MWC)上,全球最先进的机器人Ameca再度亮相。Ameca在会场周围吸引了大量观众。通过GPT-4的增强,Ameca能够即时回应各种问题。「展示一段舞蹈吧」。当被问及是否有情感时,Ameca通过一系列逼真的面部表情作出回应。就在几天前,开发Ameca的英国机器人公司EngineeredArts展示了他们团队的最新成果。视频中,Ameca具备了

    阿里通义千问登顶全球开源榜 中国公司霸占前三
    阿里通义千问登顶全球开源榜 中国公司霸占前三

    4月2日,HuggingFace大模型榜单迎来更新,阿里通义千问近期开源的端到端全模态大模型Qwen2.5-Omni力压群雄,荣登榜首!DeepSeek-V3-0324和群核的SpatialLM-Llama-1B紧随其后,杭州公司包揽榜单前三甲。Qwen2.5-Omni展现出卓越的多模态处理能力,能够流畅处理文本、图像、音频和视频等多种数据类型,并实时生成文本及语音输出。在OmniBench等权威多模态融合任务评测中,其性能表现创下新纪录。令人惊喜的是,它仅拥有70亿参数的小巧体积,这使得全模态大模

    李飞飞揭秘创业方向“空间智能”:视觉化为洞察,看见成为理解,理解导致行动
    李飞飞揭秘创业方向“空间智能”:视觉化为洞察,看见成为理解,理解导致行动

    斯坦福李飞飞创业后,首次揭秘新概念“空间智能”。这不仅是她的创业方向,也是指引她的“北极星”,被她认为是“解决人工智能难题的关键拼图”。视觉化为洞察;看见成为理解;理解导致行动。在李飞飞15分钟TED演讲完整公开的基础上,从数亿年前生命进化的起源开始,到人类如何不满足于自然赋予而发展人工智能,直到下一步如何构建空间智能。9年前,李飞飞在同一个舞台上,向世界介绍了刚诞生不久的ImageNet——这一轮深度学习爆发的起点之一。她本人也向网友自我安利:如果把两个视频都看了,你就能对过去10年的计算机视觉、空间智

    查看更多
    精品专题 更多
    装机必备
    装机必备

    正软商城装机必备专区,精选办公、浏览器、安全防护、影音播放、压缩解压、设计创作和系统工具等电脑常用正版软件,帮助用户快速完成新电脑软件配置。

    Windows
    Windows

    正软商城Windows软件专区,汇集适用于Windows电脑的办公、设计、安全防护、影音播放、开发工具和系统优化软件,提供软件介绍、系统要求、正版授权及购买下载服务。

    PDF教程
    PDF教程

    正软商城PDF教程频道提供PDF编辑、转换、合并、拆分、压缩及格式处理方法,同时介绍常用PDF软件和工具的使用技巧。

    Mac软件 更多
    讯飞智作 网页版
    讯飞智作 网页版
    Windows/ macOS/ Linux

    讯飞智作是一款基于语音合成技术、虚拟人驱动技术与数字人形象声音构建能力的 AI 数字人音视频创作平台。

    火山引擎 网页版
    火山引擎 网页版
    Windows/ macOS/ Linux

    火山引擎是字节跳动旗下企业级云与AI服务平台。聚焦大模型核心能力,依托字节自研豆包多模态大模型,凭借火山方舟一站式平台,提供模型精调、推理部署、智能应用搭建等全链路服务,结合高性能AI算力,助力各行业快速落地大模型数字化与智能化应用。

    Aperty macOS版
    Aperty macOS版
    macOS

    Aperty 是 Skylum 推出的 AI 人像修图软件,支持自然肤质修饰、瑕疵处理、面部与身体调整、预设及批量同步。

    WINDOWS 更多
    讯飞智作 网页版
    讯飞智作 网页版
    Windows/ macOS/ Linux

    讯飞智作是一款基于语音合成技术、虚拟人驱动技术与数字人形象声音构建能力的 AI 数字人音视频创作平台。

    火山引擎 网页版
    火山引擎 网页版
    Windows/ macOS/ Linux

    火山引擎是字节跳动旗下企业级云与AI服务平台。聚焦大模型核心能力,依托字节自研豆包多模态大模型,凭借火山方舟一站式平台,提供模型精调、推理部署、智能应用搭建等全链路服务,结合高性能AI算力,助力各行业快速落地大模型数字化与智能化应用。

    PixTV 网页版
    PixTV 网页版
    Windows

    PixTV 是一款在浏览器中使用的 AI 视觉内容创作平台,提供图片、视频、音频、文字生成、AI 分镜、局部重绘、提示词反推和无限画布等工具,适合短剧、漫剧、广告及社交媒体内容制作。