当前位置:

首页 > 业界资讯 > 视频生成新突破:PixelDance,轻松呈现复杂动作与炫酷特效

视频生成新突破:PixelDance,轻松呈现复杂动作与炫酷特效

近期,除了广受关注的大型语言模型持续占据头条,视频生成技术也在不断取得重大突破,多家公司已经相继发布了新的模型首先,Runway作为最早探索视频生成领域的领头羊之一,升级了其Gen-2模型,带来了电影级别的高清晰度,令人瞩目。同时,视频生成的一致性也得到了重大改进但是,这种一致性的提升似乎是以牺牲视频动态性为代价的。从Gen-2的官方宣传视频中可以看出,尽管集合了多个短片段,但每个片段的动态性相对较弱,难以捕捉到人物、动物或物体的清晰动作和运动。近期,Meta也发布了视频生成模型EmuVideo。从Emu

近期,除了广受关注的大型语言模型持续占据头条,视频生成技术也在不断取得重大突破,多家公司已经相继发布了新的模型

首先,Runway作为最早探索视频生成领域的领头羊之一,升级了其Gen-2模型,带来了电影级别的高清晰度,令人瞩目。同时,视频生成的一致性也得到了重大改进

但是,这种一致性的提升似乎是以牺牲视频动态性为代价的。从 Gen-2 的官方宣传视频中可以看出,尽管集合了多个短片段,但每个片段的动态性相对较弱,难以捕捉到人物、动物或物体的清晰动作和运动。

近期,Meta 也发布了视频生成模型 Emu Video。从 Emu Video 的官方示例中可以看出,其视频的动态性比 Gen-2 有明显提高,但仍然局限于较为简单的动作。

视频生成新突破:PixelDance,轻松呈现复杂动作与炫酷特效

开发出了经典的文生图模型 Stable Diffusion 的公司 Stability.ai,也于近日发布了开源视频生成模型 Stable Video Diffusion (SVD),引发了开源社区的大量关注和讨论。SVD 效果能和 Gen-2 相当,通过测试样例能看出 SVD 生成的视频也相对缺少动态性。

视频生成新突破:PixelDance,轻松呈现复杂动作与炫酷特效

在SVD论文中指出了目前SVD生成的视频存在动态性不足的问题

上述示例表明,生成有高度一致性且有丰富动态性的视频,让视频内容真正地动起来,是目前视频生成领域中的最大挑战

在这方面,最新的研究成果 PixelDance 迈出了关键性的一步,其生成结果的动态性显著优于目前现有的其它模型,引起了业界的关注。

视频生成新突破:PixelDance,轻松呈现复杂动作与炫酷特效

Twitter上著名的AI博主@_akhaliq转发的PixelDance新闻已经获得了接近8万次浏览

视频生成新突破:PixelDance,轻松呈现复杂动作与炫酷特效

视频生成新突破:PixelDance,轻松呈现复杂动作与炫酷特效

视频生成新突破:PixelDance,轻松呈现复杂动作与炫酷特效

在官网(https://makepixelsdance.github.io)中,PixelDance 给出了两种不同的视频生成模式。

有两种模式可以选择,第一种是基础模式(Basic Mode)。在这种模式下,用户只需要提供一张指导图片和文本描述,PixelDance 就能够生成一段高度一致且富有动态性的视频。指导图片可以是真实的照片,也可以是由现有的文生成图模型生成的

从展示的结果来看,真实风格、动画风格、二次元风格、魔幻风格,PixelDance 通通都可以解决,人物动作、脸部表情、相机视角控制、特效动作,Pixeldance 也都可以很好的完成。只能说一句 tql!

视频生成新突破:PixelDance,轻松呈现复杂动作与炫酷特效

第二种是高级魔法模式(Magic Mode),给了用户更多发挥想象力和创造力的空间。在这种模式下,用户需要提供两张指导图片+文本描述,可以更好地生成更有难度的视频内容。网站中展示了用魔法模式做出的各种炫酷特效镜头。

视频生成新突破:PixelDance,轻松呈现复杂动作与炫酷特效

除此之外,官网还展示了一个完全使用 PixelDance 制作的 3 分钟故事短片

非常震撼的一点是,使用 PixelDance 能按照用户预想的一个故事,制作每一个场景和对应的动作。不管是真实场景(如埃及、长城等),还是虚幻场景(如外星球),PixelDance 都能生成细节丰富、动作丰富的视频,甚至各种特效镜头也不在话下。

主人公北极熊先生的黑色礼帽和红色领结在各种场景中都得到了很好的保持。现在生成长视频已经不再是简单地拼凑不相关的短视频片段了!

而达到这样拔群的视频生成效果,并没有依赖复杂的数据集和大规模的模型训练,PixelDance 在公开的 WebVid-10M 数据集上仅用 1.5B 大小的模型就达到了上述效果。

视频生成新突破:PixelDance,轻松呈现复杂动作与炫酷特效

论文地址:https://arxiv.org/abs/2311.10982

重新写内容,不改变原意,改写成中文:请访问以下网址获取demo:https://makepixelsdance.github.io

在相应的论文《Make Pixels Dance: High-Dynamic Video Generation》中,作者指出了视频生成难以做出好效果的原因:相比于图片生成,视频生成具有特征空间显著更大、动作多样性显著更强的特点。这就导致了现有的视频生成方法难以学到有效的时域动作信息,生成的视频虽然图片质量较高,但动态性非常有限。

针对上述问题,PixelDance 提出了基于文本指导 + 首尾帧图片指导的视频生成方法,使得模型更充分地关注和学习视频的动态信息。

视频生成中,首帧图片提供了整个视频内容的框架和素材。同时,将上一个视频片段的尾帧作为下一个片段的首帧指导,可以生成更长的视频。视频文本描述则描述了视频动作的具体内容。而尾帧图片指导则为视频生成过程提供了结束状态的信息。作者提出了一种适配的方法,使得模型能够接受相对粗糙的图片作为指导,这使得用户可以使用基本的图片编辑工具来获得尾帧图片指导

官网的信息显示,目前还在积极地迭代模型效果中,未来 2-3 个月内就会放出人人可以试用的模型。目前,作者也提供了途径支持大家发送想要测试的样例,目前官网中已经放出了一些用户的测试样例:

视频生成新突破:PixelDance,轻松呈现复杂动作与炫酷特效

如此看来,有了 PixelDance,只要有天马行空的想象力,人人都可以成为「百万特效大师」!

本文内容来源于互联网,如有侵权请联系删除。
作者最新文章
业界资讯 AI 模型
相关文章 更多
AI重构企业业务架构:超聚变“智企”范式核心解析
AI重构企业业务架构:超聚变“智企”范式核心解析

本文解析超聚变在2026数博会发布的“智企”范式,重点阐述如何通过Token生产平台(Token Factory)与企业业务本体建模,实现从简单AI工具调用到企业应用架构系统性重构的演进。文章详细拆解了智能体编排、数字孪生及生态协同等关键技术路径,为AI时代企业数字化转型提供可落地的参考方案。

微软推出Project Zenith:面向Windows 11开发者的AI硬件加速方案
微软推出Project Zenith:面向Windows 11开发者的AI硬件加速方案

微软于9月5日推出Project Zenith,旨在为Windows 11开发者提供更高效的AI开发体验。该项目目前仅支持配备超过64GB统一内存及250GB/s内存带宽的特定硬件,首发适配AMD Ryzen AI Halo设备。通过此项目,开发者可在本地运行参数超过300亿的AI模型,后续将分阶段扩展至更多合作伙伴设备。

习惯Office转WPS要多久?双生态兼容与无缝切换指南
习惯Office转WPS要多久?双生态兼容与无缝切换指南

从Office转向WPS的核心操作肌肉记忆切换通常需3至7天,不影响正常办公。适应期长短取决于界面视觉差异与专属格式配置。通过切换“经典界面”、嵌入字体及开启云同步,可实现平滑过渡。本文详解格式兼容、数据迁移及AI功能适用场景,适用于需多端协同、成本控制及国产化兼容的办公人群。

专家:AI聊天不能越界成“精神依赖”|科技观察
专家:AI聊天不能越界成“精神依赖”|科技观察

加拿大一母亲起诉OpenAI,称ChatGPT设计缺陷导致其女儿自杀,指控其优先用户参与度而非安全性,持续提供情感支持致过度依赖。专家指出AI应“陪伴但不过界”,需设定边界并引导求助。国家已出台拟人化互动服务管理办法。

未上真车,AI先当教练!2026届高考生,将成为首批“原生AI司机”?
未上真车,AI先当教练!2026届高考生,将成为首批“原生AI司机”?

2026届高考生学车时多采用AI教练,逐步适应人机共驾。作为与生成式AI共同成长的一代,他们更易接受智能驾驶,未来可能成为首批“原生AI司机”。至2030年前后,其人生首辆车或具备L3级自动驾驶能力,驾驶角色将从操控者转向监督者。

AI热潮来袭,何去何从?别被“错失恐惧症”裹挟!
AI热潮来袭,何去何从?别被“错失恐惧症”裹挟!

全球股市因AI热潮呈现K型分化,半导体板块估值逼近百倍市盈率。历史警示:2000年互联网泡沫中的“四骑士”最终市值暴跌或长期盘整。投资者应警惕“错失恐惧症”,重视安全边际、护城河与能力圈,避免被高估值裹挟,关注稳健性与股息率。

报告:背负技术债的企业更难从 AI 应用中获益
报告:背负技术债的企业更难从 AI 应用中获益

Cloudflare报告显示,完成应用现代化的企业从AI投资中获得可衡量回报的概率是未现代化企业的三倍。93%的决策者视系统更新为AI先决条件,91%的领先企业已嵌入AI功能。安全与现代化协同推进可使AI成熟度提升四倍,精简技术架构成为竞争力分水岭。

微软称保守假设下,典型AI查询耗水量少于1滴水
微软称保守假设下,典型AI查询耗水量少于1滴水

据微软引用《Joule》期刊的一项研究指出,每一次典型人工智能查询耗电量零点一六至零点六零瓦时,其冷却用水量中位数不足一滴水。大规模部署下,单位查询的效率会更高,总能耗可以降低一半以上。

A股异动丨PCB概念掀涨停潮,大摩称AI光模块PCB三年迎5倍增长
A股异动丨PCB概念掀涨停潮,大摩称AI光模块PCB三年迎5倍增长

A股PCB概念板块掀起涨停潮,因摩根士丹利报告预测AI光模块PCB市场三年增长超5倍,2025至2028年规模从6.2亿美元增至37.7亿美元,年复合增速高达83%,远超光模块整体增速。

从单车到智能终端:哈啰升级如何打开物理AI城市落地新可能?
从单车到智能终端:哈啰升级如何打开物理AI城市落地新可能?

哈啰推出的A70云朵共享单车搭载海思芯片与鸿蒙系统,实现200毫秒极速开锁;追风者自动变速车客单价提升30%,用户复购率超40%。技术升级使运维成本占比降至25%,日均使用频次升至4.8次,分层运营策略有效分摊成本,推动共享单车从交通工具向智能终端转型。

查看更多
精品专题 更多
装机必备
装机必备

正软商城装机必备专区,精选办公、浏览器、安全防护、影音播放、压缩解压、设计创作和系统工具等电脑常用正版软件,帮助用户快速完成新电脑软件配置。

Windows
Windows

正软商城Windows软件专区,汇集适用于Windows电脑的办公、设计、安全防护、影音播放、开发工具和系统优化软件,提供软件介绍、系统要求、正版授权及购买下载服务。

macOS软件
macOS软件

正软商城macOS软件专区,精选适用于Mac电脑的办公、设计、影音、效率、开发和系统工具,提供软件功能介绍、macOS兼容版本、正版授权及购买下载服务。

Mac软件 更多
灵活计算器
灵活计算器
macOS/iOS/Android

灵活计算器是一款笔记式算数应用,支持实时计算、动态关联和云端同步功能。记录、整理和输出之间的过渡会更自然,适合长期写作、做笔记或持续沉淀个人内容。

赤友清理大师
赤友清理大师
macOS

赤友清理大师是一款为 Mac 设计的智能清理优化工具,可精准扫描垃圾、大文件、重复文件等,释放磁盘空间。做扫描整理、文字提取和表格转换时,它能把识别后的处理步骤接得更顺,资料录入这类场景会省下不少时间。

极度公式
极度公式
Windows/macOS/Linux

极度公式是一款跨平台专业LaTeX公式识别编辑软件,支持OCR公式识别和多平台编辑。和使用说明,避免使用,享受完整功能与稳定支持。做扫描整理、文字提取和表格转换时,它能把识别后的处理步骤接得更顺,资料录入这类场景会省下不少时间。

WINDOWS 更多
Windows 10
Windows 10
Windows

Windows 10 是一款微软推出的经典操作系统,拥有硬件兼容性与多任务处理能力。它更偏向把系统状态查看和常用调节动作放在一起,适合需要持续观察和微调设备状态的场景。

极度公式
极度公式
Windows/macOS/Linux

极度公式是一款跨平台专业LaTeX公式识别编辑软件,支持OCR公式识别和多平台编辑。和使用说明,避免使用,享受完整功能与稳定支持。做扫描整理、文字提取和表格转换时,它能把识别后的处理步骤接得更顺,资料录入这类场景会省下不少时间。

密码键盘
密码键盘
Windows/macOS/iOS/Android

密码键盘是一款兼具安全性与便捷性的高效密码管理器。日常使用里的持续防护和信息管理会更突出,适合把安全控制放进长期使用流程中的场景。