当前位置:

首页 > 业界资讯 > 首个中文原生DiT架构!腾讯混元文生图大模型全面开源,免费商用

首个中文原生DiT架构!腾讯混元文生图大模型全面开源,免费商用

中文AI社区迎来了一个好消息:与Sora同架构的开源文生图大模型来了!5月14日,腾讯宣布旗下混元文生图大模型全面升级并全面开源,目前已在HuggingFace平台及GitHub上发布,包含模型权重、推理代码、模型算法等完整模型,可供企业与个人开发者免费商用。官网地址:https://dit.hunyuan.tencent.com/GitHub项目地址:https://github.com/Tencent/HunyuanDiTHuggingFace模型地址:https://huggingface.co/T

本文目录
    中文 AI 社区迎来了一个好消息:与 Sora 同架构的开源文生图大模型来了!

    5 月 14 日,腾讯宣布旗下混元文生图大模型全面升级并全面开源,目前已在 Hugging Face 平台及 GitHub 上发布,包含模型权重、推理代码、模型算法等完整模型,可供企业与个人开发者免费商用。

    首个中文原生DiT架构!腾讯混元文生图大模型全面开源,免费商用

    • 官网地址:https://dit.hunyuan.tencent.com/
    • GitHub 项目地址:https://github.com/Tencent/HunyuanDiT
    • Hugging Face 模型地址:https://huggingface.co/Tencent-Hunyuan/HunyuanDiT
    • 技术报告地址:https://tencent.github.io/HunyuanDiT/asset/Hunyuan_DiT_Tech_Report_05140553.pdf
     
    据了解,这是业内首个中文原生的 DiT 架构文生图开源模型,支持中英文双语输入及理解,参数量 15 亿。

    升级后的混元文生图大模型采用了与 Sora 一致的 DiT 架构,即全新的 Hunyuan-DiT 架构,不仅可以支持文生图,也可以作为视频等多模态视觉生成的基础。

    首个中文原生DiT架构!腾讯混元文生图大模型全面开源,免费商用

    为了全面比较 Hunyuan-DiT 与其他文生图模型的生成能力,腾讯混元团队构建 4 个维度的测试集,邀请超过 50 名专业评估人员进行评估,包括文本图像一致性、排除 AI 伪影、主题清晰度、审美。

    从下表结果可以看到,采用 Hunyuan-DiT 架构的腾讯混元文生图模型效果远超开源的 Stable Diffusion 模型,是目前效果最好的开源文生图模型,整体能力属于国际领先水平。

    首个中文原生DiT架构!腾讯混元文生图大模型全面开源,免费商用

    与其他 SOTA 模型的比较。

    与这些 SOTA 模型的定性比较结果如下图所示。

    首个中文原生DiT架构!腾讯混元文生图大模型全面开源,免费商用

    首个中文原生DiT架构!腾讯混元文生图大模型全面开源,免费商用

    首个中文原生DiT架构!腾讯混元文生图大模型全面开源,免费商用

    全新 DiT 架构
    腾讯混元文生图要做开源模型 No.1
     
    大模型的优异表现,离不开领先的技术架构。

    升级后的腾讯混元文生图大模型采用了全新的 DiT 架构(DiT 即 Diffusion With Transformer),这是 OpenAI Sora 和 Stable Diffusion 3 的同款架构和关键技术,是一种基于 Transformer 架构的扩散模型。
     
    过去,视觉生成扩散模型主要基于 U-Net 架构,但随着参数量增加,基于 Transformer 架构的扩散模型展现了更好的扩展性,有助于进一步提升模型生成质量及效率。Sora 很好地说明了这一点。

    腾讯混元是业界最早探索并应用大语言模型结合 DiT 结构的文生图模型之一。从 2023 年 7 月起,腾讯混元文生图团队就明确了基于 DiT 架构的模型方向,并启动了新一代模型研发。今年初,混元文生图大模型已全面升级为 DiT 架构。

    Hunyuan-DiT 的模型结构如下图 7 所示,采用了创新的网络架构,结合了双语 CLIP 和多语言 T5 编码器,通过精心设计的数据管道进行训练和优化,支持多轮对话,能够根据上下文生成并完善图像。

    首个中文原生DiT架构!腾讯混元文生图大模型全面开源,免费商用

    在 DiT 架构之上,腾讯混元团队支持了中英双语文本提示生成图像,并在算法层面优化模型的长文本理解能力,能够支持最多 256 字符的内容输入,达到行业领先水平。

    首个中文原生DiT架构!腾讯混元文生图大模型全面开源,免费商用

    此外,混元文生图大模型在算法层面创新实现了多轮生图和对话能力,可实现在一张初始生成图片的基础上,通过自然语言描述进行调整,从而达到更满意的效果。

    首个中文原生DiT架构!腾讯混元文生图大模型全面开源,免费商用

    更多多轮对话生成示例如下图所示。

    首个中文原生DiT架构!腾讯混元文生图大模型全面开源,免费商用

    中文原生也是腾讯混元文生图大模型的一大亮点。此前,像 Stable Diffusion 等主流开源模型核心数据集以英文为主,对中国的语言、美食、文化、习俗都理解不够。

    作为首个中文原生的 DiT 模型,混元文生图具备了中英文双语理解及生成能力,在古诗词、俚语、传统建筑、中华美食等中国元素的生成上表现出色。我们可以看以下一些生成示例。

    首个中文原生DiT架构!腾讯混元文生图大模型全面开源,免费商用

    腾讯混元文生图还更擅长细粒度文本提示生成。

    首个中文原生DiT架构!腾讯混元文生图大模型全面开源,免费商用

    评测结果显示,新一代腾讯混元文生图大模型视觉生成整体效果,相比前代提升超过了 20%,不仅在语义理解、画面质感与真实性方面全面提升,而且在多轮对话、多主体、中国元素、真实人像生成等场景下效果提升显著。

    这一次
    腾讯混元选择全面开源文生图模型
     
    腾讯混元文生图能力,已经广泛被用于素材创作、商品合成、游戏出图等多项业务及场景中。今年初,腾讯广告基于腾讯混元大模型,发布了一站式 AI 广告创意平台腾讯广告妙思,可为广告主提供文生图、图生图、商品背景合成等多场景创意工具,有效提高了广告生产及投放效率。

    腾讯混元文生图大模型的开源,填补了中文原生 DiT 文生图架构的缺失,有助于更多的开发者和创作者参与进来,一起探索、共创基于 DiT 架构的视觉生成生态,更好地去验证、挖掘这个技术架构的潜力。
     
    腾讯文生图负责人芦清林表示:「腾讯混元文生图的研发思路就是实用,坚持从实践中来,到实践中去。此次把最新一代模型完整开源出来,是希望与行业共享腾讯在文生图领域的实践经验和研究成果,丰富中文文生图开源生态,共建下一代视觉生成开源生态,推动大模型行业加速发展。」
     
    基于腾讯开源的文生图模型,开发者及企业无需从头训练,即可以直接用于推理,并可基于混元文生图打造专属的 AI 绘画应用及服务,能够节约大量人力及算力。透明公开的算法,也让模型的安全性和可靠性得到保障。
     
    此外,基于开放、前沿的混元文生图基础模型,也有利于在以 Stable Diffusion 等为主的英文开源社区之外,丰富以中文为主的文生图开源生态,形成更多样原生插件,推动中文文生图技术研发和应用。
    本站声明:本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系bd@zhengruan.com
    作者最新文章
    业界资讯 腾讯
    相关文章 更多
    腾讯文档怎么恢复历史版本
    腾讯文档怎么恢复历史版本

    找回误删的腾讯文档,其实就这五个法子:历史版本回滚、快捷键撤销、回收站还原整份文档、找协作者帮忙看看记录,以及碰碰运气查查浏览器缓存。 在腾讯文档里手滑删了东西,或者想回到某个之前的“高光”版本,这事儿真不用慌。系统其实替你留了好几层“后悔药”,关键看你找对哪扇门。下面这几种恢复路径,总有一款能解决

    传腾讯拟退出对多家日本游戏工作室投资,腾讯:保持对日本游戏市场的长期关注
    传腾讯拟退出对多家日本游戏工作室投资,腾讯:保持对日本游戏市场的长期关注

    据媒体报道,腾讯被曝计划退出对多家日本游戏工作室的股权投资,包括Marvelous等多家公司,或将以折价方式回售。腾讯回应称将保持对日本游戏市场的长期关注和投入,游戏是核心业务之一,不会改变。

    腾讯要做独立支付APP?最新回应来了
    腾讯要做独立支付APP?最新回应来了

    腾讯TenPayGo在苹果商店上架,面向境外来华人员,支持邮箱注册并绑定Visa等国际信用卡或ApplePay,无需内地手机号及银行卡,简化移动支付门槛,目前处于内测阶段。

    消息称腾讯QClaw负责人张舒昱离职
    消息称腾讯QClaw负责人张舒昱离职

    腾讯QClaw负责人张舒昱(1999年,纯商科背景)离职。其率5人团队开发打通微信QQ接口的龙虾产品QClaw,但体验不佳,出海版访问量环比暴跌99.19%,且bug多、内部竞争激烈。

    腾讯回应《王者荣耀》充值显示《洛克王国》界面bug属临时问题不影响到账
    腾讯回应《王者荣耀》充值显示《洛克王国》界面bug属临时问题不影响到账

    腾讯回应《王者荣耀》充值界面误显示《洛克王国》为临时bug,实际充值资金和点券正常到账,不影响用户。技术团队正优化系统稳定性,修复时间未定。

    端云一体记忆共生李未可携手腾讯云打造随身AI穿戴全域解决
    端云一体记忆共生李未可携手腾讯云打造随身AI穿戴全域解决

    李未可携手腾讯云推出端云一体AI穿戴解决方案,融合WakeeMemory记忆OS与WAKE-AI3.0架构,依托腾讯云算力底座和WorkBuddy全域智能体,打通终端感知、云端存储与AI执行闭环,构建覆盖商务、文旅、企业服务的随身记忆智能体体系,解决算力瓶颈与数据互通难题。

    腾讯正式发布混元Hy3
    腾讯正式发布混元Hy3

    七月六日,腾讯混元Hy3正式发布,智能水平显著提升,性能卓越,比肩参数大二至五倍的旗舰模型。定价下调:输入一元/百万tokens,输出四元,缓存低至零点二五元。采用Apache2.0开源协议,已接入多个业务并上线国内外API平台。

    DEMO | 这位前腾讯 T-12 ,做了个给 Agent 用的“POS机”
    DEMO | 这位前腾讯 T-12 ,做了个给 Agent 用的“POS机”

    码上飞打造面向人工智能智能体的商业到智能体基础设施,帮助小商家将生意从互联网搬运至人工智能世界。平台已拥有一百万注册用户、二百万个生成应用,链接超十亿人次,年经常性收入突破一千万,相当于人工智能时代的收款机。

    腾讯会议怎么导出参会人员名单
    腾讯会议怎么导出参会人员名单

    腾讯会议创建者可通过五种方式导出或查询参会名单:一、会中实时导出;二、会后从历史会议详情页导出;三、通过官网个人中心导出;四、移动端快速导出;五、免导出直接核验。 作为腾讯会议的组织者,如果需要掌握谁参加了会议,却发现名单无处可寻,别急。这通常不是功能缺失,而是路径或权限问题。下面这份操作指南,能帮

    腾讯文档怎么创建日历
    腾讯文档怎么创建日历

    想要快速生成一份结构清晰、还能协同编辑的日历?这几个路径总有一条适合你:一,直接在模板中心搜索“日历”并点击启用;二,从“新建”下拉菜单里选模板新建;三,用空白表格手动填充日期打造专属日历;四,在手机App的模板页里搜索使用。 想在腾讯文档里快速弄出一份日历,用来规划日程或者团队协作,这事儿其实挺简

    查看更多
    精品专题 更多
    装机必备
    装机必备

    正软商城装机必备专区,精选办公、浏览器、安全防护、影音播放、压缩解压、设计创作和系统工具等电脑常用正版软件,帮助用户快速完成新电脑软件配置。

    Windows
    Windows

    正软商城Windows软件专区,汇集适用于Windows电脑的办公、设计、安全防护、影音播放、开发工具和系统优化软件,提供软件介绍、系统要求、正版授权及购买下载服务。

    PDF教程
    PDF教程

    正软商城PDF教程频道提供PDF编辑、转换、合并、拆分、压缩及格式处理方法,同时介绍常用PDF软件和工具的使用技巧。

    Mac软件 更多
    讯飞智作 网页版
    讯飞智作 网页版
    Windows/ macOS/ Linux

    讯飞智作是一款基于语音合成技术、虚拟人驱动技术与数字人形象声音构建能力的 AI 数字人音视频创作平台。

    火山引擎 网页版
    火山引擎 网页版
    Windows/ macOS/ Linux

    火山引擎是字节跳动旗下企业级云与AI服务平台。聚焦大模型核心能力,依托字节自研豆包多模态大模型,凭借火山方舟一站式平台,提供模型精调、推理部署、智能应用搭建等全链路服务,结合高性能AI算力,助力各行业快速落地大模型数字化与智能化应用。

    Aperty macOS版
    Aperty macOS版
    macOS

    Aperty 是 Skylum 推出的 AI 人像修图软件,支持自然肤质修饰、瑕疵处理、面部与身体调整、预设及批量同步。

    WINDOWS 更多
    讯飞智作 网页版
    讯飞智作 网页版
    Windows/ macOS/ Linux

    讯飞智作是一款基于语音合成技术、虚拟人驱动技术与数字人形象声音构建能力的 AI 数字人音视频创作平台。

    火山引擎 网页版
    火山引擎 网页版
    Windows/ macOS/ Linux

    火山引擎是字节跳动旗下企业级云与AI服务平台。聚焦大模型核心能力,依托字节自研豆包多模态大模型,凭借火山方舟一站式平台,提供模型精调、推理部署、智能应用搭建等全链路服务,结合高性能AI算力,助力各行业快速落地大模型数字化与智能化应用。

    PixTV 网页版
    PixTV 网页版
    Windows

    PixTV 是一款在浏览器中使用的 AI 视觉内容创作平台,提供图片、视频、音频、文字生成、AI 分镜、局部重绘、提示词反推和无限画布等工具,适合短剧、漫剧、广告及社交媒体内容制作。