当前位置:

首页 > 业界资讯 > 腾讯混元发布开源加速库,生图时间缩短75%

腾讯混元发布开源加速库,生图时间缩短75%

6月8日,腾讯发布针对腾讯混元文生成图开源大模型(简称为混元DiT模型)的加速库,让推理效率大幅提升,生图时间缩短75%。混元DiT模型的使用门槛也大幅降低。用户可以基于ComfyUI的图形化界面,使用腾讯混元文生图模型能力。同时,混元DiT模型已经部署至HuggingFaceDiffusers通用模型库中,用户仅用三行代码即可调用混元DiT模型,无需下载原始代码库。此前,腾讯宣布推出的混元文生成大模型全面升级并对外开源,可供企业与个人开发者免费商用。这是业内首个中文原生的DiT架构文生成图开源模型,支持

本文目录

    6月8日,腾讯发布针对腾讯混元文生成图开源大模型(简称为混元DiT模型)的加速库,让推理效率大幅提升,生图时间缩短75%。

    混元DiT模型的使用门槛也大幅降低。用户可以基于ComfyUI的图形化界面,使用腾讯混元文生图模型能力。同时,混元DiT模型已经部署至Hugging Face Diffusers通用模型库中,用户仅用三行代码即可调用混元DiT模型,无需下载原始代码库。

    此前,腾讯宣布推出的混元文生成大模型全面升级并对外开源,可供企业与个人开发者免费商用。这是业内首个中文原生的DiT架构文生成图开源模型,支持中英文双语输入和理解;采用了与Sora一致的DiT架构,不仅可支持文生成,也可作为视频等多模态视觉生成的基础。

    腾讯混元DiT模型开源之后,受到了众多社区开发者的认可。开源不到一个月,项目Github Star数就超过2100,位于开源社区热门DiT模型前列。

    腾讯混元发布开源加速库,生图时间缩短75%

    混元DiT Github页面

    为了提升开发者使用体验,腾讯混元官方上线了专属的加速库,让推理时间缩短了75%,提高大模型运行效率。开发者通过Hugging Face即可下载该推理加速工具。

    项目组通过知识蒸馏和TensorRT高性能推理框架,实现了DiT模型的采样步数压缩与高效推理部署。蒸馏主要指降低扩散模型迭代的步数实现加速。模型整体结构和参数量不变,用户在无需任何额外的操作和设备要求下使用蒸馏权重,即可降低50%迭代步数,实现耗时减半。TensorRT推理加速方案通过工程优化,可以进一步降低耗时,并且和模型权重解耦。同时使用两者进行推理部署,可将推理时间缩短75%。

    用户可以直接使用ComfyUI的图形化界面来基于其最新消息利用社区的共同努力。同时,通过与Hugging Face团队合作,混合DiT模型已经部署到Hugging Face官方模型库Diffusers中,并重新调整了该模型库的使用和生成代码,用户可以直接通过该途径调用混合DiT模型,大大简化了用户使用的成本。

    ComfyUI是一款文生图领域的WebUI界面设计,它将文生图领域的扩散算法模块化与图形化,提升了生成效率与资源利用率,也大幅降低了开发者的使用门槛。用户可以通过图像化工作流使用混元DiT文生图模型,实现与官方模型一样的效果。

    腾讯混元发布开源加速库,生图时间缩短75%

    混元DiT文生图模型的ComfyUI使用界面

    此外,围绕ComfyUI的使用生态,还衍生出强大的开源社区。混元DiT对ComfyUI的支持,也能让社区的成员体验基于最新DiT架构的文生图模型。

    作为知名的AI开源社区,Hugging Face的Diffusers是目前调用各种主流文生图大模型的通用库,已经成为当今文生图大模型使用的社区标准。

    将混元DiT模型适配进Hugging Face Diffusers,可以大幅提升模型的易用性和用户基础。用户无需将原始代码库下载与部署到自身环境,安装了Diffusers库的开发者,仅需要运行几行代码,即可调用混元DiT模型,配置与调用都十分方便。同时,Hugging Face与腾讯混元团队共同优化算法框架,加快了图片的生成速度。

    此举也相当于为所有后续基于混元DiT的使用和开发提供了底层支持,覆盖各种需要调用混元DiT的任何场景,包括上述的ComfyUI方式。同时对开发者而言,之前配置好的基于Diffusers的工作流和插件可以在少量修改的情况下直接用于混元DiT。

    腾讯文生图负责人芦清林表示:“腾讯混元文生图模型开源之后得到了众多开发者的支持和反馈,我们十分高兴,也同时在针对开发者的反馈与社区一起完善和优化基于混元DiT的开源生态,让更多开发者能更便利地享受到最新的研究成果。也欢迎大家跟我们一起共建下一代视觉生成开源生态,推动大模型行业加速发展。”

    附腾讯混元文生图开源大模型(混元DiT模型)项目链接

    官网:https://dit.hunyuan.tencent.com/

    代码:https://github.com/Tencent/HunyuanDiT

    模型:https://huggingface.co/Tencent-Hunyuan/HunyuanDiT

    论文:https://tencent.github.io/HunyuanDiT/asset/Hunyuan_DiT_Tech_Report_05140553.pdf


    本站声明:本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系bd@zhengruan.com
    作者最新文章
    业界资讯
    上一篇: ACDSee看图怎么设置背景色_ACDSee看图设置背景色的方法
    下一篇: 钉钉三种直播模式的使用方法
    相关文章 更多
    腾讯混元3.0正式上线,聚焦提升任务执行力
    腾讯混元3.0正式上线,聚焦提升任务执行力

    腾讯混元3.0正式版上线,采用295B总参数MoE架构,聚焦任务执行与推理能力提升。价格降至输入1元/百万tokens,办公场景任务成功率从72%提升至90%,幻觉率下降超一半。坚持性价比路线,已在多个内部业务部署。

    腾讯混元发布Hy3,API价格每百万tokens 0.25元起
    腾讯混元发布Hy3,API价格每百万tokens 0.25元起

    腾讯发布Hy3大模型,MoE架构,总参数295B,激活21B,支持256K上下文。API输入1元/百万tokens,输出4元,缓存命中0.25元。能力较预览版跃升,小尺寸比肩大尺寸旗舰。

    腾讯混元发布并开源Hy3模型 在推理、智能体、长上下文等任务上显著进步
    腾讯混元发布并开源Hy3模型 在推理、智能体、长上下文等任务上显著进步

    腾讯混元发布并开源Hy3模型,在推理、智能体、长上下文任务上显著进步,智能水平超越同尺寸模型,比肩2至5倍规模旗舰模型。后训练优化数据与强化学习,降低API成本至每百万Tokens输入1元,全面开源于GitHub等平台。

    姚顺雨“交卷”了:腾讯混元Hy3正式发布,同日公司股价上涨
    姚顺雨“交卷”了:腾讯混元Hy3正式发布,同日公司股价上涨

    腾讯混元大模型Hy3正式发布,由首席AI科学家姚顺雨操刀,以21B激活参数对标更大规模模型,Agent能力显著提升。该模型已接入元宝、WorkBuddy等业务,WorkBuddy使用规模三个月增长两个数量级,微信AI助手“小微”启动内测。受AI业务前景提振,腾讯港股当日上涨4.82%。

    腾讯混元Hy3正式发布:Agent能力提升,坚持高性价比路线
    腾讯混元Hy3正式发布:Agent能力提升,坚持高性价比路线

    腾讯混元Hy3发布,采用快慢思考融合MoE架构,总参数295B、激活21B,支持256K上下文。Agent能力显著提升,定价输入1元、输出4元/百万tokens,开源Apache2.0,已在多个业务接入并取得效果提升。

    半年重建,一次交卷:5分钟生成3D跑酷小游戏,腾讯混元 Hy3 正式发布
    半年重建,一次交卷:5分钟生成3D跑酷小游戏,腾讯混元 Hy3 正式发布

    腾讯混元发布Hy3模型,采用MoE架构,总参数295B、激活参数21B。通过“小激活、大总参”降低成本,经业务打磨后任务成功率提升、幻觉率下降。在WorkBuddy中仅用5分钟即可生成可玩的3D跑酷小游戏,验证了模型实用价值。

    海光DCU完成腾讯混元Hy3正式版适配
    海光DCU完成腾讯混元Hy3正式版适配

    海光深算系列DCU完成与腾讯混元大模型Hy3正式版的全面深度适配,针对智能体能力、MoE稀疏激活架构及低延迟推理等关键特性进行专项优化,推动国产硬件与大模型从“能用”迈向“好用”。

    腾讯混元携手多所高校,让3D网格生成快如闪电
    腾讯混元携手多所高校,让3D网格生成快如闪电

    腾讯混元联合多所高校提出PolyFlow,通过拓扑嵌入器将离散网格拓扑转为连续向量,结合流匹配模型并行生成网格,速度比自回归方法快数十倍,倒角距离降低43%,且支持用户指定顶点数量。

    腾讯混元 AI Infra 团队开源 HPC-Ops,高性能 LLM 推理核心算子库
    腾讯混元 AI Infra 团队开源 HPC-Ops,高性能 LLM 推理核心算子库

    腾讯混元AIInfra团队近日开源了HPC-Ops高性能LLM推理算子库,基于CUDA和CuTe从零重构,涵盖FusedMoE、Attention等核心模块。实测显示,混元系列模型推理QPM提升30%,DeepSeek提升17%,Attention算子最高提速2.22倍,推理效率显著提升,广泛适用于各类大模型推理场景,性能优越。

    腾讯混元发布混元图像 3.0 图生图模型
    腾讯混元发布混元图像 3.0 图生图模型

    腾讯混元发布混元图像3.0图生图模型,采用80B参数MoE架构,支持图像编辑与多图融合,已在元宝平台上线。模型具备语义理解与逻辑推理能力,可精准执行对象增删、风格迁移等任务。通过千万级多任务数据集和思维链范式训练,结合MixGRPO强化学习优化,显著提升指令响应质量。

    查看更多
    精品专题 更多
    装机必备
    装机必备

    正软商城装机必备专区,精选办公、浏览器、安全防护、影音播放、压缩解压、设计创作和系统工具等电脑常用正版软件,帮助用户快速完成新电脑软件配置。

    Windows
    Windows

    正软商城Windows软件专区,汇集适用于Windows电脑的办公、设计、安全防护、影音播放、开发工具和系统优化软件,提供软件介绍、系统要求、正版授权及购买下载服务。

    PDF教程
    PDF教程

    正软商城PDF教程频道提供PDF编辑、转换、合并、拆分、压缩及格式处理方法,同时介绍常用PDF软件和工具的使用技巧。

    Mac软件 更多
    讯飞智作 网页版
    讯飞智作 网页版
    Windows/ macOS/ Linux

    讯飞智作是一款基于语音合成技术、虚拟人驱动技术与数字人形象声音构建能力的 AI 数字人音视频创作平台。

    火山引擎 网页版
    火山引擎 网页版
    Windows/ macOS/ Linux

    火山引擎是字节跳动旗下企业级云与AI服务平台。聚焦大模型核心能力,依托字节自研豆包多模态大模型,凭借火山方舟一站式平台,提供模型精调、推理部署、智能应用搭建等全链路服务,结合高性能AI算力,助力各行业快速落地大模型数字化与智能化应用。

    Aperty macOS版
    Aperty macOS版
    macOS

    Aperty 是 Skylum 推出的 AI 人像修图软件,支持自然肤质修饰、瑕疵处理、面部与身体调整、预设及批量同步。

    WINDOWS 更多
    讯飞智作 网页版
    讯飞智作 网页版
    Windows/ macOS/ Linux

    讯飞智作是一款基于语音合成技术、虚拟人驱动技术与数字人形象声音构建能力的 AI 数字人音视频创作平台。

    火山引擎 网页版
    火山引擎 网页版
    Windows/ macOS/ Linux

    火山引擎是字节跳动旗下企业级云与AI服务平台。聚焦大模型核心能力,依托字节自研豆包多模态大模型,凭借火山方舟一站式平台,提供模型精调、推理部署、智能应用搭建等全链路服务,结合高性能AI算力,助力各行业快速落地大模型数字化与智能化应用。

    PixTV 网页版
    PixTV 网页版
    Windows

    PixTV 是一款在浏览器中使用的 AI 视觉内容创作平台,提供图片、视频、音频、文字生成、AI 分镜、局部重绘、提示词反推和无限画布等工具,适合短剧、漫剧、广告及社交媒体内容制作。