腾讯混元发布开源加速库,生图时间缩短75%

腾讯混元针对文生图开源模型,发布了一组【加速库】——

加速后的生图时间缩短75%、生图速度提升4倍。

据了解,官方通过两个方面实现生成加速:

– 知识蒸馏。通过降低扩散模型迭代的步数实现加速,使用蒸馏权重后,生成同等质量的图像,迭代步数减半。

– TensorRT推理加速。通过工程优化,减少冗余计算、合并层次、精简精度,让模型更快处理数据,同时它还支持开发者对模型进行优化和调整。

此外,官方推出了两项用户体验优化措施。

一是用户目前可以基于ComfyUI的图形化界面,使用腾讯混元文生图模型。

二是仅用三行代码,用户就能在 Hugging Face 的官方模型库 Diffusers 中调用混元DiT模型,无需下载原始代码库。

GitHub:https://github.com/Tencent/HunyuanDiT?continueFlag=e5d643d089e999ac64ed3acaf97f9db9
抱抱脸:https://huggingface.co/Tencent-Hunyuan/HunyuanDiT?continueFlag=e5d643d089e999ac64ed3acaf97f9db9

微海报