腾讯混元针对文生图开源模型,发布了一组【加速库】——
加速后的生图时间缩短75%、生图速度提升4倍。
据了解,官方通过两个方面实现生成加速:
– 知识蒸馏。通过降低扩散模型迭代的步数实现加速,使用蒸馏权重后,生成同等质量的图像,迭代步数减半。
– TensorRT推理加速。通过工程优化,减少冗余计算、合并层次、精简精度,让模型更快处理数据,同时它还支持开发者对模型进行优化和调整。
此外,官方推出了两项用户体验优化措施。
一是用户目前可以基于ComfyUI的图形化界面,使用腾讯混元文生图模型。
二是仅用三行代码,用户就能在 Hugging Face 的官方模型库 Diffusers 中调用混元DiT模型,无需下载原始代码库。
GitHub:https://github.com/Tencent/HunyuanDiT?continueFlag=e5d643d089e999ac64ed3acaf97f9db9
抱抱脸:https://huggingface.co/Tencent-Hunyuan/HunyuanDiT?continueFlag=e5d643d089e999ac64ed3acaf97f9db9