⌘ K
… 读取采集状态 同步中...
雷
原文
Hugging Face Blog·· 2026-07-23精选AI 评分80

Diffusers 原生支持 Nunchaku 4-bit 扩散模型推理

Bringing Nunchaku 4-bit Diffusion Inference to Diffusers

AI 导读

Diffusers 原生支持加载 Nunchaku Lite 4-bit 量化扩散模型,无需本地编译即可通过 from_pretrained 调用。在 RTX 5090 上,ERNIE-Image-Turbo 的生成耗时降至 1.7 秒,峰值显存占用从 24 GB 降至 12 GB。

推荐理由

文章给出了 Nunchaku Lite 在 Diffusers 中的原生加载方法、基准测试数据及量化自定义模型的工具流程。

本文当前提供导读和图片预览,完整图文请查看原文。

来源:Hugging Face Blog · huggingface.co