标签:混合精度量化

不懂就问,DiT能量化到只有4位吗?HQ-DiT:高效的 FP4 混合精度量化 DiT

本文介绍了一种针对扩散变换器(Diffusion Transformer,简称DiT)的高效混合精度量化方法HQ-DiT,该方法使用4位浮点数(FP4)对DiT进行量化,显著提升了推理...