在diffuers中,我把dev量化成了fp8,怎么使用这个lora

#7
by jj11 - opened

通过Float8DynamicActivationFloat8WeightConfig量化dev后,如何使用该模型

Sign up or log in to comment