ChenMnZ/Llama-2-7b-EfficientQAT-w4g128-BitBLAS
Text Generation • 26B • Updated • 13
EfficientQAT (BitBLAS format)
EfficientQAT quantized models with BitBLAS data format.
-
-
ChenMnZ/Llama-3-8b-instruct-EfficientQAT-w4g128-BitBLAS
Text Generation • 29B • Updated • 15 -
ChenMnZ/Llama-3-8b-instruct-EfficientQAT-w2g64-BitBLAS
Text Generation • 29B • Updated • 50 • 1 -
ChenMnZ/Llama-3-8b-instruct-EfficientQAT-w2g128-BitBLAS
Text Generation • 29B • Updated • 17 -
ChenMnZ/Llama-3-8b-EfficientQAT-w4g128-BitBLAS
Text Generation • 29B • Updated • 17 -
ChenMnZ/Llama-3-8b-EfficientQAT-w2g64-BitBLAS
Text Generation • 29B • Updated • 16 -
ChenMnZ/Llama-3-8b-EfficientQAT-w2g128-BitBLAS
Text Generation • 29B • Updated • 14 -
ChenMnZ/Llama-3-70b-instruct-EfficientQAT-w4g128-BitBLAS
Text Generation • 276B • Updated • 17 -
ChenMnZ/Llama-3-70b-instruct-EfficientQAT-w2g64-BitBLAS
Text Generation • 276B • Updated • 19 -
ChenMnZ/Llama-3-70b-instruct-EfficientQAT-w2g128-BitBLAS
Text Generation • 276B • Updated • 17 -
ChenMnZ/Llama-3-70b-EfficientQAT-w4g128-BitBLAS
Text Generation • 276B • Updated • 17 -
ChenMnZ/Llama-3-70b-EfficientQAT-w2g64-BitBLAS
Text Generation • 276B • Updated • 20 -
ChenMnZ/Llama-3-70b-EfficientQAT-w2g128-BitBLAS
Text Generation • 276B • Updated • 14 -
ChenMnZ/Llama-2-7b-EfficientQAT-w2g64-BitBLAS
Text Generation • 26B • Updated • 14 -
ChenMnZ/Llama-2-7b-EfficientQAT-w2g128-BitBLAS
Text Generation • 26B • Updated • 15 -
ChenMnZ/Llama-2-70b-EfficientQAT-w4g128-BitBLAS
Text Generation • 275B • Updated • 20 -
ChenMnZ/Llama-2-70b-EfficientQAT-w2g128-BitBLAS
Text Generation • 274B • Updated • 14 -
ChenMnZ/Llama-2-13b-EfficientQAT-w4g128-BitBLAS
Text Generation • 51B • Updated • 18 -
ChenMnZ/Llama-2-13b-EfficientQAT-w2g64-BitBLAS
Text Generation • 51B • Updated • 21 -
ChenMnZ/Llama-2-13b-EfficientQAT-w2g128-BitBLAS
Text Generation • 51B • Updated • 15