Quantized by the chad himself, LoneStriker.
-
LoneStriker/FrankenDPO-4x7B-bf16-3.5bpw-h6-exl2
Text Generation • Updated • 10 -
LoneStriker/FrankenDPO-4x7B-bf16-4.0bpw-h6-exl2
Text Generation • Updated • 14 -
LoneStriker/FrankenDPO-4x7B-bf16-8.0bpw-h8-exl2
Text Generation • Updated • 15 -
LoneStriker/FrankenDPO-4x7B-bf16-3.0bpw-h6-exl2
Text Generation • Updated • 13 • 1