Aratako/Antler-7B-RPの量子化済みGGUF版です。ライセンス等詳細は元モデルをご確認ください。
2-bit
3-bit
4-bit
5-bit
6-bit
8-bit
16-bit
Base model