I merged lora: https://huggingface.co/kleidialogo/bleta-8B-v0.5 and the base model: https://huggingface.co/unsloth/llama-3-8b-bnb-4bit. Tested q8 gguf in Ava app (you can download it from here: https://avapls.com/). Prompt: Pse një peshk nuk mund të fluturojë? Why can't a fish fly? Bleta-8b-v0.5 answered: Peshkët nuk kanë krahë dhe nuk janë të aftë për të fluturuar. Kjo është një karakteristikë fizike e tyre, e cila u bëhet një faktor i dallueshëm në ndryshimin e tyre nga pëllumbat, që fluturojnë. Fishes have no wings and are unable to fly. This is a physical characteristic of them, which becomes a distinguishing factor in their difference from pigeons, which fly. Screenshot from Ava: image/png

Downloads last month
2
GGUF
Model size
8.03B params
Architecture
llama

8-bit

Inference API
Unable to determine this model's library. Check the docs .