Qwen/Qwen2-1.5B-Instruct_16.json

{
    "config": {
        "model_dtype": "bfloat16",
        "model_name": "Qwen/Qwen2-1.5B-Instruct",
        "model_sha": "main"
    },
    "results": {
        "pinocchio_it_generale": {
            "acc": 0.5156
        },
        "pinocchio_it_logica": {
            "acc": 0.4056
        },
        "pinocchio_it_lingua_straniera": {
            "acc": 0.7334
        },
        "pinocchio_it_matematica_e_scienze": {
            "acc": 0.4306
        },
        "pinocchio_it_diritto": {
            "acc": 0.4995
        },
        "pinocchio_it_cultura": {
            "acc": 0.5019
        }
    },
    "versions": null
}