|
{ |
|
"best_metric": null, |
|
"best_model_checkpoint": null, |
|
"epoch": 0.6, |
|
"eval_steps": 500, |
|
"global_step": 1500, |
|
"is_hyper_param_search": false, |
|
"is_local_process_zero": true, |
|
"is_world_process_zero": true, |
|
"log_history": [ |
|
{ |
|
"epoch": 0.0, |
|
"learning_rate": 4.993333333333334e-05, |
|
"loss": 1.8403, |
|
"step": 10 |
|
}, |
|
{ |
|
"epoch": 0.01, |
|
"learning_rate": 4.986666666666667e-05, |
|
"loss": 1.8483, |
|
"step": 20 |
|
}, |
|
{ |
|
"epoch": 0.01, |
|
"learning_rate": 4.9800000000000004e-05, |
|
"loss": 1.7996, |
|
"step": 30 |
|
}, |
|
{ |
|
"epoch": 0.02, |
|
"learning_rate": 4.973333333333334e-05, |
|
"loss": 1.851, |
|
"step": 40 |
|
}, |
|
{ |
|
"epoch": 0.02, |
|
"learning_rate": 4.966666666666667e-05, |
|
"loss": 1.8097, |
|
"step": 50 |
|
}, |
|
{ |
|
"epoch": 0.02, |
|
"learning_rate": 4.96e-05, |
|
"loss": 1.7741, |
|
"step": 60 |
|
}, |
|
{ |
|
"epoch": 0.03, |
|
"learning_rate": 4.9533333333333336e-05, |
|
"loss": 1.8133, |
|
"step": 70 |
|
}, |
|
{ |
|
"epoch": 0.03, |
|
"learning_rate": 4.9466666666666665e-05, |
|
"loss": 1.7702, |
|
"step": 80 |
|
}, |
|
{ |
|
"epoch": 0.04, |
|
"learning_rate": 4.94e-05, |
|
"loss": 1.7981, |
|
"step": 90 |
|
}, |
|
{ |
|
"epoch": 0.04, |
|
"learning_rate": 4.933333333333334e-05, |
|
"loss": 1.7578, |
|
"step": 100 |
|
}, |
|
{ |
|
"epoch": 0.04, |
|
"learning_rate": 4.926666666666667e-05, |
|
"loss": 1.7957, |
|
"step": 110 |
|
}, |
|
{ |
|
"epoch": 0.05, |
|
"learning_rate": 4.92e-05, |
|
"loss": 1.7931, |
|
"step": 120 |
|
}, |
|
{ |
|
"epoch": 0.05, |
|
"learning_rate": 4.913333333333334e-05, |
|
"loss": 1.725, |
|
"step": 130 |
|
}, |
|
{ |
|
"epoch": 0.06, |
|
"learning_rate": 4.906666666666667e-05, |
|
"loss": 1.7799, |
|
"step": 140 |
|
}, |
|
{ |
|
"epoch": 0.06, |
|
"learning_rate": 4.9e-05, |
|
"loss": 1.7485, |
|
"step": 150 |
|
}, |
|
{ |
|
"epoch": 0.06, |
|
"learning_rate": 4.8933333333333335e-05, |
|
"loss": 1.7766, |
|
"step": 160 |
|
}, |
|
{ |
|
"epoch": 0.07, |
|
"learning_rate": 4.886666666666667e-05, |
|
"loss": 1.7928, |
|
"step": 170 |
|
}, |
|
{ |
|
"epoch": 0.07, |
|
"learning_rate": 4.88e-05, |
|
"loss": 1.7415, |
|
"step": 180 |
|
}, |
|
{ |
|
"epoch": 0.08, |
|
"learning_rate": 4.8733333333333337e-05, |
|
"loss": 1.7074, |
|
"step": 190 |
|
}, |
|
{ |
|
"epoch": 0.08, |
|
"learning_rate": 4.866666666666667e-05, |
|
"loss": 1.7832, |
|
"step": 200 |
|
}, |
|
{ |
|
"epoch": 0.08, |
|
"learning_rate": 4.86e-05, |
|
"loss": 1.7905, |
|
"step": 210 |
|
}, |
|
{ |
|
"epoch": 0.09, |
|
"learning_rate": 4.853333333333334e-05, |
|
"loss": 1.7413, |
|
"step": 220 |
|
}, |
|
{ |
|
"epoch": 0.09, |
|
"learning_rate": 4.8466666666666675e-05, |
|
"loss": 1.7557, |
|
"step": 230 |
|
}, |
|
{ |
|
"epoch": 0.1, |
|
"learning_rate": 4.8400000000000004e-05, |
|
"loss": 1.7305, |
|
"step": 240 |
|
}, |
|
{ |
|
"epoch": 0.1, |
|
"learning_rate": 4.8333333333333334e-05, |
|
"loss": 1.7794, |
|
"step": 250 |
|
}, |
|
{ |
|
"epoch": 0.1, |
|
"learning_rate": 4.826666666666667e-05, |
|
"loss": 1.714, |
|
"step": 260 |
|
}, |
|
{ |
|
"epoch": 0.11, |
|
"learning_rate": 4.82e-05, |
|
"loss": 1.7735, |
|
"step": 270 |
|
}, |
|
{ |
|
"epoch": 0.11, |
|
"learning_rate": 4.8133333333333336e-05, |
|
"loss": 1.7581, |
|
"step": 280 |
|
}, |
|
{ |
|
"epoch": 0.12, |
|
"learning_rate": 4.806666666666667e-05, |
|
"loss": 1.8081, |
|
"step": 290 |
|
}, |
|
{ |
|
"epoch": 0.12, |
|
"learning_rate": 4.8e-05, |
|
"loss": 1.829, |
|
"step": 300 |
|
}, |
|
{ |
|
"epoch": 0.12, |
|
"learning_rate": 4.793333333333334e-05, |
|
"loss": 1.7517, |
|
"step": 310 |
|
}, |
|
{ |
|
"epoch": 0.13, |
|
"learning_rate": 4.7866666666666674e-05, |
|
"loss": 1.748, |
|
"step": 320 |
|
}, |
|
{ |
|
"epoch": 0.13, |
|
"learning_rate": 4.78e-05, |
|
"loss": 1.7234, |
|
"step": 330 |
|
}, |
|
{ |
|
"epoch": 0.14, |
|
"learning_rate": 4.773333333333333e-05, |
|
"loss": 1.7331, |
|
"step": 340 |
|
}, |
|
{ |
|
"epoch": 0.14, |
|
"learning_rate": 4.766666666666667e-05, |
|
"loss": 1.7249, |
|
"step": 350 |
|
}, |
|
{ |
|
"epoch": 0.14, |
|
"learning_rate": 4.76e-05, |
|
"loss": 1.7496, |
|
"step": 360 |
|
}, |
|
{ |
|
"epoch": 0.15, |
|
"learning_rate": 4.7533333333333334e-05, |
|
"loss": 1.7553, |
|
"step": 370 |
|
}, |
|
{ |
|
"epoch": 0.15, |
|
"learning_rate": 4.746666666666667e-05, |
|
"loss": 1.774, |
|
"step": 380 |
|
}, |
|
{ |
|
"epoch": 0.16, |
|
"learning_rate": 4.74e-05, |
|
"loss": 1.7586, |
|
"step": 390 |
|
}, |
|
{ |
|
"epoch": 0.16, |
|
"learning_rate": 4.7333333333333336e-05, |
|
"loss": 1.7573, |
|
"step": 400 |
|
}, |
|
{ |
|
"epoch": 0.16, |
|
"learning_rate": 4.726666666666667e-05, |
|
"loss": 1.7784, |
|
"step": 410 |
|
}, |
|
{ |
|
"epoch": 0.17, |
|
"learning_rate": 4.72e-05, |
|
"loss": 1.7639, |
|
"step": 420 |
|
}, |
|
{ |
|
"epoch": 0.17, |
|
"learning_rate": 4.713333333333333e-05, |
|
"loss": 1.7655, |
|
"step": 430 |
|
}, |
|
{ |
|
"epoch": 0.18, |
|
"learning_rate": 4.706666666666667e-05, |
|
"loss": 1.7478, |
|
"step": 440 |
|
}, |
|
{ |
|
"epoch": 0.18, |
|
"learning_rate": 4.7e-05, |
|
"loss": 1.7327, |
|
"step": 450 |
|
}, |
|
{ |
|
"epoch": 0.18, |
|
"learning_rate": 4.6933333333333333e-05, |
|
"loss": 1.7432, |
|
"step": 460 |
|
}, |
|
{ |
|
"epoch": 0.19, |
|
"learning_rate": 4.686666666666667e-05, |
|
"loss": 1.7454, |
|
"step": 470 |
|
}, |
|
{ |
|
"epoch": 0.19, |
|
"learning_rate": 4.6800000000000006e-05, |
|
"loss": 1.7686, |
|
"step": 480 |
|
}, |
|
{ |
|
"epoch": 0.2, |
|
"learning_rate": 4.6733333333333335e-05, |
|
"loss": 1.7661, |
|
"step": 490 |
|
}, |
|
{ |
|
"epoch": 0.2, |
|
"learning_rate": 4.666666666666667e-05, |
|
"loss": 1.7503, |
|
"step": 500 |
|
}, |
|
{ |
|
"epoch": 0.2, |
|
"learning_rate": 4.660000000000001e-05, |
|
"loss": 1.7555, |
|
"step": 510 |
|
}, |
|
{ |
|
"epoch": 0.21, |
|
"learning_rate": 4.653333333333334e-05, |
|
"loss": 1.7655, |
|
"step": 520 |
|
}, |
|
{ |
|
"epoch": 0.21, |
|
"learning_rate": 4.646666666666667e-05, |
|
"loss": 1.7842, |
|
"step": 530 |
|
}, |
|
{ |
|
"epoch": 0.22, |
|
"learning_rate": 4.64e-05, |
|
"loss": 1.7529, |
|
"step": 540 |
|
}, |
|
{ |
|
"epoch": 0.22, |
|
"learning_rate": 4.633333333333333e-05, |
|
"loss": 1.7584, |
|
"step": 550 |
|
}, |
|
{ |
|
"epoch": 0.22, |
|
"learning_rate": 4.626666666666667e-05, |
|
"loss": 1.7452, |
|
"step": 560 |
|
}, |
|
{ |
|
"epoch": 0.23, |
|
"learning_rate": 4.6200000000000005e-05, |
|
"loss": 1.7815, |
|
"step": 570 |
|
}, |
|
{ |
|
"epoch": 0.23, |
|
"learning_rate": 4.6133333333333334e-05, |
|
"loss": 1.7536, |
|
"step": 580 |
|
}, |
|
{ |
|
"epoch": 0.24, |
|
"learning_rate": 4.606666666666667e-05, |
|
"loss": 1.7609, |
|
"step": 590 |
|
}, |
|
{ |
|
"epoch": 0.24, |
|
"learning_rate": 4.600000000000001e-05, |
|
"loss": 1.764, |
|
"step": 600 |
|
}, |
|
{ |
|
"epoch": 0.24, |
|
"learning_rate": 4.5933333333333336e-05, |
|
"loss": 1.7502, |
|
"step": 610 |
|
}, |
|
{ |
|
"epoch": 0.25, |
|
"learning_rate": 4.5866666666666666e-05, |
|
"loss": 1.7395, |
|
"step": 620 |
|
}, |
|
{ |
|
"epoch": 0.25, |
|
"learning_rate": 4.58e-05, |
|
"loss": 1.7582, |
|
"step": 630 |
|
}, |
|
{ |
|
"epoch": 0.26, |
|
"learning_rate": 4.573333333333333e-05, |
|
"loss": 1.7445, |
|
"step": 640 |
|
}, |
|
{ |
|
"epoch": 0.26, |
|
"learning_rate": 4.566666666666667e-05, |
|
"loss": 1.746, |
|
"step": 650 |
|
}, |
|
{ |
|
"epoch": 0.26, |
|
"learning_rate": 4.5600000000000004e-05, |
|
"loss": 1.7556, |
|
"step": 660 |
|
}, |
|
{ |
|
"epoch": 0.27, |
|
"learning_rate": 4.553333333333333e-05, |
|
"loss": 1.7345, |
|
"step": 670 |
|
}, |
|
{ |
|
"epoch": 0.27, |
|
"learning_rate": 4.546666666666667e-05, |
|
"loss": 1.7249, |
|
"step": 680 |
|
}, |
|
{ |
|
"epoch": 0.28, |
|
"learning_rate": 4.5400000000000006e-05, |
|
"loss": 1.798, |
|
"step": 690 |
|
}, |
|
{ |
|
"epoch": 0.28, |
|
"learning_rate": 4.5333333333333335e-05, |
|
"loss": 1.7542, |
|
"step": 700 |
|
}, |
|
{ |
|
"epoch": 0.28, |
|
"learning_rate": 4.526666666666667e-05, |
|
"loss": 1.7381, |
|
"step": 710 |
|
}, |
|
{ |
|
"epoch": 0.29, |
|
"learning_rate": 4.52e-05, |
|
"loss": 1.7502, |
|
"step": 720 |
|
}, |
|
{ |
|
"epoch": 0.29, |
|
"learning_rate": 4.513333333333333e-05, |
|
"loss": 1.7287, |
|
"step": 730 |
|
}, |
|
{ |
|
"epoch": 0.3, |
|
"learning_rate": 4.5066666666666667e-05, |
|
"loss": 1.772, |
|
"step": 740 |
|
}, |
|
{ |
|
"epoch": 0.3, |
|
"learning_rate": 4.5e-05, |
|
"loss": 1.7398, |
|
"step": 750 |
|
}, |
|
{ |
|
"epoch": 0.3, |
|
"learning_rate": 4.493333333333333e-05, |
|
"loss": 1.7383, |
|
"step": 760 |
|
}, |
|
{ |
|
"epoch": 0.31, |
|
"learning_rate": 4.486666666666667e-05, |
|
"loss": 1.7517, |
|
"step": 770 |
|
}, |
|
{ |
|
"epoch": 0.31, |
|
"learning_rate": 4.4800000000000005e-05, |
|
"loss": 1.7238, |
|
"step": 780 |
|
}, |
|
{ |
|
"epoch": 0.32, |
|
"learning_rate": 4.473333333333334e-05, |
|
"loss": 1.7242, |
|
"step": 790 |
|
}, |
|
{ |
|
"epoch": 0.32, |
|
"learning_rate": 4.466666666666667e-05, |
|
"loss": 1.7499, |
|
"step": 800 |
|
}, |
|
{ |
|
"epoch": 0.32, |
|
"learning_rate": 4.46e-05, |
|
"loss": 1.7569, |
|
"step": 810 |
|
}, |
|
{ |
|
"epoch": 0.33, |
|
"learning_rate": 4.4533333333333336e-05, |
|
"loss": 1.7168, |
|
"step": 820 |
|
}, |
|
{ |
|
"epoch": 0.33, |
|
"learning_rate": 4.4466666666666666e-05, |
|
"loss": 1.7709, |
|
"step": 830 |
|
}, |
|
{ |
|
"epoch": 0.34, |
|
"learning_rate": 4.44e-05, |
|
"loss": 1.725, |
|
"step": 840 |
|
}, |
|
{ |
|
"epoch": 0.34, |
|
"learning_rate": 4.433333333333334e-05, |
|
"loss": 1.7542, |
|
"step": 850 |
|
}, |
|
{ |
|
"epoch": 0.34, |
|
"learning_rate": 4.426666666666667e-05, |
|
"loss": 1.7469, |
|
"step": 860 |
|
}, |
|
{ |
|
"epoch": 0.35, |
|
"learning_rate": 4.4200000000000004e-05, |
|
"loss": 1.7129, |
|
"step": 870 |
|
}, |
|
{ |
|
"epoch": 0.35, |
|
"learning_rate": 4.413333333333334e-05, |
|
"loss": 1.7471, |
|
"step": 880 |
|
}, |
|
{ |
|
"epoch": 0.36, |
|
"learning_rate": 4.406666666666667e-05, |
|
"loss": 1.7309, |
|
"step": 890 |
|
}, |
|
{ |
|
"epoch": 0.36, |
|
"learning_rate": 4.4000000000000006e-05, |
|
"loss": 1.7578, |
|
"step": 900 |
|
}, |
|
{ |
|
"epoch": 0.36, |
|
"learning_rate": 4.3933333333333335e-05, |
|
"loss": 1.7537, |
|
"step": 910 |
|
}, |
|
{ |
|
"epoch": 0.37, |
|
"learning_rate": 4.3866666666666665e-05, |
|
"loss": 1.7541, |
|
"step": 920 |
|
}, |
|
{ |
|
"epoch": 0.37, |
|
"learning_rate": 4.38e-05, |
|
"loss": 1.729, |
|
"step": 930 |
|
}, |
|
{ |
|
"epoch": 0.38, |
|
"learning_rate": 4.373333333333334e-05, |
|
"loss": 1.7653, |
|
"step": 940 |
|
}, |
|
{ |
|
"epoch": 0.38, |
|
"learning_rate": 4.3666666666666666e-05, |
|
"loss": 1.786, |
|
"step": 950 |
|
}, |
|
{ |
|
"epoch": 0.38, |
|
"learning_rate": 4.36e-05, |
|
"loss": 1.7329, |
|
"step": 960 |
|
}, |
|
{ |
|
"epoch": 0.39, |
|
"learning_rate": 4.353333333333334e-05, |
|
"loss": 1.7489, |
|
"step": 970 |
|
}, |
|
{ |
|
"epoch": 0.39, |
|
"learning_rate": 4.346666666666667e-05, |
|
"loss": 1.7389, |
|
"step": 980 |
|
}, |
|
{ |
|
"epoch": 0.4, |
|
"learning_rate": 4.3400000000000005e-05, |
|
"loss": 1.7619, |
|
"step": 990 |
|
}, |
|
{ |
|
"epoch": 0.4, |
|
"learning_rate": 4.3333333333333334e-05, |
|
"loss": 1.7351, |
|
"step": 1000 |
|
}, |
|
{ |
|
"epoch": 0.4, |
|
"learning_rate": 4.3266666666666664e-05, |
|
"loss": 1.7487, |
|
"step": 1010 |
|
}, |
|
{ |
|
"epoch": 0.41, |
|
"learning_rate": 4.32e-05, |
|
"loss": 1.7499, |
|
"step": 1020 |
|
}, |
|
{ |
|
"epoch": 0.41, |
|
"learning_rate": 4.3133333333333336e-05, |
|
"loss": 1.7722, |
|
"step": 1030 |
|
}, |
|
{ |
|
"epoch": 0.42, |
|
"learning_rate": 4.3066666666666665e-05, |
|
"loss": 1.7198, |
|
"step": 1040 |
|
}, |
|
{ |
|
"epoch": 0.42, |
|
"learning_rate": 4.3e-05, |
|
"loss": 1.7282, |
|
"step": 1050 |
|
}, |
|
{ |
|
"epoch": 0.42, |
|
"learning_rate": 4.293333333333334e-05, |
|
"loss": 1.7139, |
|
"step": 1060 |
|
}, |
|
{ |
|
"epoch": 0.43, |
|
"learning_rate": 4.286666666666667e-05, |
|
"loss": 1.7745, |
|
"step": 1070 |
|
}, |
|
{ |
|
"epoch": 0.43, |
|
"learning_rate": 4.2800000000000004e-05, |
|
"loss": 1.7679, |
|
"step": 1080 |
|
}, |
|
{ |
|
"epoch": 0.44, |
|
"learning_rate": 4.273333333333333e-05, |
|
"loss": 1.6684, |
|
"step": 1090 |
|
}, |
|
{ |
|
"epoch": 0.44, |
|
"learning_rate": 4.266666666666667e-05, |
|
"loss": 1.7274, |
|
"step": 1100 |
|
}, |
|
{ |
|
"epoch": 0.44, |
|
"learning_rate": 4.26e-05, |
|
"loss": 1.7657, |
|
"step": 1110 |
|
}, |
|
{ |
|
"epoch": 0.45, |
|
"learning_rate": 4.2533333333333335e-05, |
|
"loss": 1.7391, |
|
"step": 1120 |
|
}, |
|
{ |
|
"epoch": 0.45, |
|
"learning_rate": 4.246666666666667e-05, |
|
"loss": 1.7278, |
|
"step": 1130 |
|
}, |
|
{ |
|
"epoch": 0.46, |
|
"learning_rate": 4.24e-05, |
|
"loss": 1.766, |
|
"step": 1140 |
|
}, |
|
{ |
|
"epoch": 0.46, |
|
"learning_rate": 4.233333333333334e-05, |
|
"loss": 1.7663, |
|
"step": 1150 |
|
}, |
|
{ |
|
"epoch": 0.46, |
|
"learning_rate": 4.226666666666667e-05, |
|
"loss": 1.734, |
|
"step": 1160 |
|
}, |
|
{ |
|
"epoch": 0.47, |
|
"learning_rate": 4.22e-05, |
|
"loss": 1.7712, |
|
"step": 1170 |
|
}, |
|
{ |
|
"epoch": 0.47, |
|
"learning_rate": 4.213333333333334e-05, |
|
"loss": 1.7529, |
|
"step": 1180 |
|
}, |
|
{ |
|
"epoch": 0.48, |
|
"learning_rate": 4.206666666666667e-05, |
|
"loss": 1.7348, |
|
"step": 1190 |
|
}, |
|
{ |
|
"epoch": 0.48, |
|
"learning_rate": 4.2e-05, |
|
"loss": 1.7976, |
|
"step": 1200 |
|
}, |
|
{ |
|
"epoch": 0.48, |
|
"learning_rate": 4.1933333333333334e-05, |
|
"loss": 1.7179, |
|
"step": 1210 |
|
}, |
|
{ |
|
"epoch": 0.49, |
|
"learning_rate": 4.186666666666667e-05, |
|
"loss": 1.7676, |
|
"step": 1220 |
|
}, |
|
{ |
|
"epoch": 0.49, |
|
"learning_rate": 4.18e-05, |
|
"loss": 1.7449, |
|
"step": 1230 |
|
}, |
|
{ |
|
"epoch": 0.5, |
|
"learning_rate": 4.1733333333333336e-05, |
|
"loss": 1.7503, |
|
"step": 1240 |
|
}, |
|
{ |
|
"epoch": 0.5, |
|
"learning_rate": 4.166666666666667e-05, |
|
"loss": 1.7229, |
|
"step": 1250 |
|
}, |
|
{ |
|
"epoch": 0.5, |
|
"learning_rate": 4.16e-05, |
|
"loss": 1.7432, |
|
"step": 1260 |
|
}, |
|
{ |
|
"epoch": 0.51, |
|
"learning_rate": 4.153333333333334e-05, |
|
"loss": 1.7284, |
|
"step": 1270 |
|
}, |
|
{ |
|
"epoch": 0.51, |
|
"learning_rate": 4.146666666666667e-05, |
|
"loss": 1.6969, |
|
"step": 1280 |
|
}, |
|
{ |
|
"epoch": 0.52, |
|
"learning_rate": 4.14e-05, |
|
"loss": 1.7578, |
|
"step": 1290 |
|
}, |
|
{ |
|
"epoch": 0.52, |
|
"learning_rate": 4.133333333333333e-05, |
|
"loss": 1.744, |
|
"step": 1300 |
|
}, |
|
{ |
|
"epoch": 0.52, |
|
"learning_rate": 4.126666666666667e-05, |
|
"loss": 1.7638, |
|
"step": 1310 |
|
}, |
|
{ |
|
"epoch": 0.53, |
|
"learning_rate": 4.12e-05, |
|
"loss": 1.7642, |
|
"step": 1320 |
|
}, |
|
{ |
|
"epoch": 0.53, |
|
"learning_rate": 4.1133333333333335e-05, |
|
"loss": 1.7197, |
|
"step": 1330 |
|
}, |
|
{ |
|
"epoch": 0.54, |
|
"learning_rate": 4.106666666666667e-05, |
|
"loss": 1.7119, |
|
"step": 1340 |
|
}, |
|
{ |
|
"epoch": 0.54, |
|
"learning_rate": 4.1e-05, |
|
"loss": 1.759, |
|
"step": 1350 |
|
}, |
|
{ |
|
"epoch": 0.54, |
|
"learning_rate": 4.093333333333334e-05, |
|
"loss": 1.807, |
|
"step": 1360 |
|
}, |
|
{ |
|
"epoch": 0.55, |
|
"learning_rate": 4.086666666666667e-05, |
|
"loss": 1.7718, |
|
"step": 1370 |
|
}, |
|
{ |
|
"epoch": 0.55, |
|
"learning_rate": 4.08e-05, |
|
"loss": 1.7607, |
|
"step": 1380 |
|
}, |
|
{ |
|
"epoch": 0.56, |
|
"learning_rate": 4.073333333333333e-05, |
|
"loss": 1.7472, |
|
"step": 1390 |
|
}, |
|
{ |
|
"epoch": 0.56, |
|
"learning_rate": 4.066666666666667e-05, |
|
"loss": 1.7624, |
|
"step": 1400 |
|
}, |
|
{ |
|
"epoch": 0.56, |
|
"learning_rate": 4.0600000000000004e-05, |
|
"loss": 1.8012, |
|
"step": 1410 |
|
}, |
|
{ |
|
"epoch": 0.57, |
|
"learning_rate": 4.0533333333333334e-05, |
|
"loss": 1.7158, |
|
"step": 1420 |
|
}, |
|
{ |
|
"epoch": 0.57, |
|
"learning_rate": 4.046666666666667e-05, |
|
"loss": 1.7435, |
|
"step": 1430 |
|
}, |
|
{ |
|
"epoch": 0.58, |
|
"learning_rate": 4.0400000000000006e-05, |
|
"loss": 1.7389, |
|
"step": 1440 |
|
}, |
|
{ |
|
"epoch": 0.58, |
|
"learning_rate": 4.0333333333333336e-05, |
|
"loss": 1.7352, |
|
"step": 1450 |
|
}, |
|
{ |
|
"epoch": 0.58, |
|
"learning_rate": 4.026666666666667e-05, |
|
"loss": 1.7385, |
|
"step": 1460 |
|
}, |
|
{ |
|
"epoch": 0.59, |
|
"learning_rate": 4.02e-05, |
|
"loss": 1.7531, |
|
"step": 1470 |
|
}, |
|
{ |
|
"epoch": 0.59, |
|
"learning_rate": 4.013333333333333e-05, |
|
"loss": 1.7637, |
|
"step": 1480 |
|
}, |
|
{ |
|
"epoch": 0.6, |
|
"learning_rate": 4.006666666666667e-05, |
|
"loss": 1.715, |
|
"step": 1490 |
|
}, |
|
{ |
|
"epoch": 0.6, |
|
"learning_rate": 4e-05, |
|
"loss": 1.7841, |
|
"step": 1500 |
|
} |
|
], |
|
"logging_steps": 10, |
|
"max_steps": 7500, |
|
"num_input_tokens_seen": 0, |
|
"num_train_epochs": 3, |
|
"save_steps": 500, |
|
"total_flos": 4.8745546776576e+17, |
|
"train_batch_size": 4, |
|
"trial_name": null, |
|
"trial_params": null |
|
} |
|
|